개발자, 기획자, 마케터의 LLM 활용법
[트렌드클럽] 5회차 현장스케치&요약본
요즘 제일 핫한 키워드는 어딜 가나 AI입니다. 특히 스타트업 생태계에서는 창업, 취업, 투자부터 정책까지 전영역에서 다음 AI 트렌드는 무엇이고, 넥스트 오픈AI, 넥스트 SORA는 어디일지 주목하고 있는데요. 스타트업 업계가 꼭 알아야 할 AI 트렌드는 무엇인지 알려드리기 위해, 트렌드클럽이 AI 특집을 준비했습니다. 많은 주제 중에서도 특히 생성형AI의 기반이 되는 LLM, 즉 대규모언어모델(Large Language Model)에 대해 알아보고 있는데요.
올해 마지막 트렌드클럽에서는 현업에서 LLM을 활용하고 있는 세 분을 모셨습니다. 개발자, 기획자, 마케터는 LLM을 어떻게 활용하고 있을까요? 다섯 번째 트렌드클럽 요약, 지금 시작합니다!
*트렌드클럽은 저녁 시간을 활용해 스타트업 업계 트렌드와 동향을 전하는 행사입니다. 2025년 트렌드클럽 소식이 궁금하신 분은 스얼레터를 구독하시면 가장 먼저 소식을 받아보실 수 있습니다!
*현장에 참석해주신 분들을 위해 요약본에서는 모든 강연 내용을 담지 않습니다. 궁금하신 분들은 트렌드클럽을 찾아주세요! :)
개발자, 기획자, 마케터! 현업 실무자들의 LLM 활용 리얼스토리(11.19.)
0. 들어가기 전에
AI는 개발, 기획, 마케팅 업무에 어떤 변화를 가져올 수 있을까요? 스타트업얼라이언스가 발표한 <스타트업 트렌드 리포트 2024>에 따르면 스타트업 재직자의 48.5%, 대기업 재직자의 40.0%가 업무에 AI를 활용하고 있다고 합니다. 특히, 스타트업 재직자 5명 중 1명(20.5%)는 적극적으로 AI를 활용하고 있다고 하네요(<스타트업 트렌드 리포트 2024> 보러가기).
*출처: 스타트업얼라이스, <스타트업 트렌드 리포트 2024>우리는 왜 AI를 업무에 활용하려 할까요? 대표적인 이유는 역시 '업무효율성 증대'입니다. 스타트업 재직자의 20.5%, 대기업 재직자의 27.4%가 AI를 업무에 도입하는 것의 긍정적인 효과를 업무효율성으로 꼽았습니다. 11월 19일 진행된 2024년 마지막 트렌드클럽에서는 개발자, 기획자, 마케터들이 업무효율성을 높이기 위해 LLM을 어떻게 활용하고 있는지 실전경험담을 들어봤습니다.
1. 개발자의 LLM활용법: 더 적은 시간에, 더 많은 문제를 풀게 해주는 도구
첫 번째 연사로 나선 서지연님은 뉴스, 커머스, 엔터테인먼트 등 여러 도메인에서 일한 경험을 가진 개발자입니다. 지연님은 AI를 활용해 개발자의 생산성을 어떻게 향상시킬 수 있는지, 실제로 지연님은 LLM을 어떻게 활용하고 있는지 이야기해주셨습니다.
개발자들이 AI를 활용하는 범위는 매우 넓다고 하는데요. 지연님은 크게 여섯 가지 범주에서 개발자들이 AI를 활용할 수 있다고 설명했습니다. (1)Code Generation(=코드 작성), (2)Bug Fix(=오류를 미리 캐치하고 처리), (3)Refactoring(=최적화), (4)Documentation(=문서화), (5)Explanation(=코드 안에서의 검색이나 설명), (6)Study(=코드를 리뷰하고 공부)입니다. 많은 솔루션 중에서도 Cursor와 GitHub Copilot이 '끝판왕'이라고 하는데요. 자연어로 코드를 자동으로 완성(Auto complete)해줄 뿐만 아니라, 코드를 추천해주거나 내 코드의 개선점을 제안해줄 수 있다고 합니다. 지연님의 책 제목 <요즘 AI 페어 프로그래밍>처럼, 나와 페어(pair)로 프로그래밍하는 친구가 생기는 거네요.
이렇게 AI와 페어로 프로그래밍하면 정말로 생산성이 향상될까요? 특히 입문자, 주니어 개발자의 코딩 생산성에는 큰 도움이 된다고 하는데요. 개발자에게 있어서 AI를 잘 사용한다는 것이 어떤 의미인지 지연님은 이렇게 설명해주셨습니다. "지금까지 10시간 동안 하나의 문제를 풀었다면, 이제는 2시간 안에 같은 문제를 풀고 더 많은 문제를 풀 수 있다고 생각하는 자세가 중요해요". 그렇다면 AI 시대에 개발자에게 필요한 역량은 무엇일까요? 지연님은 좋은 개발자는 문제 정의를 올바르게 하고, 그 문제를 해결할 올바른 방법을 찾아내는 능력을 갖춘 개발자라는 말로 발표를 마무리했습니다.
2. 기획자의 LLM활용법: AI를 재료로, 프로덕트의 지속적인 성장 만들기
두 번째 연사인 이승헌님은 에듀테크 기업 뤼이드(Riiid)에서 산타, AI Tutor라는 AI 프로덕트를 만들면서 고민하고 실행해온 경험을 공유해주셨습니다. 승헌님의 가장 큰 고민은 '어떻게 하면 AI 프로덕트의 지속적인 성장을 만들 수 있을까?'라고 합니다.
승헌님이 생성형 AI라는 '재료'에 처음 관심을 갖게 된 것은 2022년 챗GPT 등장 이후 산타 세이(Santa SAY)라는 신규 프로덕트 출시를 맡게 되면서부터였다고 합니다. 지금도 챗GPT, 퍼플렉시티, 노트북LM, 노션AI까지 정말 많은 툴들을 업무에 활용하고 있다고요. "생성형 AI를 우리 제품에 접목한다면 기존에 제공할 수 없었던 매력적인 경험을 제공할 수 있겠다는 생각이 들었어요". 하지만 동시에 제대로 활용하지 못한다면 오히려 고객 경험을 악화시키거나 비즈니스 리스크를 야기할 수도 있겠다는 우려도 들었다고 하는데요. 그렇기 때문에 더더욱 생성형 AI라는 재료를 잘 다루기 위한 방법을 고민했다고 합니다.
우리가 앞서 첫 번째 트렌드클럽에서도 살펴본 바와 같이, LLM의 기반은 확률론입니다. 확률에 따라서 결과물을 내놓기 때문에 고객 입장에서는 일관적이지 않다고 느껴질 수 있고, 고객의 니즈와 부합하지 않는 결과물로 인해 고객의 신뢰가 악화될 수 있다는 것이죠. "신뢰할 수 있는 AI 제품을 만들기 위해서는 LLM의 특성을 먼저 이해해야 한다고 생각했어요". 하지만 다른 한편으로, 승헌님은 AI의 특성을 고려한 제품을 만들더라도 PM이 가장 먼저 해야할 일은 회사의 비전과 얼라인된, 매력적인 고객 경험을 구성하는 것에 있다고 강조했습니다. "고객의 여정을 상상하고, AI라는 기술이 그 여정 중 어떤 영역을 도와줬을 때 고객의 목표가 달성될 수 있을지 고민했기에 매력적인 고객 경험을 만들 수 있었어요".
승헌님은 이제 더 의미있는 제품으로 성장시키기 위한 고민을 하고 있다고 합니다. "생성형 AI가 등장하면서 생긴 기회들이 참 많은데요, 그 기회들을 고객 가치로 변환하는 것이 PM의 일이라고 생각합니다. 요리사들이 같은 재료를 가지고도 다른 요리법을 적용해 최적의 조합을 찾아나가는 것처럼, 저 역시도 AI라는 획기적인 재료를 목적에 맞게 쓸 수 있도록 고민하고 있어요".
3. 마케터의 LLM 활용법: 작업 중심 마케팅에서 시스템 중심 마케팅으로
마지막 연사인 오힘찬님은 14년차 테크 칼럼니스트이자 출판사 골든래빗의 마케터입니다. 최근에는 <이게 되네? 챗GPT 미친 활용법 51제>라는 책으로 더 유명한 분이죠. 힘찬님은 혼자 마케팅을 운영하면서도 경쟁 출판사와 비슷한 성과를 낸 비결이 LLM활용에 있었다고 이야기했습니다. "다른 출판사에서는 3명이 할 마케팅 운영 업무를 저는 혼자서 하고 있습니다. 챗GPT를 활용해 기존에 북마케터들이 해왔던 일들을 자동화했기 때문에 가능한 일이죠".
예전에는 오프라인 서점의 여러 지점과 소통하느라 인바운드 마케팅(=잠재 고객이 기업으로 찾아오게 하는 마케팅 방법)에 할애할 수 있는 시간이 거의 없었다고 하는데요. 지금은 챗GPT를 활용해 다양한 잠재 고객을 끌어모으고 이들에게 지속적으로 콘텐츠를 제공하고 있다고 합니다. "전 문과라 코딩을 배운 적은 없어요. 하지만 챗GPT를 활용하면 자동화된 시스템으로 인바운드 마케팅을 할 수 있죠. 예를 들면 디스코드에 '코딩하는 토끼들'이라는 개발자 커뮤니티 서버를 만들고, 개발자분들이 관심가질 만한 아티클, 뉴스를 자동으로 업데이트할 수 있어요".
힘찬님은 이것이 '시스템 중심 마케팅'이라고 설명했습니다. "생성형 AI로 마케팅을 효과적으로 한다는 것은 이메일이나 광고 카피를 AI가 대신 써준다는 게 아니에요. 내가 잘 못하는 것을 대신 해주는 시스템을 만드는 것이죠".
5. 패널 토크와 Q&A
이어서 패널토크에서는 넥스트인텔리전스 박종천 AI어드바이저님을 모더레이터로, 세 분의 연사를 다시 모시고 질의응답을 진행했습니다.
Q: AI를 잘 활용하는 개발자가 되려면 어떻게 해야할까요?
지연님: 두 가지 관점으로 나눠서 답변드릴 수 있을 것 같아요. 첫 번째로 AI를 잘 개발하는 개발자가 되려면, AI 도구를 사용하는 것이 아니라 정말 정석대로 딥러닝부터 잘 이해하는 것이 중요합니다. 두 번째로 AI라는 도구를 잘 활용하는 개발자가 되기 위해서는 결국 정확한 문제 정의와 해결방법을 깊게 고민해보는 것이 중요합니다. 내가 무슨 문제를 풀고자 하는지 명확해지면 좋은 해결방법을 찾을 수 있고, 이런 경험이 쌓이다보면 AI와 같이 세상에 나와있는 많은 도구들을 활용해볼 수도 있게 돼요. 눈을 크게 뜨고 새로운 도구들을 계속해서 찾아보는 태도 역시 중요하다고 할 수 있겠네요.
Q: AI 프로덕트 기획자는 어떤 역량이 필요할까요?
승헌님: 우선 AI를 이야기하기 이전에 PM으로서 고객 문제를 얼마나 잘 정의할 수 있느냐가 중요합니다. 그 문제에 AI 기술을 어떻게 잘 매칭할 수 있는지는 그 다음이죠. 저는 AI를 활용하는 것을 자전거를 타는 것에 많이 비유합니다. 자전거를 잘 타려고 할 때, 페달을 구르는 걸 먼저 연습하기보다는 앞을 보면서 달려가는 게 더 중요하잖아요. 마찬가지로 AI가 어떤 문제를 해결할 수 있을지 멀리 내다보고, 상상해보는 것이 중요합니다. 그 다음에 핸들을 바꾸거나, 자세를 바꾸는 것처럼 기술적인 영역에서 더 나은 방법들을 찾아보는 거죠.
Q: AI를 활용해 직무를 더 잘하고 싶은 사람들에게 조언한다면?
힘찬님: 저는 AI를 잘 활용하고 싶다는 분들에게크게 네 가지를 이야기합니다. 첫째, 직무전문성이 필요합니다. 챗GPT만 사용해도 전문용어를 사용하면 더 전문적인 결과를 얻을 수 있고 활용도가 높아집니다. 둘째, 확장성이 있어야 합니다. 사실 챗GPT만 가지고는 할 수 있는 일이 적기 때문에, 앱스 스크립트, 디스코드와 같은 다른 도구들도 사용할 수 있어야 합니다. 셋째, 유료 서비스를 사용해보셔야 합니다. 마지막으로 넷째는 계속 사용해봐야 한다는 겁니다. 부하직원들, 동료들과 이야기하듯이 계속 써봐야 잘 활용할 수 있습니다.
Q: 세 분은 어떤 계기로 LLM, AI를 활용하게 되었나요? Wow 모먼트가 있었다면 알려주세요.
지연님: 저는 전통적인 머신러닝(ML) 개발자였습니다. AI 모델을 직접 만들게 되면 데이터셋을 만들고 라벨링하는 데에 많은 시간이 소요되는데, 서비스에 적용되었을 때 결과물에 마음에 들지 않는다면 다시 이 과정을 반복해야 합니다. 특히, 저는 당시 얼굴인식과 관련된 업무를 했는데 동양인 데이터셋 자체가 굉장히 적어서 큰 어려움이 있었는데요. LLM이 등장하고 챗GPT가 빠르게 발전하는 모습을 보면서 서비스, 그리고 제 생활에 이것을 조금만 녹여봤는데 너무 편한 거에요. 제너럴하게 사용할 수 있다는 점이 가장 흥미로웠죠. 우리가 하고 있는 일의 20%는 우리의 전문성이 필요한 일이지만, 나머지 80%를 LLM이 정말 많이 도와줄 수 있다는 것도 흥미롭고 거기에 대한 학습비용이 없다는 것도 흥미로운 일입니다. 미래에는 80%가 아닌 90%의 일을 도와주리라고 기대하고 있어요.
승헌님: 발표에서도 말씀드린 것처럼 LLM이 좋은 재료라고 생각한 것이 시작이었습니다. LLM을 활용하면 이전에 할 수 없었던 일들을 더 할 수 있고, 제공할 수 없었던 가치를 제공할 수 있을 것 같다는 생각이 들어서 LLM 활용을 적극적으로 고민하게 되었습니다. 그리고 그것이 제품 개발과 잘 맞아떨어져서 더 깊이 고민해볼 수 있었고요. 실제 업무 경험에서는, 자동화 그 자체보다는 LLM이 짜준 초안을 바탕으로 더 깊은 생각을 할 수 있다는 게 매력적입니다.
힘찬님: 출판 산업에서는 사실 AI에 대한 관심이 덜했던 것이 사실입니다. 기술이 도입되려면 마켓 사이즈가 중요한데 출판 산업은 마켓 사이즈가 큰 편은 아니기도 하고, 본질적으로 제조업에 가깝기 때문에 자동화, 비용 절감을 더 중요하게 생각하기 때문이기도 합니다. 그런데 이런 출판 산업에서조차 저비용으로 LLM을 활용해 많은 변화가 발생하고 있다는 것, 그리고 저 역시도 LLM을 활용해 많은 변화들을 만들 수 있겠다고 생각이 들었던 것이 가장 중요한 계기였습니다.
마지막으로 세 분에게 마무리 멘트를 부탁드렸는데요. 세 분이 공통적으로 해주신 말씀으로 끝맺어보겠습니다.
"오늘처럼 다양한 사람들의 경험을 듣는 것이 나의 시야를 넓여줄 수 있어요. 모든 것은 내가 상상하는 데까지가 한계거든요. AI로 나의 생산성을 높이고 새로운 프로덕트를 만들려면, 내가 상상할 수 있는 한계점을 늘리고 내가 도달할 수 있는 곳을 끝없이 늘려야 합니다. 호기심을 가지고 LLM이라는 새로운 재료를 잘 알아보는 사람들이 결국 미래에 살아남는 인재가 될 겁니다".
이렇게 AI를 특집으로 달려온 올해 트렌드클럽이 끝났습니다. 그 동안 트렌드클럽에서는 (1)LLM이 무엇인지, (2)기업들은 LLM을 어떻게 활용하고 있는지, (3)프롬프트 엔지니어링은 무엇인지 알아보고, (4)LLM을 다양한 영역에서 활용하고 있는 스타트업 사례와 (5)현업에서 LLM을 활용하고 있는 개발자, 기획자, 마케터의 이야기를 들어봤습니다. 다섯 번의 트렌드클럽이 여러분의 시야를 넓히는 데에 도움이 되셨나요?
2025년에도 트렌드클럽은 스타트업 생태계가 알아야 할 중요한 트렌드를 가지고 돌아오겠습니다. 가장 빨리 다음 트렌드클럽 소식을 듣고 싶으시다면, 스얼레터를 구독을 잊지 말아주세요! 또 만나요!
