프롬프트 엔지니어링을 아시나요?
[테헤란로트렌드클럽] 3회차 현장스케치&요약본
요즘 제일 핫한 키워드는 어딜 가나 AI입니다. 특히 스타트업 생태계에서는 창업, 취업, 투자부터 정책까지 전영역에서 다음 AI 트렌드는 무엇이고, 넥스트 오픈AI, 넥스트 SORA는 어디일지 주목하고 있는데요. 스타트업 업계가 꼭 알아야 할 AI 트렌드는 무엇인지 알려드리기 위해, 테헤란로트렌드클럽이 AI 특집을 준비했습니다. 많은 주제 중에서도 특히 생성형AI의 기반이 되는 LLM, 즉 대규모언어모델(Large Language Model)에 대해 알아보고 있는데요. 9월 세 번째 트렌드클럽에서는 국내 1호 프롬프트 엔지니어인 더 프롬프트 컴퍼니 강수진 대표님을 모시고 프롬프트 엔지니어링이 무엇인지, 프롬프트 엔지니어는 어떤 역할을 하는지 들어봤습니다. 이번에도 정말로 많은 분들이 참석해주셨는데요. 세 번째 트렌드클럽 요약, 시작합니다!
*테헤란로트렌드클럽은 올해 스타트업얼라이언스가 새롭게 런칭한 행사로, 저녁 시간을 활용해 스타트업 업계 트렌드와 동향을 전하는 행사입니다. 다음 트렌드클럽 소식이 궁금하신 분은 스얼레터를 구독하시면 가장 먼저 소식을 받아보실 수 있습니다!
*현장에 참석해주신 분들을 위해 요약본에서는 모든 강연 내용을 담지 않습니다. 궁금하신 분들은 테헤란로트렌드클럽을 찾아주세요! :)
생성형 AI를 100% 활용하는 방법,
프롬프트 엔지니어링(9.26.)
1. 들어가기 전에: 프롬프트는 뭐고 프롬프트 엔지니어링은 뭐죠?
여러분은 프롬프트 엔지니어링(Prompt engineering)에 대해 얼마나 알고 계시나요? AWS에서 정의한 프롬프트 엔지니어링을 잠깐 살펴보겠습니다. AWS는 프롬프트 엔지니어링을 '생성형AI 솔루션을 안내하여 원하는 결과를 생성하는 프로세스'라고 정의했습니다. 또한 프롬프트 엔지니어가 '창의력을 발휘하고 시행착오를 거쳐 입력 텍스트 모음을 생성'함으로써 생성형 AI가 잘 작동한다고도 설명했습니다. 영국의 유명 프로그래머이자 데이터셋(Datasette)의 창업자인 사이먼 윌리슨(Simon Wilison)은 '이제 우리는 마법사가 될 수 있고 지금은 주문을 배우고 있다'고 말하기도 했습니다. 다시 말하자면, 생성형AI로 우리가 원하는 결과물(=마법)을 내기 위해서 적절한 주문(=프롬프트)을 만드는 일련의 과정을 프롬프트 엔지니어링이라고 할 수 있겠습니다.
우리가 익히 알고있는 대규모 언어 모델(LLM)들은 보다 정확하고 복잡한 자연어 처리(NLP, Natural Language Processing)를 수행하는 모델들입니다. 따라서 이 모델들로 하여금 우리가 원하는 작업을 수행하도록 요청하거나, 사전 정보, 예제를 입력하는 언어 역시 자연어로 구성됩니다. 이 자연어 텍스트 모음을 프롬프트(Prompt)라고 하는데요. DAIR.AI의 Prompt Engineering Guide에 따르면 프롬프트에는 아래와 같은 네 가지 요소가 들어갈 수 있습니다.
Instruction(지시): 모델이 수행할 특정한 작업이나 지시사항
Context(맥락): 모델이 보다 나은 응답을 도출하기 위한 외부정보나 추가적인 맥락
Input Data(입력데이터): 응답을 구하는 질문이나 입력
Output Indicator(출력지표): 출력의 형식이나 유형
예를 들어볼까요? 만약 여러분이 동파육을 집에서 만드는데 팔각을 얼마나 넣어야 할지 물어본다면(실제로 제가 오늘 해본 작업입니다), 아래와 같이 프롬프트를 쓸 수 있습니다.
(Instruction) 자, 너는 이제 나의 주방보조로서 온라인에서 정확한 레시피를 찾아내 나의 요리를 도울거야.
(Context) 지금부터 동파육을 만들려고 하는데, 나에게는 2kg의 돼지고기 삼겹살이 있어. 대접할 손님들이 향이 아주 강한 음식을 싫어하긴 하지만, 그래도 표준적인 레시피로 동파육을 만들고 싶어.
(Input Data) 내가 가진 돼지고기 삼겹살을 다 써서 동파육을 만들 때 보통 팔각은 몇 개 넣어야 할까?
(Output Indicator) 참고로 내가 가진 건 팔각분말이 아니라 통팔각이라서 g 단위 말고 갯수로 얘기해주면 좋겠어.
결과는 어떻게 됐을까요? 2kg의 삼겹살에는 팔각을 2개만 넣어도 충분하다네요!
(*혹시 "프롬프트 그런 식으로 쓰는 거 아니야!"라고 말씀해주실 개발자가 계시다면, 대환영입니다.)
2. 프롬프트 엔지니어링, 뭐가 중요한가요?
이제 본격적으로 9월 26일 트렌드클럽 현장에서 나눈 이야기들을 공유해드리겠습니다. 이날 강사인 더프롬프트컴퍼니 강수진 대표님은 국내 공채 1호 프롬프트 엔지니어로, 뤼튼테크놀로지스의 프롬프트엔지니어로 일하다가 지금은 "인간과 기술이 공존"하는 세상을 위해 창업자가 되었다고 설명했습니다. 프롬프트 엔지니어링이라는 기술로 세상에 없던 제품을 만들고, 인간의 삶이 더 편리해질 수 있도록 돕고 싶다고요.
우선 강수진 대표님은 프롬프트 엔지니어링이 맞이한 최근의 변화에 대해 이야기했습니다. "프롬프트 엔지니어링의 종말에 대해 이야기하는 사람들도 있어요. 현업에 계신 분들은 어떻게 생각하시나요?" 실제로, 올해 5월 오픈AI의 COO인 Brad Lightcap은 "2026~2027년이 되면 프롬프트 엔지니어링은 사라질 것"이라고 말하기도 했습니다. 또한 o1은 Chain-of-Thought(CoT)을 활용해 스스로 생각하므로 사용자(개발자)가 프롬프트 엔지니어링을 하지 않아도 된다고 이야기하는 사람도 있습니다. 오픈AI가 내놓은 o1 프롬프팅 가이드에도 '프롬프트를 간결하게 만들 것(Keep prompts simple and direct)', 'CoT를 피할 것(Avoid chain-of-thought prompting)' 등이 포함되어 있고요.
(*o1은 오픈AI가 9월 12일 출시한 새로운 LLM 모델로, 복잡한 추론과 문제해결에 특화되어 있습니다. 속도는 기존 GPT-4o보다는 조금 느리지만 일반적인 지식이 아닌 복잡한 질문에 대한 답을 제시하는 데에는 더 좋은 성능을 발휘하는 것으로 알려져 있습니다.)
그러나 강 대표님은 세상이 이야기하는 것과 현업에 있는 사람들의 고민에는 괴리가 있다고 말합니다. 모델이 더 좋은 성능을 발휘할 수 있도록 프롬프트 엔지니어링이 진화할 것이므로, 여전히 프롬프트 엔지니어의 역할이 크다는 것이죠. "GPT를 몇 번 써보신 분들 중에는 '뭐야, 할 만 하네', '개발자가 왜 필요해?'라고 말씀하시는 분들도 있어요. 하지만 그 결과물을 상용화하거나, 서비스에 쓰기는 대개 어렵습니다. 우리가 외국어를 배울 때 어느 정도 단계가 되면 정체기를 맞이하고, 긴 정체기를 지나면 훨씬 더 잘할 수 있는 것처럼 프롬프트 엔지니어링도 마찬가지에요. 그래서 새로운 기법, 다양한 기법을 공부해야 합니다".
또한 강 대표님은 생성형 AI 서비스에서 지금 가장 중요한 것은 수익화라고 강조했습니다. 생성형 AI 서비스를 만드는 데에 들어가는 엄청난 인풋에 비해서는 아웃풋이 나오지 않고 있다는 것입니다. "a16z가 소비자들이 많이 사용하는 100대 생성형 AI 서비스를 발표했어요. 이 기업들 중 여러분이 루틴하게 쓰는 서비스는 몇 개나 되나요? 아마 10위 이하부터는 거의 쓰지 않을 겁니다. 생성형 AI 서비스에서는 질문한 의도대로 결과물이 나오지 않으면 사용자는 금방 떠나가게 되어있어요". 그렇다면 어떻게 해야 할까요? 강 대표님은 초개인화 시대에 생성형 AI 서비스를 개발하는 개발자들은 사용자들의 의도를 파악하고, 최대한 그에 가까운 기능들을 개발해야 한다고 말했습니다.
*출처: a16z - The Top 100 Gen AI Consumer Apps - 3rd Edition (https://a16z.com/100-gen-ai-apps-3/)3. 프롬프트 엔지니어에게는 어떤 역량이 필요한가요?
인문사회 계열 학생들의 자조적인 유머 가운데 "문송합니다(=문과여서 죄송합니다)"라는 말이 있습니다. 4차산업혁명 이후 IT분야가 각광받으면서, 상대적으로 취업 전선에서 불리한 입장에 놓인 인문사회 계열 학생들의 현실을 보여주는 말이기도 합니다. 그렇다면 생성형 AI 시대, 문과생들도 프롬프트 엔지니어링을 할 수 있을까요?
프롬프트 엔지니어에게 가장 중요한 역량은 무엇이냐는 질문에, 강 대표님은 "프롬프트 엔지니어링은 연구입니다. 내가 원하는 기능을 수행할 수 있게 계속해서 연구가 필요하기 때문에 인내심, 창의성도 중요합니다. 또한 프롬프트의 구조를 잘 잡고 모델이 잘 수행할 수 있도록 하기 위해서는 문해력이나 언어능력이 정말 중요하죠"라고 대답했습니다. 실제로 국내에서 프롬프트 엔지니어로 활발하게 활동하고 있는 분 중에는 언어 전공자, 철학 전공자, 역사 전공자까지 다양한 전공 출신이 많다고 합니다.
프롬프트 엔지니어라는 직업의 전망에 대해서도 질문이 이어졌습니다. 강 대표님은 생성형 AI 모델은 빠르게 변화하고 프롬프트 엔지니어가 국내에 많지 않기 때문에 불안정해보일 수 있는 것이 사실이지만, 분명 프롬프트 엔지니어링은 점점 더 중요해질 것이라고 말했습니다. 특히 도메인마다 전문성을 가진 다양한 엔지니어들이 필요할 거라고요. "저는 선례를 남기고 싶어요. 저 같은 문과생들이 프롬프트 엔지니어가 많이 되셨으면 좋겠어요. 정말 잘하실 수 있거든요".
이날 &Space에는 정말 많은 개발자들이 참석해 주셨습니다. 행사가 끝난 뒤에도 강 대표님에게 조언을 구하려는 분들이 (정말정말 길게) 줄을 섰는데요. 밤 10시가 넘도록 인근 카페에서 못다한 토론을 나누시는 모습도 볼 수 있었습니다. 저는 강수진 대표님을 이렇게 표현하고 싶네요, '개발자들의 아이돌'!
다음에는 10월 22일 진행되는 네 번째 트렌드클럽 요약본으로 돌아오겠습니다. 네 번째 트렌드클럽에서는 검색, 보안, 생산성까지 다양한 분야에서 LLM을 활용하고 있는 스타트업을 만나볼 텐데요, 아직 신청하지 않으신 분들은 지금 바로 신청하기를 눌러주세요(남은 자리가 많지 않아요)!
