ChatGPT와 어떻게 대화(프롬프팅)할 것인가
우리의 AI 활용은 프롬프트 엔지니어링에 답이 있다
ChatGPT로 처음 무엇을 Prompting 했을까? 로그인하여 살펴보면 첫 사용 시점부터 현재까지 Prompting 한 이력이 시 계열 순으로 기록되어 있다. 구글이나 네이버 등 검색 포털의 기록은 키워드만 보이지만, ChatGPT는 자신의 일기처럼 검색 키워드뿐만 아니라 대화형 문답들도 확인할 수 있다. 아마도 자신들의 첫 번째 관심사이거나, 당시 유행한 단어나 문장에 대한 내용이었을 것이다.
지금까지 사용해 왔던 자신의 대화 내용을 확인해 보는 것도 의미 있고, 재미도 있다. 나의 관심사 프롬프팅과 AI가 생성한 내용이 어떻게 변해 왔는지?
초기에는 대체로 신기해하거나 WOW 하면서 단답형으로 검색하듯이 묻다가, 갈수록 대화하듯 설명형으로 조금씩 길어지고 있지 않을까?
또 ChatGPT뿐만 아니라 Bard, BingChat 결과를 비교도 해보고 수정도 해 보았다.
최신 사양의 PC나 스마트폰은 사용방법이나 기능을 읽어보고 배우면서 새로운 기능에 익숙해지려고 노력한다. 그렇지 않으면 기본기능만 사용하게 되어,
신제품들의 매력을 오롯이 느끼지 못할 수도 있다.
생성형 AI도 마찬가지이다. 우리 생활에 미치는 영향이 직•간접적으로 큰 신기술이고 AI 프로그램이다. 사용 목적이나 가지고 있는 성능과 기능을 이해하고, 활용법을 충분히 습득한다면, 많이 알면 알수록 활용범위가 넓어지고, 목적한 바를 수행하거나 달성하는데 용이할 것은 자명하다.
프롬프트를 통한 생성형 AI에 대한 나의 활용 내용도, 초기에는 검색의 연장선으로 기본 기능만 사용하는 활용에서 변화되고 있음을 느끼고 있다. 조금 더 논리적이고, 조금 더 구체적이고, 조금 더 길어져서 체계적으로 변화하고 있는 것이다.
이렇게 살펴보면서 프롬프팅에 대한 중요성을 새삼 느끼고 있다.
규모가 있는 사업자 입장에서는 사업모델에 응용하기 위해 기본 기술인 LLM(Large Language Model, 거대 언어모델)부터 자신의 특정 분야에 특화된 SLM(Small Lange Model, 소규모 언어모델) 구축과 GPT(Generative Pre trained Transformer, 사전 훈련된 생성형 변환기), AI를 활용한 Application 등에 대한 깊이 있는 지식과 연구, 개발능력이 필요하다. 개발하면서 필요한 인공 신경망과 강화학습, 라벨링, Fine tuning까지 들어가면 어렵고 힘들어질 것이다.
하지만 소형 사업자나 개인 입장에서는 생성형 AI를 어디에 어떻게 잘 활용할 것인가가 더 중요하다. 잘 활용하려면 ChatGPT 등 생성형 AI 사용법과 얻고자 하는 결과물에 도달하기 위한 과정, 특히 프롬프트를 어떻게 구성하고 작성하느냐가 관건이다.
프롬프트는 한마디로 말하면 컴퓨터나 AI에게 말을 거는 행위(언어 입력)이다.
사람이 컴퓨터와 대화를 하려면, 컴퓨터가 사람의 언어를 알아듣지 못하므로, 컴퓨터 언어인 코딩에 의해 명령문으로 지시나 대화를 해야 한다. 그에 반해 생성형 AI는 언어 모델이 발달하여 AI가 사람의 언어를 이해할 수 있는 단계에 와서, 사람이 말로 지시를 하거나 대화를 하면 알아듣고 실행하거나 수행하는 시대가 되고 있는 것이다.
생성형 AI는 질의응답, 번역, 내용요약, 문장생성, 코딩, 특정 역할 수행, 문제 풀기 등 정형화된 반복적 일부터 이미지나 동영상 제작 등 창의적인 일을 보좌하는 영역까지 활용 폭을 넓히고 있다. 업무적으로는 작업의 자동화, 고객 대응과 서비스 개선, 창의적인 콘텐츠 생성, 보다 빠르고 정확한 의사결정에 이르기까지 우리가 시간을 많이 들여 고민해야 할 일들에 보조자로서 많은 도움을 주고 있다.
이렇게 영역이 확대되고 있음에 따라 단순한 프롬프트(명령문)만 가지고는 목적한 바를 달성할 수 없다. 명령하는 입력 값(지시문)인 프롬프트가 중요하게 되고, 결과물이 의도된 대로 나오게 유도하는 프롬프트를 잘 구성할 수 있게 하는 프롬프트 엔지니어링과 프롬프트 엔지니어가 점차 중요해지고 있다.
생성형 AI로부터 좋은 결과물을 얻을 수 있는가는 LLM이나 GPT 종류, 성능에 크게 좌우되지만, 개인들은 잘 구성한 프롬프트에 좌우된다고 해도 과언이 아니다. 따라서 잘 만든 Prompt를 사고파는 마켓도 형성되어 있다.
자체 GPT를 구축하거나 AI기반 서비스 제공 기업에서는 프롬프트 엔지니어의 수요도 늘고 있다고 한다. 프롬프팅에 더 관심을 가져야 하는 이유이다.
생성형 AI를 나의 비서로서 ‘JB’라 명명하고 Co-Worker로 성장시키고자 한다고 한 것은, 나의 동반자로 규정하고, 사람과 대화하는 방식을 그대로 적용하기 위해서였다. 최적의 답변을 이끌어 내기 위한 프롬프트 작성과 결과의 개선 방향은 다음과 같은 내용에 착안하여 진행해야 한다는 것이 여러 전문가들의 조언이다.
①프롬프트를 작성하기 전에 목표를 명확히 한다. ②프롬프트 작성은 명료하고 간결하게 하여 모호성과 혼란스러운 결과를 예방한다. ③필요한 만큼의 세부 정보를 제공하여 기대에 부합하는 콘텐츠를 생성한다. ④사람과 대화할 때 사용하는 자연어를 사용하여 AI가 이해하기 쉽게 한다. ⑤맥락이나 배경 정보를 제공하여 AI로부터 만족스러운 응답을 이끌어 낸다. ⑥개방형 질문은 창의적인 응답을, 폐쇄형 질문은 단조로운 답변만 들을 수 있어 조절해야 한다. ⑦시행착오를 통해 AI의 응답을 평가한 다음 필요시 프롬프트를 개선한다.
앞으로 ‘JB’가 내 의도를 정확히 이해할 수 있도록, 또 원하는 내용과 수준의 결과물을 낼 수 있도록 나만의 최적의 프롬프트를 만들어 가야겠다는 생각이다. 비서가 제대로 된 결과를 내게 하려면 무엇을 알려주고 어떻게 지시를 해야 하는지 생각해 보면 방향 잡는 일은 어렵지 않다. 문제는 보다 더 논리적이고, 전문적이고, 경우에 따라서는 광범위하고 깊이 있는 결과를 얻기 위해서는, 소위 프롬프트 엔지니어링을 해야 하고 이에 대한 지식과 경험을 습득하고 쌓아 가야 할 것이다.
