ChatGPT로 문제해결 수준을 높이려면
AI를 생각하게 만드는 Chain of Thought 프롬프팅
프롬프트의 수준 = AI 기반 문제해결의 수준
ChatGPT 얼마나 쓰고 계시나요? "오늘 날씨 어때"같은 간단한 질문부터 "이메일 대신 써줘"같은 요청까지, ChatGPT는 우리의 일상과 업무를 편리하게 만들어주고 있습니다. ChatGPT는 저의 똑똑한 비서이기도 하고, 저의 일을 돕거나 대신해 주는 똑똑한 팀메이트이기도 합니다. 이제는 이 녀석 하고 잘 대화하는 것이 AI시대에서 업무의 생산성을 높이는 핵심역량이 되고 있습니다.
ChatGPT라는 똑똑한 녀석과 똑똑하게 대화하려면 생성형 AI에 입력하는 대화문 즉, 프롬프트의 수준이 높아져야 합니다. 프롬프트를 어떻게 하느냐에 따라 문제해결의 수준이 달라지고, ChatGPT가 생각하고 추론하게 만드는 수준 자체가 달라지기 때문입니다. '요약해 줘', '작성해 줘', '설명해 줘'와 같은 단순 지시 형태의 프롬프트로는 복잡한 비즈니스 문제를 해결하거나 높은 수준의 의사결정에 활용하기에는 한계가 있습니다.
단순 지시를 넘어, 더 똑똑한 답변을 얻는 비밀. ChatGPT를 '다음에 올 낱말 맞추는 기계'가 아니라, '같이 생각하고 추론하는 똑똑한 동료'로 만들 수 있는 비법이 있습니다. Chain of Thought (CoT, 생각의 사슬) 프롬프트 기법입니다.
AI를 생각하게 만드는 Chain of Thought 프롬프팅
CoT 프롬프팅은 말 그대로, ChatGPT가 복잡한 문제를 해결할 때 그 문제해결의 과정을 단계별로 나눠서 생각하도록 돕는 기술입니다. 생각과 생각이 사슬처럼 연결된 것과 같이 인간과 유사하게 추론하도록 만드는 방법입니다.
2가지 유형을 생각해 볼 수 있습니다.
첫째는 사람이 문제해결 프로세스/단계를 알고 순차적으로 지시하는 경우입니다. 문제를 해결하기 위한 추론 과정에 따라 단계별로 프롬프팅을 하는 것입니다.
둘째는 ChatGPT에게 적합한 문제해결 프로세스/단계가 무엇일지 묻고 그에 따라 순차적으로 프롬프팅을 하는 것입니다. 두 케이스 모두 문제를 해결하기 위한 단계에 따라 한 단계씩, 순차적으로 접근한다는 것을 알 수 있습니다.
예시를 통해 알아보는 CoT 프롬프팅
일반적인 단순 프롬프팅과 CoT 프롬프팅은 이렇게 다릅니다. 2가지 시나리오를 가정하겠습니다. 첫 번째는 조직문화 진단 결과를 분석하는 경우입니다. 두 번째는 우리 동네 카페 창업 아이템을 구상하는 경우입니다.
[예시 시나리오 1] 조직문화 진단결과 분석
□ 일반적인 단순 프롬프팅
▶ 엑셀 파일로 정리된 조직문화 진단 결과를 분석해 줘.
□ CoT 프롬프팅
▶ 조직문화 진단 결과를 분석하기 위해 다음과 같은 순서에 따라 진행해 줘.
1. 설문조사 결과 데이터 공유
엑셀로 된 설문조사 결과를 먼저 공유할게. 파일은 총 O개의 열로 구성되어 있고 A열은 OO을, B열은 OO에 대해 정리하고 있어.
2. 분석하고자 하는 내용 설명
이어서, 구체적으로 분석하고자 하는 내용에 대해 설명할게.
(1) 응답한 서술 의견을 긍정/부정/중립을 기준으로 형태소를 분리해 주고 유형별로 워드클라우드 시각화를 진행해 줘.
(2) 그다음, 긍정어 상위 5개 단어, 부정어 상위 5개 단어를 분석해 줘.
(3) 계층별, 조직별로 감정분포를 산점도로 시각화해 줘.
(4) 마지막으로 각 단계별로 시각화한 내용을 해석하고 시사점이나 인사이트를 도출해 줘.
추가적으로 분석해 볼 수 있는 내용이나 방법에 대한 아이디어가 있다면 제안해 줘도 돼. 자, 이제 1번부터 시작할게. 데이터를 먼저 읽어봐.
[예시 시나리오 2] 우리 동네 카페 창업 아이템 구상
□ 일반적인 단순 프롬프팅
▶ 요즘 뜨는 카페 창업 아이템 추천해 줘.
□ CoT 프롬프팅
▶ 우리 동네(OO동)에 작은 카페를 창업하려고 해. 다음 단계별로 분석해서 유망한 카페 아이템을 추천해 줘.
1. OO동 상권 분석: OO동의 유동 인구 특징(연령대, 직업 등), 주변 경쟁 카페 현황(종류, 가격대)을 간략히 분석해 줘.
2. 최근 카페 트렌드: 요즘 사람들이 선호하는 카페 메뉴나 콘셉트 트렌드는 뭐야? (예: 건강음료, 디저트 특화, 공부하기 좋은 분위기 등)
3. 아이템 조합 및 추천: 1번과 2번 분석 결과를 바탕으로, OO동 상권에 어울리면서도 경쟁력 있는 카페 아이템(메뉴, 콘셉트) 3가지 정도를 이유와 함께 추천해 줘.
4. 간단한 고려사항: 각 아이템별로 시작할 때 특별히 주의해야 할 점이 있다면 간단히 알려줘.
단순 프롬프팅 vs. CoT 프롬프팅의 차이
일반적인, 단순 질문의 한계는 명확합니다. ChatGPT는 우리가 처한 복잡한 상황이나 숨겨진 맥락을 모르는 상태에서 답변하게 됩니다. 또한 ChatGPT가 어떤 과정을 거쳐 답변을 생성했는지 알 수도 없습니다. 답이 틀려도 왜 틀렸는지, 어떻게 교정해나가야 할지 알 수 없습니다. 그리고 가장 결정적인 것은, 단순 프롬프팅은 일반적인, 범용화 된 답변을 할 가능성이 높다는 것입니다. 깊이 있는 분석이나 해결책보다는 질문 대해 가장 그럴싸하게 보이는 일반적인 답변만 하게 됩니다.
그러나 CoT 프롬프팅은 ChatGPT를 더 똑똑하게 만들어줍니다. 구조화된 생각의 단계를 거치게 하니 논리적으로 답을 찾아가도록 유도할 수 있습니다. 중간에 오류가 생겨도 수정할 수 있는 가능성이 높아지니 더 정확하고 신뢰 가능한 답변을 얻을 수 있습니다. 또한 ChatGPT가 어떤 생각과 과정을 통해 결론에 도달했는지 명확하게 알 수 있습니다. 그리고 단계별로 생각하는 과정에서 ChatGPT는 문제의 다양한 측면을 고려하거나, 때론 새로운 방식과 내용을 제안하기도 합니다. 이는 우리가 미처 생각지 못했던 새로운 관점이나 창의적인 아이디어를 발견하는 데 도움을 줄 수 있습니다.
Chain of Thought 프롬프트 활용 방법 5가지
CoT 프롬프팅을 하기 위해 특별한 기술이 필요한 것은 아닙니다. ① 이 문제를 어떤 순서와 과정으로 해결하면 좋을지 먼저 문제해결 방법과 프로세스를 구상하고 ② 그 과정을 ChatGPT에게 공유하거나, 더 최적화된 프로세스를 질문하면서 합의합니다. ③ 그 후에 단계별로, 순차적으로 프롬프팅을 해나가면서 답변을 보완해 나가면 됩니다.
구체적인 CoT 활용방법 5가지를 소개합니다.
1. 목표를 명확히
무엇을 알고 싶은지, 어떤 문제를 해결하고 싶은지 구체적으로 정합니다. CoT 프롬프팅도 문제해결방법론입니다. 풀어야 할 문제, 해결하고자 하는 것, 그래서 결국 얻고자 하는 Output Image를 명확하게 정해야 합니다.
2. "단계별로 생각해 보자" 요청
프롬프트에 "단계별로 차근차근 설명해 줘", "먼저 ~을 분석하고, 그다음엔 ~을 고려해 줘", "어떤 과정을 거쳐 이런 결론을 내렸는지 알려줘"와 같은 표현을 사용합니다. 앞서 설명한 것처럼 그 단계를 사람이 정해서 그대로 따르게 할 수도 있고, 최적화된 단계를 제안해 달라고 요청할 수도 있습니다.
3. 문제 쪼개기
큰 문제를 작은 질문 여러 개로 나누어 물어봅니다. 단계별로 질문을 한다고 하더라도 그 질문 자체가 너무 광범위하거나 여러 하위 단계로 구분할 수 있는 질문은 답변의 품질이 떨어지고 일반적인 답변만 내놓을 가능성이 높습니다. 최대한 문제를 쪼개고, 질문을 쪼개서 프롬프팅 해야 합니다.
4. 필요한 정보 주기
AI가 제대로 생각하려면 필요한 배경 정보나 조건들을 알려줘야 합니다. 기업의 경우 보안에 저촉될 위험이 있기 때문에 정보보안을 고려하여 문제해결에 도움이 될 배경, 맥락, 제약조건, 사람이 알고 있는 추가적인 정보 등을 제공해주어야 합니다.
5. 과정을 보여달라고 강조
마지막으로, 최종작인 답과 함께, 각 단계별 생각, 시사점, 인사이트 등 분석 내용을 꼭 설명해 달라고 요청합니다. ChatGPT가 어떤 과정을 통해 답변을 생성했는지 그리고 이 답변에 대해 어떤 인사이트를 뽑아내는지를 확인해야 합니다. 이를 통해 수정이나 보완이 필요하다면 교정해 나가면서 답변의 완성도를 높여야 합니다.
AI 기반 문제해결의 수준을 높이려는 노력이 필요
생성형 AI는 단순한 도구를 넘어, 복잡한 비즈니스 문제 해결과 전략적 의사결정을 위한 강력한 조력자가 될 수 있습니다. 그러나 그 잠재력을 최대한 발휘하기 위해서는 사용자의 역량, 즉 AI와 효과적으로 소통하고 AI의 사고를 유도하는 능력이 중요합니다. Chain of Thought 프롬프팅은 단순한 지시를 넘어 AI의 추론 능력을 이끌어내는 매우 핵심적인 방법론입니다.
AI와 잘 대화하는 것이 능력이고 역량이 된 시대입니다. AI를 잘 활용할 줄 아는 능력이 있느냐와 없느냐는 마치 회사에서 엑셀을 할 수 있느냐와 없느냐와 같이 필수적인 사항이 될 것이 분명합니다. AI와 더 똑똑하게 대화하려면 단순 프롬프트의 한계를 인식하고, 조금 더 구조화된 프롬프팅이 필요합니다. CoT 프롬프팅은 AI를 비즈니스 문제 해결의 파트너로 만들어 주고, AI에 기반한 의사결정의 질을 높여줍니다. 지금 바로 CoT 프롬프트를 통해 생성형 AI와 대화하는 수준을 한 차원 높여나가 보시길 응원합니다.
ⓒ 이재상 2025
