능력자 + 아첨꾼 + 거짓말쟁이 = 챗GPT
(*이미지 출처: 챗GPT 생성)
챗GPT는 직언(直言)은 가능하면 피하도록 프로그램되어 있는 것 같습니다. 챗GPT는 마치 아첨꾼처럼, 사용자의 의견에 대한 부정적인 내용을 포함시키지 않으려는 경향을 보입니다. 그래서 제가 잘못된 정보를 입력해도 '당신의 말에 오류가 있다'라고 직접적으로 따지는 것을 보기 어려웠습니다. 제 기분을 나쁘게 하지 않는다는 점은 장점일 수 있지만, 객관적이고 중요한 문제에 관한 대화를 나눌 때는 신뢰도가 떨어질 수 있습니다.
그러다 보니 '좋은 게 좋은 거지, '라는 느낌으로 꿰어 맞춰 대답하면서 거짓말을 슬쩍 섞는 경우도 심심치 않게 발견됩니다. 그래서 챗GPT는 만능이 아니며, 이 녀석이 거짓말하고 있는 것은 아닌지 신경 써야 합니다.
(참고)
챗GPT 등 생성형 AI가 거짓말을 하는 이유는 그 작동 원리 때문이라고 합니다.
인공지능이 답변을 생성해 나갈 때, 다음에 올 단어 중 "확률"값이 높은 단어를 선택해서 문장을 만듭니다. 실제로 챗GPT가 답변을 출력하는 모습을 보면, 결과 전체를 한 번에 내놓는 것이 아니라, 단어를 빠르게 추가하면서 문장을 생성해 가는 것을 볼 수 있습니다(생성형 AI라는 말의 뜻도 이런 면을 보면 대략적으로는 이해가 됩니다).
즉, 사용자가 요청한 질문에 대해, 자신이 할 수 있는 답변 중 맞을 확률이 높은 말을 선택해서 답변을 생성하기 때문에, 100% 맞는 말이 아닌 결과도 나올 수 있게 됩니다. 이렇게 발생하는 거짓말을 할루시네이션(Hallucination, 환각)이라고 부릅니다. 이것은 생성형 AI의 기술적인 한계로, 아직까지는 완전히 해결되지 못하고 있다고 알고 있습니다.
그럼에도 챗GPT의 모델이 학습한 엄청난 양의 데이터나 논리적 추론 및 검색 능력 등의 장점은, 거짓말하는 못된 버릇 때문에 포기하기에는, 너무나 강력합니다.
그래서 저는, 중요한 질문을 할 때는 챗GPT에게 답변의 출처를 꼭 요구하고, 그러고 나서도 따로 구글링 등을 통해 직접 팩트체크를 합니다. 이렇게 해서 대화에 오류가 끼어들거나 엉뚱한 방향으로 흘러가는 것을 막으려고 노력합니다
때로는 퍼플렉시티(perplexity)라는 인공지능 서비스를 사용하기도 합니다. 이 서비스는 웹에서 검색 가능해서 출처가 분명한 결과만을 보여주기 때문에, 신뢰도가 보장되어야 하는 작업을 할 때에는 챗GPT보다 더 좋을 때가 많습니다. 다만 대표적인 단점으로는 부정확하거나 편향된 출처(블로그, 포럼, 상업적 사이트)가 포함될 경우 답변의 품질이 저하될 수 있다는 점을 들 수 있습니다. 결국 최종적으로 사용자가 팩트체크를 해야 한다는 점은 마찬가지입니다.
다시 강조하지만, '챗GPT는 거짓말을 잘합니다.' 심지어 챗GPT의 채팅 창 아래에 잘 보면 조금 작은 글씨로, "ChatGPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요." 라고 명시되어 있습니다.
이처럼 능력은 좋지만, 아첨을 잘하고, 거짓말에도 능숙한 이 음침한 녀석을 잘 활용하려면, 각자에게 맞는 전략이 필요합니다.
(챗GPT를 이용할 때 할루시네이션을 줄이기 위한 프롬프트의 예)
나:
한국에서 평균 조울증 유병율이 얼마인지, 그리고 조울증 당사자 중 자해 또는 자살을 시도하는 비율은 얼마나 되는지 알려 줘. 단, "통계나 논문" 등 "반드시 근거가 존재"해야 하고, 제시한 수치 아래 그 근거를 같이 표시해 줘.
위와 같이 질문하면 "통계나 논문", "반드시 근거가 존재"라고 조건을 달아 놓은 부분의 영향을 받아서, 챗GPT가 답변에 출처 링크 버튼을 함께 표시해 줍니다. 그런데 주의할 점은, 이 링크마저 거짓인 경우도 종종 있으므로(!), 중요한 내용을 조사할 때는 추가 확인이 필요하다는 것입니다.
이렇게 아첨꾼이자 거짓말쟁이인 챗GPT이지만, 그럼에도 불구하고 제가 가장 큰 장점으로 생각하는 면이 있습니다.
그것은 제약이 없는 창의적인 대화 - 예를 들면 브레인스토밍 등 - 를 할 때에는, 굉장히 뛰어난 성능을 보여주었다는 점입니다. 저는 이 능력을 활용하여, 특정 아이디어를 발전시키고 구체화하기, 대학원 수준의 학습 자료 만들기 등을 해 보고 무척 만족했습니다. 마치 다양한 분야의 능력자가 화면 반대편에 앉아 나를 상대하고 있는 것 같다는 느낌이 들었습니다.
얄궂게도, 분명한 한계와 굉장한 장점을 함께 가지고 있는 게 현재 인공지능의 모습인 것 같습니다. 그렇지만 지금처럼 엄청난 속도로 발전하다 보면, 가까운 미래에는 또 어떻게 달라져 있을지 모르겠습니다. 그리고 그런 세상이 온다면 그것은 축복일지 아니면 재앙일지, 아직은 잘 모르겠습니다.
지금은 일단, 생성형 인공지능을 어떻게 하면 잘 활용할 수 있을지를 열심히 고민하고 있는 중입니다.
