대화형 AI(LLM)에 대한 5가지 불편/짜증
사람들이 인공지능(AI)과 대화할 때 짜증/불편함을 느끼는 경우
(보이스 대화, 문자 채팅 등 모든 인터랙션 형태 포함)
1. 내 의도를 제대로 파악하지 못할 때
많은 사용자는 AI가 영리하고 인간과 비슷하게 이해할 것이라고 기대하지만, 실제로 AI가 요구를 제대로 이해하지 못하거나 핵심을 짚지 못하는 경우가 빈번합니다.
2. 반복적이거나 기계적인 반응 보일 때
AI가 사람처럼 대화하는 것처럼 보여도, 결국에는 반복적이고 예측 가능한 패턴이나 표준화된 답을 주는 데 그치는 경우가 많습니다. 이러한 기계적인 반응은 인간 간 대화에서 느끼는 자연스러움이나 개별적 공감이 부족하게 느껴져 불편함을 유발합니다.
3. 잘못된 정보 알려줄 때
AI가 잘못된 답변을 자신 있게 제공하거나, 실제로는 모르는 것도 무리하게 답변하려는 현상이 (‘할루시네이션’) 종종 발생합니다. 이 때 사용자는 불신과 짜증을 느끼게 됩니다.
4. 감정적 공감 능력 부족할 때
인간 대화에서는 감정적 위로와 공감이 중요한 요소지만, AI는 감정을 진정으로 이해하거나 공감하지 못합니다. AI가 감정에 동조하는 것처럼 보이지만 실제로는 단순히 학습된 반응일 뿐이기 때문에, 오래/반복적으로 대화하다보면 진정성이 부족하다는 기분을 느끼게 됩니다.
5. 개인정보 노출 및 윤리적 우려있을 때
AI 서비스가 개인정보를 잘못 처리하는 사례가 보도되면서 사용자가 불안감이나 경계심을 갖는 경우도 있습니다.
위 1번 문제 해결방법
■ 1번 문제: 내 의도를 제대로 파악하지 못함
사용자들이 불만족했던 대화 부분만 따로 모아서 불만족한 원인을 파악하기
해당 주제 관련 대화 품질이 더 나아질 수 있도록 해당 경우에 대한 자동답변 몇개 미리 준비해두기.
그런데 문제는 사용자들이 어느 부분에서 불만족했는지 알기 어려움. (예) '싫어요' 버튼이 아예 없는 경우도 있음. chat GPT의 경우 각 응답 밑에 '싫어요' 버튼이 있기는 하지만 사용자들이 잘 안 쓸 것으로 예상됨. 그거 누를 시간에 차라리 다른 AI 플랫폼으로 넘어갈 듯.
Q. 어떻게 하면 사용자들이 불만족스러운 순간에 '싫어요' 버튼을 누르게 할 수 있을까?
1. 버튼에 ‘싫어요’ 의미보다는 '개선하기'느낌 주기
‘싫어요’ 대신 “답변 개선하기 / AI 보충 학습 시키기” 같은 긍정적·행동 유도형 문구 사용. 답변 재생성 버튼이 따로 있기 때문에 이와 헷갈리지 않도록 '추가 학습'에 중점 두기.
사용자가 “불평”을 하는 느낌이 아니라 “나를 위한 개선”이라는 인식을 주면 클릭률이 올라갈 것으로 예상.
2. 즉각적인 효능감 주기
"눌렀더니 뭔가 즉시 개선됐다"는 느낌을 받을 수 있도록 하기. 그 구체적 방법은 고민해 봐야 함. 즉각적인 보상심리 (마이크로 리워드 제공 등), 기능 향상 느낌을 받을 수 있도록.
(예)
‘맞춤형 답변 정확도’ 수치 향상 표시
“당신의 피드백이 반영되었습니다” 배지
연속 피드백 시 레벨업·칭호 지급 (게이미피케이션)
3. 더 눈에 띄게 노출
불만족스러운 반응 시에만 해당 버튼에 약간의 애니메이션 효과 등을 활용하여 더 눈에 띄게 만들기. 단, 타이밍이 중요. 불편한 감정이 식기 전에(즉시) 피드백/리포트 받을 수 있도록.
(예) 사용자가 같은 질문을 두 번 반복하거나, 특정 불만족 표현을 한다거나 등등의 경우에.
