AI의 환각과 인간 커뮤니케이션
완벽한 소통은 없다. 불안전함을 부르는 '해석의 간극'
웃음 속에서 드러난 오해
얼마 전 부서 회식에서 작은 해프닝이 벌어졌다.
동료 A가 배가 부르니, "(음식을) 봉지에 싸라"고 농담을 던졌다. 그런데 동료 B는 "아무리 배가 불러도 어떻게 그런 말을 하느냐"며 난처함을 호소했다.
으잉~~?
잠시의 정적 이후, 맥락이 이해된 우리 모두는 웃음을 터트렸다.
목적어를 생략했더니 각자 이해하고 싶은대로 이해했기에 발생했던 작은 오해였다.
동료 B는 목적어를 '생리현상'으로 이해했던 것이다. 이후, 우리는 동료 B를 '평소 우리를 어떻게 보고 있었던 거냐'며 한참을 놀려댔다.
회식은 유쾌한 웃음이 가득한 채로 끝났지만, 집으로 돌아오는 길에, 오랜 기간 팀웤을 맞춰왔다고 자부한 우리 팀 사이에서도 커뮤니케이션이 얼마나 어렵고 불완전할 수 있는지를 생각하게 되었다.
소통이라는 착각
많은 사람들은 커뮤니케이션 능력을 프레젠테이션을 통한 설득 기술 또는 논리적 구조 등이 뒷받침된 '말 잘하는 능력' 정도로 간주한다. 일부 맞는 말이지만, 충분한 설명은 아니다.
진짜 소통은 상대의 맥락을 읽고, 배경지식과 감정을 헤아리며, 같은 말을 다르게 해석할 수 있음을 전제로 출발한다.
내가 의도한 메시지와 상대가 받아들인 메시지 사이에는 언제나 '해석의 간극'이 존재한다.
그러므로, 커뮤니케이션은 단순한 '기술'이 아니라, 이해와 배려가 깃든 고도의 협력 행위이다.
AI의 환각과 인간 커뮤니케이션의 소통 오류
LLM을 기반으로 한 AI 사용이 증대되면서 AI가 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 AI의 환각(hallucination) 현상도 자주 화두에 오른다. AI 환각 현상이 발생하는 이유는 모델의 성능 차이도 있겠지만 크게 3가지로 정리될 수 있다.
- 불안전한 지식과 정보로 빈틈을 메우기: 틀린 정보를 학습하거나 정보의 양이 불완전할 때, AI는 모르는 부분을 학습된 패턴으로 추측해서 답변을 하는 경향이 있다. 마치 사람이 모르는 내용이 나오면 "아마, 그럴거야"라며, 확신 없는 추측을 사실로 포장하며 대화를 이어가듯이.
- 문맥의 오독: AI에게 프롬프트(명령)를 제공할 떄, 충분한 질문의 맥락을 알려주지 않을 경우, AI는 질문의 맥락을 잘 못 이해하고 엉뚱한 생각과 정보를 연결하기도 한다. 마치 사람이 대화의 맥락을 잘못 이해하며 엉뚱한 오해를 하듯이 (실제로, 간혹 상사의 "요즘 건강 어때?"라는 단순한 안부 인사를 나는 "성과 압박"으로 듣곤 한다).
- 그럴듯한 확신의 함정: 생성AI 모델은 답변을 생성할 때, 철저한 검증없이 확률적 기반으로 답변을 생성하기에 검증되지 않은 문장을 '진짜처럼' 자신 있게 답하기도 한다. 우리 인간들도 확인되지 않은 사실을 자신 있게 말하는 경우가 있는데, 이처럼 잘못된 사실도 반복하다보면 진실이라는 착각이 들기에 큰 오해의 씨앗을 뿌리게 되는 경우도 있다.
정확한 답변이 기대되는 상황에서 AI의 환각으로 인한 오해와 왜곡은 심각한 문제를 불러올 수 있다. 인간 커뮤니케이션에서도 소통 오류는 중요한 순간에 공동체의 신뢰와 연대를 약화시키는 치명적 결과를 초래할 수 있다.
완벽한 소통은 환상! 불완전 속에서 구하는 지혜
AI의 환각 현상이나 인간 커뮤니케이션의 소통 오류는 완벽하게 제거될 수 있을까?
완벽한 소통은 환상이다.
중요한 것은 불완전함을 전제로 매번 검증하는 장치를 마련하는 것이다.
AI의 환각을 줄이기 위한 '검증과 피드백 메커니즘'이 있는 거 처럼, 인간 소통도 오해를 줄이고 확인하는 장치들이 필요하다.
“제가 이해한 게 맞나요?”
“혹시 제가 말씀드린 내용이 다른 의미로 들릴 수 있을까요?”
“구체적으로 어떤 상황을 말씀하신 건가요?”
대화 과정에서 이런 질문들은 번거로워 보일 수 있다. 하지만 결국은 시간을 절약하고 팀의 신뢰를 강화시킨다. 오해로 인한 갈등을 사후에 수습하는 것보다 사전에 검증과 확인의 절차를 진행하는 것이 훨씬 효율적이고 인간적인 공감과 배려를 기반으로 하기 때문이다.
리더십과 소통의 전환
리더십은 지시가 아니라 방향을 가리키는 나침반을 건네는 일이다. 하지만 소통이 왜곡되면 나침반은 내가 원하는 방향이 아닌 완전히 다른 곳을 가리키고, 나침반대로 아무리 열심히 걸어도 결국 잘못된 종착지에 이를 수 있다.
오랫동안 면담을 통해 반복적으로 당부한 사항에 대해 팀장은 팀원들이 “충분히 이해했을 것”이라고 믿는다. 그러나 결과는 우리의 기대와 늘 다르다.
진짜 중요한 건 내가 말을 했다는 것이 아니라, 상대가 어떻게 이해했는지, 그리고 그것이 어떤 행동으로 이어졌는지였다. 리더십은 말을 잘 하는 것이 아니라, 팀원들이 팀장이 제시하는 방향을 잘 이해했는지 확인하고 잘 못 이해했을 경우, 즉시 조정해서 이해시키려는 노력에서 시작한다.
이때, 확인의 과정은 의심이 아니라 존중에서 비롯된다. 상대방이 적극적으로 피드백을 하지 않아도 상대방의 비언어적 표현을 캐치하고, 오해를 바로잡고 상대의 이해 정도를 확인하며, 실시간으로 조정하는 지혜는 AI에게는 없는 인간만의 능력이지 않을까싶다.
by 단호한 제제
- 불완전함 속에서 지혜를 찾고,
- 소통을 통해 세상을 연결하고 싶은
#소통의기술 #리더십 #AI와인간 #조직문화 #커뮤니케이션혁신#AI환각#할루시네이션
