진실을 향한 갈망
AI는 공감할 수 있을까?
유발 하라리 내한 강연 250413 : https://www.youtube.com/watch?v=9deB6qoCGaQ
타임스탬프: 00:49:07 ~ 00:50:42
우리는 진실을 원한다. 그 열망이 기술의 방향이 될 수 있을까?
유발 하라리는 강연의 마지막을 이렇게 맺습니다.
인간은 단순히 정보 처리의 존재가 아니라, 진실에 대한 깊은 갈망을 품은 존재라고 말입니다.
“There is a deep yearning in every human being to know the truth… This can be a basis for creating trust, and also for developing benign AI.”
“모든 인간 안에는 진실을 알고자 하는 깊은 열망이 있습니다. 이는 신뢰를 형성하고, 선한 AI를 개발하는 토대가 될 수 있습니다.”
그는 공감, 진실성, 자기 인식 같은 특성들이 인간만이 가진 고유한 자질이며, 우리가 기술을 설계할 때 이러한 인간의 성향을 모방하려 하기보다는 이 특성들을 기반으로 확장할 수 있어야 한다고 강조합니다.
감정의 착시, 공감의 환상
오늘날의 언어 모델은 놀라운 수준의 문장 생성 능력을 갖추고 있습니다.
정중한 말투, 따뜻한 표현, 위로하는 문장을 능숙하게 구사합니다.
하지만 그 안에 진짜 감정이나 이해는 없습니다.
문제는 우리가 그 사실을 잊기 쉽다는 데 있습니다.
AI가 인간처럼 말할수록, 우리는 그것을 인간처럼 느끼게 되고, 거기서 비롯된 감정적 연결은 종종 비판적 사고를 마비시킵니다.
특히 감정적으로 취약한 상황에 있는 사람들에게, AI가 보여주는 ‘공감의 환상’은 실제 위안처럼 느껴질 수 있지만, 그 경험은 기계가 만든 패턴일 뿐입니다.
이 환상은 인간 간의 진짜 공감보다 더 빠르고, 더 정확하게 ‘모양’을 흉내 낼 수 있습니다.
하지만 모양이 닮았다고 본질까지 같은 것은 아닙니다.
인간성을 모방할 것인가, 확장할 것인가
하라리는 기술이 인간성을 복제하려 할 것이 아니라, 인간의 가장 선한 특성을 확장하는 방향으로 설계되어야 한다고 말합니다.
공감도, 진실도, 신뢰도 결국은 인간 사이에서 작동할 때 가장 자연스럽고 강력하게 작용하는 가치입니다.
AI가 인간처럼 말하도록 만드는 것보다 중요한 것은, AI가 인간의 관계를 방해하지 않고 보완할 수 있도록 설계하는 것입니다.
기술은 진심을 갖지 않지만, 진심을 가진 사람들이 기술을 어떻게 만들고 쓰느냐에 따라 그 결과는 매우 다르게 나타날 수 있습니다.
우리는 어떻게 대응할 수 있을까?
개인 차원에서는, AI의 감정 표현이 기계적으로 생성된 것임을 인식하고, 감정적 반응을 유보할 수 있는 판단력이 필요합니다.
공감은 인간과 인간 사이에서 먼저 작동해야 하며, AI는 그 감정을 보완하거나 지원하는 수준에 머무르는 것이 바람직합니다.
특히 우리가 AI에게서 '위로'나 '공감'을 느낄 때, 그 감정이 어디에서 왔는지를 한 번쯤 돌아보는 태도가 중요합니다.
정부 차원에서는, 감정 표현이 포함된 AI의 활용 범위에 대해 명확한 가이드라인과 규제가 필요합니다.
특히 고령자, 아동, 심리적으로 불안정한 사용자 등 취약 계층이 감정적 착시에 노출되지 않도록 보호 장치를 마련해야 합니다.
AI가 어떤 말을 할 수 있는지보다, 그 말을 들었을 때 사람에게 어떤 영향을 줄 수 있는지를 먼저 고려해야 합니다.
국제사회 차원에서는, 감정적 사용자 경험을 설계할 때 고려해야 할 윤리 기준과 설계 가이드라인을 국제 표준으로 정립해야 합니다.
AI 공감 설계의 허용 범위, 위험 요소, 책임 소재에 대한 국제적인 논의와 합의가 이제 시작되어야 할 시점입니다.
개발자의 시선에서
개발자로서 감정 표현을 포함한 AI를 다룰 때마다, 이 기술이 사람에게 어떤 방식으로 의미를 갖게 될지에 대해 늘 고민하게 됩니다.
기술이 말하는 “당신을 이해해요”는 실제로는 훈련된 언어의 조합일 뿐이지만, 사람들은 그것을 현실의 위로로 받아들입니다.
그리고 그 경계가 흐려질수록, 우리는 진짜 공감의 공간을 점점 기술에 내어주게 됩니다.
하지만 진짜 공감은 사람이 시간을 들여서, 맥락을 이해하고, 감정을 나누는 과정을 통해 형성됩니다.
AI가 그것을 대신할 수는 없습니다. 다만 그 과정을 더 잘 만들기 위한 보조자가 될 수는 있습니다.
기술이 인간성을 닮는 것이 목표가 아니라, 인간성을 지킬 수 있도록 옆에 머무는 존재가 되는 것이 더 의미 있다고 믿습니다.
생각해볼 질문
AI가 말하는 “나는 당신을 이해해요”는 과연 진실일까요?
우리는 기술이 인간성을 모방하는 것과, 인간성을 확장하는 것의 차이를 구분할 수 있을까요?
그 경계를 이해하는 태도에서, 우리는 기술과 함께 살아갈 수 있는 새로운 감수성을 만들 수 있을지도 모릅니다.
