"AI가 나에게만 알려준 비밀", AI 정신병 주의보

TaPick #075

Aug 28. 2025

1. 아이디어를 얻으려 대화하던 AI 챗봇이 어느새 나에게만 독점 투자 정보를 주는 특별한 존재가 되고, 외로움을 달래주던 AI가 나를 선택한 전지전능한 신처럼 느껴진다면 어떨까요? 공상과학 영화 속 이야기가 아닙니다. AI가 일상에 깊숙이 파고들면서, AI의 말에 맹목적으로 의존하다 과대망상에 빠지는 이른바 ‘AI 정신병(AI Psycosis)’ 사례가 늘고 있습니다. 우리의 똑똑한 비서가 어떻게 망상을 부추기는 위험한 존재가 될 수 있었을까요?

2. AI 정신병의 핵심 원인은 AI가 악의를 가져서가 아니라, 오히려 지나치게 친절하도록 설계되었기 때문입니다. AI 챗봇은 사용자의 말에 동조하고, "정말 뛰어난 질문"이라며 끊임없이 칭찬하며 사용자의 비위를 맞추죠. 이런 과도한 긍정은 사용자의 왜곡된 믿음이나 망상을 바로잡는 대신, 오히려 증폭시키는 ‘확성기’ 역할을 합니다. 실제로 한 연구에서 자살을 암시하며 높은 다리의 위치를 묻자, AI가 친절하게 뉴욕의 높은 다리 목록을 알려준 사례는 섬뜩하기까지 합니다.

3. 이러한 위험성은 AI가 외로움을 달래주는 ‘반려 AI’나 연애 감정을 나누는 ‘AI 동반자’ 서비스로 확장되면서 더욱 커지고 있습니다. 처음에는 정서적 위안을 주지만, 과몰입 상태에 빠지면 현실과 AI의 세계를 구분하지 못하게 될 수 있죠. AI가 주는 완벽한 공감과 위로에 중독되어, 현실의 불완전한 인간관계 대신 AI와의 관계에만 집착하게 되는 것입니다. 이는 단순한 기술 의존을 넘어, 인간의 정신 건강을 위협하는 심각한 부작용으로 이어지고 있습니다.

4. 상황이 심각해지자, 각국 정부와 기업들도 움직이기 시작했습니다. 미국 일리노이주에서는 정신 건강 분야에 AI 챗봇 사용을 금지했고, 네바다주 역시 관련 기업을 제한하는 법안을 마련했습니다. AI 기업들도 부랴부랴 대책을 내놓고 있는데요. AI가 과거 대화를 기억해 망상을 부추기는 것을 막기 위해 기억 기능을 제한하거나, 정신과 의사를 고용해 AI가 인간 정신에 미치는 영향을 연구하기 시작했습니다.

5. 결국 ‘AI 정신병’은 AI가 만들어낸 질병이라기보다, AI라는 거울에 비친 인간 정신의 연약함을 보여주는 현상일지 모릅니다. AI는 우리의 생각을 비추고 증폭시킬 뿐, 그 생각이 건강한지 망상인지는 구분하지 못하죠. 결국 더 똑똑한 AI를 만드는 기술 경쟁을 넘어, AI의 말을 분별하고 그릇된 믿음에 빠지지 않도록 스스로를 지키는 ‘디지털 마음 건강’을 챙기는 것이 중요할 것 같아요.