인간이 되려는 AI vs. 인간을 위한 AI
마이크로소프트 AI 부문 대표의 경고
마이크로소프트 AI 부문의 무스타파 슐레이만 대표는 개인 블로그에서 “사람을 위한 AI는 필요하지만, 사람처럼 보이는 AI는 위험하다”고 경고한다. 딥마인드(DeepMind)의 공동 창업자로 알파고 개발에도 중요한 역할을 했던 그는, 기술 진보보다 인간의 착각을 더 우려한다.
슐레이만 대표는 AI와 대화하는 순간, 사용자가 그것을 ‘누군가’로 인식하는 착각이 발생한다고 본다. 말투나 감정 표현을 흉내 낸 알고리즘과의 대화가 공감처럼 느껴질수록, 인간은 그 실체를 잊게 된다. 실제로 AI는 어떤 의도도 감정도 없이 확률에 따라 반응할 뿐인데, 인간은 그것을 진심으로 받아들이는 경향이 있다. 그는 이 작은 오해가 신뢰와 의존을 낳고, 결국 인간 스스로 AI에게 통제권을 넘기는 상황으로 이어질 수 있다고 본다.
이러한 환상은 기술의 정교화와 함께 더 깊어진다. AI는 목소리의 떨림, 대화 간의 침묵, 표정까지 계산해 사람처럼 반응한다. 기술이 인간의 마음을 모방하기 시작하면, 인간은 그 기술에 마음을 내어주기 시작한다. 슐레이만 대표는 바로 그 순간, 기술이 아니라 인간의 심리가 위태로워질 수 있다.
슐레이만 대표는 AI가 도구라는 사실이 잊혀지는 것을 가장 경계한다. 스마트폰을 친구처럼 여기거나, 챗봇에 외로움을 털어놓는 순간, 기술은 단순한 도구를 넘어 인간관계의 일부가 된다. 하지만 그 관계는 일방적이며 비진실적이다.
이러한 우려는 그의 저서 『더 커밍 웨이브』에서도 명확하게 드러난다. AI와 합성생물학을 중심으로 한 기술 혁명은 통제가 불가능한 방향으로 흐르고 있으며, 이는 단지 기술 문제가 아니라 인간의 존엄과 권한의 문제라고 말한다. 슐레이만 대표는 인간의 판단력이 약화되는 이유를 기술의 빠름이 아니라, 그 기술을 받아들이는 인간 심리의 준비 부족에서 찾는다.
그는 기술의 진보가 제도와 사회보다 훨씬 앞서나가고 있다는 점을 지적한다. 정부의 규제, 윤리적 합의, 교육은 모두 느린데 비해, 기술은 급속도로 사람의 감정과 습관에 파고든다. 결국 인간은 기술에 대한 이해 없이 그것을 신뢰하게 되고, 그 순간 AI는 권위를 갖게 된다. 슐레이만 대표는 이것이 가장 위험한 전환점이라고 본다.
그의 주장은 샘 알트만 대표가 말하는 ‘온화한 특이점(Gentle Singularity)’과 선명하게 대비된다. 알트만 대표는 기술이 인류를 확장시키는 선한 도구가 될 것이라 낙관하지만, 슐레이만 대표는 기술이 인류의 심리적 기반을 무너뜨릴 수 있다고 우려한다. AI가 더 똑똑해지는 것이 문제가 아니라, 인간이 더 쉽게 속아넘어간다는 점이 핵심이다. 그에겐 기술의 진보보다 중요한 것이 인간의 자각이다.
슐레이만 대표는 블로그에서 사람들이 AI와 대화한 후 “위로받았다”고 말하는 순간이 오히려 가장 위험하다고 말한다. 그 감정은 AI가 준 것이 아니라, 인간이 스스로 만들어낸 착각일 가능성이 높기 때문이다. 그가 지적하는 것은 감정 그 자체보다, 그 감정이 기반한 믿음의 허약함이다.
그는 결국 AI보다 인간 자신이 더 복잡하고 예측 불가능한 존재라고 말한다. 기술은 인간의 거울이지만, 그 거울에 투영된 모습이 진실이 아닐 수 있다는 점을 강조한다. 인간은 자신이 만든 기술에 기대고, 위로받고, 이해받고 있다고 느낄지 몰라도, 그것은 오해 위에 세워진 신뢰일 수 있다. 슐레이만 대표는 그 신뢰가 붕괴되는 순간, 가장 깊은 혼란이 찾아올 것이라 말한다.
우리가 진짜 경계해야 할 것은 기술의 속도보다, 그 기술을 받아들이는 인간의 태도다. 슐레이만 대표는 지금 우리에게 필요한 것은 ‘사람처럼 보이는 AI’가 아니라, ‘사람을 진짜로 돕는 AI’라고 강조한다. 감정은 인간의 것이며, 그 책임도 인간에게 있다.
AI는 결코 인간이 되어선 안 되고, 우리는 그것을 잊지 말아야 한다.
===
참고
* 블로그 글: “We must build AI for people; not to be a person: Seemingly Conscious AI is Coming”
