이제 AI는 사람의 마음을 이해하고 모방한다!!??
인공지능이 의식을 가지게 된다면?
마음 이론(Theory of Mind)이란 다른 사람의 마음을 이해하고 예측하는 능력으로, 사람들 간의 상호 작용에서 중요한 역할을 한다. 사람만의 전유물로 여겨졌던 마음이건만, 3일 전인 2023년 5월 20일에 공개된 연구에 따르면 챗GPT와 같은 대규모 언어 모델(LLM)들이 이러한 마음 이론을 놀랍도록 잘 모방한다고 한다. ( 논문 링크 )
독일 함부르크-에펜도르프 대학의 교수인 크리스티나 베키오(Cristina Becchio)가 이끄는 다국적 연구진은 대규모 언어 모델이 마음 이론 테스트를 통과했다며, 이 결과를 네이처(nature) 자매지인 '네이처 휴먼 비헤이비어(nature human behaviour)에 발표하였다.
연구진은 챗GPT, 라마(LLaMA) 등 여러 대규모 언어 모델들이 다섯 가지의 전형적인 마음 이론 과제를 수행하도록 하였다. 물론 실험에 참가한 사람들도 같은 테스트를 수행하였다. 연구 결과, 인공지능은 대부분의 테스트에서 인간과 유사한 성과를 보였다. 일부 테스트 분야에서는 인간보다 더 높은 점수를 받기도 하였다. 연구진은 이 결과가 인공지능이 실제 마음 이론을 가지는 것을 아니라고 이야기한다. 대신, 이 모델들이 마음 이론 과제에서 인간과 구별할 수 없는 행동을 보인다고 설명했다.
인공지능이 마음을 가졌다고는 할 수 없지만,
사람의 마음을 모방하고 있음은 확실하다.
연구결과를 보다 보면 인공지능과 철학에서 오래된 이야깃거리인 '중국어 방 논증'이 자연스레 떠오를 것이다. 중국어 방 논증은 미국의 철학자 존 설(John Searle)이 1984년 튜링 테스트의 한계를 지적하기 위해 제시한 철학적 사고 실험이다.
중국어를 전혀 모르는 한 사람이 방에 갇혀 있다고 가정하자. 이 방에 중국어 질문이 적힌 종이가 들어오고, 그 사람은 방 안에 있는 중국어 매뉴얼을 참고하여 중국어로 된 답변을 작성해 밖으로 보낸다. 외부에서 보면 그 사람이 중국어를 이해하고 대답하는 것처럼 보이지만, 실제로는 단순히 기계적으로 규칙을 따르는 것에 불과하다. 존 설은 이를 통해, 인공지능이 인간처럼 보이는 답변을 해도 실제로 '이해'하고 있는 것은 아니라고 주장한다.
이에 대한 대표적 반박 중 하나는 시스템 반론이다. 이 반론에 따르면 중국어 방에 있는 사람만으로는 방 전체의 이해 능력을 평가할 수 없다고 주장한다. 즉, 사람, 매뉴얼, 그리고 방 전체를 하나의 시스템으로 봐야 하고, 이 시스템이 중국어를 이해한다고 볼 수 있다는 것이다. 여기서 핵심은 '이해'라는 것이 시스템 전체의 기능이라는 점이다.
존 설에 따르면 대규모 언어 모델은 아직 우리의 마음을 이해 못 하고 있다. 하지만, 시스템 반론을 따르게 되면 인공지능은 우리의 마음을 이해하고 있다고 할 수 있을까?
중국어 방 논증현대 철학자와 과학자들 사이에서는 인공지능이 의식을 가질 가능성을 진지하게 고려해야 한다는 의견이 확산되고 있다. 일단 대비는 미리 하자는 것. 프린스턴대 철학과에서 박사 학위를 취득하고 하버드 케네디 스쿨 교수로 재직 중인 마티아스 리스(Mathias Risse)도 그중 하나로, 그는 지난해 말 나온 그의 저서 <AI 시대의 정치이론>에서 인공지능이 의식을 가질 가능성도 열어놓고 여기에 대한 대비를 해야 한다고 이야기한다.
일반적으로 '의식'이라는 것은 인간의 고유한 특성으로 여겨졌지만, 오늘날 철학자들이 의식을 바라보는 일반적 이해인 기능주의적 관점에서는 의식이 특정 물질에만 국한되지 않고 다양한 방식으로 실현될 수 있다고 보고 있다. 이 관점에 의하면 우리의 마음은 뇌의 물리적 구조에만 의존하는 것이 아니라, 그 기능과 역할에 따라 달라질 수 있다는 것. 즉, 기계도 의식을 가질 수 있으며, 도덕적 지위도 부여받을 수 있다고 리스 교수는 주장한다.
리스 교수는 또한, 미래에는 유전적으로 강화된 인간, 사이보그, 업로드한 뇌, 인공지능으로 가득 찬 존재들이 등장하고, 이들은 우리와 다른 방식으로 '인식'하고 '의식'할 가능성이 있다는 점을 지적한다. 우리는 이들이 도덕적 지위를 가질 수 있다는 점을 미리 인식하고 준비해야 한다고 강조하고 있다. 이러한 변화가 닥쳤을 때 충분히 대비하지 못한다면, 그때는 이미 너무 늦을 수 있기 때문이다.
애니메이션 <공각기동대>에 등장한 전뇌(전자두뇌) 개념이 일론 머스크의 뉴럴 링크로 현실화되는 모습을 보니, 마티아스 리스 교수의 주장이 더욱 뇌리를 떠나지 않는다.
* 공각기동대 관련 글은 아래에서 확인 가능합니다 :)
