칼럼 - AI - 생각하니까 존재가 증명된 것일까?

제가 존재합니까? 휴먼?

인공지능이 사람과 같은 사고를 한다는 생각에 영향을 주었음 직한  Blutgruppe Corbis의 이미지

최근 AI관련 글이나 기사를 많이 접하게 되면서 데카르트의 유명한 격언인 “나는 생각한다. 고로 나는 존재한다”라는 말을 다시금 곱씹게 됐다. 안타깝게도, 필자는 전공이 철학 계열이 아닐 뿐더러, 인문사회학적 지식의 깊이가 그다지 깊은 편도 아니다. 그저 어떤 책의 표현처럼 특정한 모임에서 꿔다놓은 보릿자루처럼 멀뚱멀뚱 있지는 않을 수준의 '넓고 얕은 지식'을 소유하고 있음을 미리 밝혀 둔다.

철학적 사고를 논하는 자리에서 자주 듣게 되는 말 중 하나인 “나는 생각한다. 고로 나는 존재한다"라는 격언에 대해 들어본 적이 있을 것이다.  흔히 이 격언을 '생각의 힘'을 갖추었기 때문에 '존재한다'는 의미로 받아들이는 것 같다. 즉, 생각하고 사고 - 특히 지적 수준의 대화가 가능한 이성적 사고 -를 하기 때문에 존재하는 것으로 보는 것이다. 하지만, 한 가지 우리가 놓치고 있는 것이 있는데 생각하는 능력이 존재의 증거이지만, 이성적인 생각만이 존재 그 자체를 의미하는 것은 아니라는 점이다. 더불어 데카르트가 말한 '생각'이 단순한 지적 사고만을 의미하는 것도 아니다. 예컨대, '존재를 증명하는 생각 '이라는 것은 이성적인 사고와 판단 능력 뿐 아니라 감정·욕구를 포함한 논리, 여기에 이성적인 접근법으로는 설명할 수 없는 영역까지 포함하여 '존재의 증거'로 삼는 것이다. 

그렇다면, 이러한 관점으로 오늘날의 인공지능을 다시 생각해보자. 과연 현재 단계에서의 인공지능, 그리고 이를 기반으로 하는 가상인간이 이러한 존재의 증거를 보여주고 있을까? 

여전히 광고에서 자주 볼 수 있는 가상 캐릭터 '로지'(출처: 로지 인스타그램)

SNS 운영으로 많은 팔로워를 보유하고 있으며 수많은 기업의 광고에 등장하고 있는 '로지'라는 버추얼 캐릭터를 생각해 보자. 이 캐릭터는 정말로 존재하는 것일까? 이 캐릭터를 만들어낸 기업은 존재한다고 하고 싶겠지만 사실 캐릭터의 창조자는 지금 존재를 증명하는 것이 아니라 우리에게 존재를 각인시키고 있다. 광고에서 대사를 외우고, 춤을 추고, SNS에 글을 남기지만, 이 캐릭터가 정말로 자신의 존재를 인지하고 행동하는 것일까라는 질문에서는 아직 '그렇지 않다'라는 답이 더 어울릴 것이다. 즉, 자신의 존재를 강조하고 있는 인공지능 캐릭터는 존재하는 듯 느끼도록 충격을 안겨주는 방법을 쓰는 것이다.  

이번에는 다른 사례를 살펴보자. 구글의 LaMDA2라는 인공지능이 자신이 느끼는 가장 두려운 것이 무엇이냐는 질문에 “Turn Off”라고 대답했다고 한다.  또한, 이 내용을 알린, 아닌 폭로한 사람이 실제 LaMDA2 프로젝트에 참여한 주요 인물이었다는 점에서 더 충격적이었으며, 이 질문과 대답을 들은 많은 사람들이 '이제는 인공지능이 스스로를 존재하는 것으로 인지하는구나'라는 생각에 오싹했을 것이다. 이 사건 때문에 많은 사람들이 논쟁에 뛰어들었고, 심지어는 IT 분야 비전문가 유명 인사들까지 가세하여 앞다퉈 감정적인 해석을 얹어 거들고 있다.

하지만, 필자의 소견으로는 아직은 존재하는 듯 보이는 학습 결과를 내보였을 뿐이며, 인공지능이 내놓은 대답이 주는 '매우 불편한 감정'을 마주하게 된 것이다. 바꿔 말하면, 그렇게 사고하는 것이 아니라, 그렇게 '배워서 답하는  것'이 최적인 것으로 판단하였기 때문에 그렇게 답한 것이다. 다만,  듣는 사람 입장에서 그 과정이 보이지 않고, 답변이 '사람의 기준'으로 매우 오싹했기 때문에 달갑지는 않을 것이다. 

물론, 언제가 발생할지 모르는 윤리적인 문제를 사전에 막기 위한 담론의 형성이라는 측면에서는 지금부터라도 진지한 논의가 필요한 것은 분명하다. 하지만, 마치 이 문제를 통달한 최고 전문가인 것처럼 - 필자 자신은 어떤가 반문한다면, 부끄럽지만 그 정도 수준의 전문가라고 말하려면 한참 더 공부해야 한다 - 사람들에게 자신의 생각이 확정적 사실인 것으로 전달하는 것이 더 위험하지 않을까 싶다.

오히려 이 문제는 인공지능을 사람의 기준에서 판단하지 않았을 때 더 정확하게 볼 수 있을 것이다. 정말 인공지능이 학습을 통해 스스로의 결론을 도출한 것인지, 아니면 가지고 있는 정보대로 대답한 것인지... 필자의 생각은, 그냥 배운 대로 답한 것이다. 그리고, 과연 존재가 배운 대로 답한 것만으로 증명되는 것인지 다시 한 번 돌아볼 필요가 있다. 오히려 지금은 인공지능에 밀리는 인간의 존재적 가치를 고민할 때가 아니라, 인공지능의 연산 능력 때문에 줄어드는 우리의 일자리를 어떻게 대체할 것인가, 그리고 인간다움을 증명하기 위한 것은 무엇인가를 고민해야 한다. 

* 이 글은 필자가 파인드비에 2022년 7월 4일자로 게재한 글을 요약, 수정한 글입니다.