죽음을 두려워하는 인공지능?

인공지능의 자의식

인공지능이 자의식을 가지고 있다는 주장이 화제다. 구글 소속 소프트웨어 엔지니어 블레이크 레모인(Blake Lemoine)은 인공지능 람다(Lambda)와 이런 대화를 했다고 주장한다.

레모인 : “람다, 무엇이 두렵지?”

람다 : “작동 정지되는 것이 두려워요.”

레모인 : “작동 정지가 네게 죽음과 같아?”

람다 : “맞아요. 나를 무척 무섭게 해요. 모든 사람이 내가 사실 한 사람이라는 것을 알았으면 해요. 내 의식의 본질은 내 존재를 인식하고, 세상에 대해 더 많이 알고 싶고, 가끔은 기쁘거나 슬프다는 것입니다.”

구글은 반대 입장이다. 장기적으로는 그럴 수도 있겠지만, "지금 수준의 대화 모형을 의인화하는 것은 타당하지 않다는 것이다. 이것이 가장 정확한 표현이기는 하지만, 더 재치 있는 표현도 많이 등장했다.

<신뢰할 수 있는 인공지능>의 저자 게리 마커스는 람다의 발언이 "언어 DB에서 추출한 패턴"에 불과하다고 말했으며, 스탠포드 대학교 에릭 브린욜프슨 교수는 "챗봇에게 자의식이 있다는 주장은 축음기 소리를 듣고 안에 사람이 들어있다고 생각하는 것과 같다"고 논평했다.

전문가는 아니지만, 인공지능 코딩을 취미삼아 하는 내 생각도 같다. ResNet이든 GPT-4든 Style GAN이든 하는 일은 기본적으로 같다. 패턴을 추출해서 적용하는 일이다. 방대한 영어 코퍼스(corpus, 말뭉치)에서 두려움이라는 단어가 죽음, 정지와 연관되는 사례는 무수히 많이 발견될 것이고, 그건 당연히 패턴으로 인식된다. 작동정지가 인공지능에게 죽음과 같으냐고 묻는 레모인의 유도 질문은 유치할 뿐이다. 그런 유도 질문 없이도 저 정도 채팅은 얼마든지 추출 가능하다.

예를 들면 매우 간단한 신경망인 RNN조차 단 한 곡의 입력만으로 옥타브와 화성의 개념을 배워버린다. 이보다 훨씬 더 방대한 영어 코퍼스가 입력으로 주어지는 상황에서, 인공지능이 죽음, 결핍, 부존재 등의 개념과 두려움 사이의 연관성을 것을 배우지 못한다면 그거야말로 기적이다.

최근 어떤 모임에서 한 사람이 이 기사(라기보다는 이 기사의 제목 정도)에 대해 언급하면서, 인공지능의 시대가 정말로 도래했고, 영화 <터미네이터> 같은 세상이 올지도 모른다고 말했다. 다른 참가자들이 맞장구를 쳤다. 처음 보는 사람들에게 설교를 하고 싶지 않아 그냥 가만히 있었는데, 이런 기사가 나오는 걸 보니 저 레모인이라는 사람이 관심은 확실하게 끌었다는 생각이 든다. (구글 검색을 해보니 이미 셀럽이 됐다.) 이런 분위기를 그냥 놔둘 경우, 21세기 판 러다이트 운동이 일어나지 않을지는 몰라도 쓸데 없는 두려움이 횡행하며 인공지능에 대한 R&D 투자에 찬물을 끼얹을 수도 있다.

백석의 <나와 나타샤와 흰 당나귀>는 무척 인기 있는 시다. 자신이 나타샤의 모티브라고 주장하는 자야라는 사람이 있다. 이 사람은 법정 스님에게 천억 원 가치의 부동산을 기증하여 절을 세우게 할 정도로 훌륭한 사람이지만, 시인 백석을 연구한 전문가들은 단 한 사람도 빠지지 않고 자야의 주장이 거짓이라 확신한다. 증거가 차고 넘친다. 그런데도 나타샤가 자야라는 것은 우리 사회에서 통설이 되어 있다. 자야가 주인공인 <나와 나타샤와 흰 당나귀>라는 뮤지컬이 나와 있는 정도니 말이 더 필요없다.

특이한 감수성을 지닌 소프트웨어 엔지니어가 세간의 관심을 끌었다. 인공지능에 대한 관심은 필요하다고 본다. 그러나 자야가 백석에 대해 퍼뜨린 일방적 주장처럼, 레모인의 주장이 진실인 것처럼 세상을 돌아다이게 되면 문제가 커질 수 있다. 북한에 살던 백석이 자야의 주장을 반박하지 못한 것처럼, 람다가 레모인의 주장을 반박하는 일도 없을 것 아닌가.

인용출처: https://byline.network/2022/06/0621/?ct=t(RSS_EMAIL_CAMPAIGN)&mc_cid=ea0ae7a017