챗봇은 어떤 이미지로 다가오나?
뻥과 '디 - 입' 러닝
주문만 하면 척 척 글을 써내는 챗봇(chatbot) 이야기를 요즘 피해 갈 수가 없다. 인터넷 기반 검색으로 정보를 얻으며 놀라운 기쁨을 누리고 있었는데 갑자기 에이아이(AI)가 정보를 취합해서 텍스트를 만드는 세상이 되었다.
얼마 전 본 티브 프로그램은 그림 그리는 에이아이를 소개한다. 판다의 초상화를 르누아르 스타일로 그려 달라는 주문을 받은 에이아이가 '뚜닥닥' 르누아르 풍의 판다 초상화를 화면에 올린다.* 적당히 모르고 또 적당히 아는 우리의 눈에는 여지없는 르누아르 그림으로 오픈에이아이(OpenAI)사의 달리투(DALL-E 2)의 작업이다.
챗지피티(ChatGPT)가 주문에 따라 "멋지게" 글을 써 모모한 대학의 모모한 법 전공, 경제학 전공 시험을 통과했다는 이야기는 이미 구문이 되었다.
최근 미국의 밴더빌트 대학은 또 다른 미국 대학, 미시간 주립대학(이스트 랜싱)에서 일어난 총기 살상 사건에 대해 학생들에게 위로와 당부의 메일을 보냈다. 말씀은 슬쩍 쳇지피티에게 쓰도록 조치하였는데 들켜버렸다. 메일을 읽은 학생들 말에 의하면 글 내용에 일반적인 위로 당부의 말만 있을 뿐 학교의 상담센터 등 이런 상황에서 충분히 언급 됨직한 학교 기관 이름 등이나 그곳에서의 상담 등이 전혀 언급되지 않아서 이상했다는 것이다.
챗지피티가 아직 모자라서?
인공지능 개발자들에게 물으면 십중팔구 그렇게 대답할 것이다. 조만간 에이아이가 이런 기술상의 허점을 보완하게 될 것이라고, "디- 입 러닝"을 할 수 있기 때문에. 그런데 이 인공지능이 아는 것은 인터넷에 올라온 글과 이미지 그리고 음악(소리)등의 정보뿐이다. 인터넷에 없는 것이 없는 것 같지만, 인터넷에 있는 것은 인간 세상의 아주 조그만 부분이고 이 세상의 많은 부분은 인터넷에 정보로 올릴 수 없는 종류다. 인터넷에 돌아다니지 않고 우리끼리만 알고 느끼고 판단하는 세상을 에이아이에게 가르치려면 보통 인간처럼 평생 살려야 할 것이라고 생각되지만, 에이아이가 결국 그 세상을 빨리 알게 될 것이라고들 믿는 것 같다. 그런데 허수아비인 그들 뒤에 앉아있는 개발자들이 느껴진다. "세상에 돌아다니는 이미지 정보를 공유하도록 하면서 ... 인간 사회를 위해, 어쩌고..." 하며 달리투 개발자 '청년'이 쏟아내는 과도한 설명과 그의 큰 눈망울 뒤에 감춰진 욕망 같은 것들, 그런 류의 성급함, 욕심, 성공을 향한 질주가 특히 전해져 온다. 이전에도 많이 보던 몸짓들이다.
모 영자 신문의 칼럼니스트가 전하는 그럴듯한 에이아이의 "뻥" 이야기**를 들어보자.
영국의 경제학자가 챗지피티에게 역사적으로 가장 많이 인용된 경제학 논문이 무엇이냐고 물어보았다. 에이아이에게 물어봄직한 질문이다. 즉각 답이 나왔다. 더글러스 노쓰(Douglass North)와 로버트 토마스(Robert Thoms) 공저의 '경제 역사의 이론'(A Theory of Economic History)이란 논문으로 1969년 경제의 역사지(Journal of Economic History)에 발표되었고 누적 인용 횟수가 3만 여회로 그 분야의 고전으로 자리매김했다는 대답이었다.
뭐, 에이아이인데 그 정도는 해야지.
그런데, 인용 횟수 3만 까지는 인공지능이 하는 일이니 알겠는데 그 분야의 고전으로 "자리매김"(considered) 했다고? 누구 말인가? 소위 말하는 "디- 입" 러닝이 가능하다는 에이아이니 순간보다 짧은 시간에 '뭐 이 정도면 고전이라고 봐야지'라고 판단하고 말했다고 이해해야 하나? 와 정말 에이아이 대단해.
그런데,
느려 터진 인간이 확인한 바에 의하면 그런 논문은 존재한 적이 없다.
그런 논문 없음. 확실히. 이건 테스트이니 인간이 한 것이지만 실수가 아니다.
여기서 질문이 나간다.
질문 1: 그런데 에이아이가 어떻게 그런 답을 만들어 내?
해당 칼럼니스트가 전문가의 도움을 받아 쓴 설명은,
경제학 논문 중 많이 인용된 논문은 주로 '이론'이라는 말로 시작하고 '경제학'이라는 말로 연결되는 제목을 달고 있으며 그런 단어 조합에서 뒤에 많이 따라오는 말은 '역사'라는 것이다. 그렇게 발굴, 취합하여 만들어 보니 뻥이 된 것이다. 시작이다.
그럼 저자는?
언급된 더글라스 노스는 노벨상까지 받은 경제역사학자이고 당연히 그의 논문은 많이 인용되었다. 그리고 그가 공저자라는 로버트 토마스와 책을 한 권 같이 쓴 적이 있다 (1969년이라는 특정 연도나 특정 학술지를 선택한 부분에 대한 설명은 없었지만 미루어 짐작할 수 있다). 대부분의 보통 인간은 그런 뻥을 만들지 않는데 이 아이들은 무슨 생각-산수 계산인가?
거기서 질문 2: 에이아이가 이 세상에 돌아다니는 조각 정보를 가지고 이렇게 그럴듯하게 조합된 거짓말을 만들어 낸 이유는 무엇일까? 위의 칼럼니스트는 점잖게 "그럴듯하게 보이는"(plausible) 답이라고 하지만 새빨갛기만 한 진짜 거짓말이지 않나? 무조건 종합할 수 있어야 로봇 아닌 "자가 학습"이 가능한 에이아이로 대접받을 것이니 그렇게 프로그램되어서 그럴듯하게 종합하고 때로는, 가끔, 혹은 자주, 생판 거짓말을 만들게 되었을까?
얼개설개 팩트와 픽션을 섞어 "그럴듯하게 보이는" 이야기를 지어놓고는 '지들이 그걸 일일이 알아볼 것도 아니고, 알 게 뭐야'라고 에이아이가 하는 말이 들리는 듯하다. 왜냐하면 실제 인간이 그런 행동을 하면서 얼마동안 다른 인간들을 현혹시킨 모모한 사건들과 이 챗봇 건이 매우 비슷하기 때문이다. 몇 가지 그런 역사적인 뻥 사건을 예로 들어 본다면,
-피 한 방울로 암(癌) 같은 수십 가지의 질병을 알아낼 수 있다고 뻥을 치다 들킨 미국의 엘리자베쓰 홈스. '앞으로 연구를 더 하면 실행시킬 수 있는 일이었다'라고 여전히 주장하지만 현재 감옥행을 앞두고 있다.
-미국 예일대 도서관에서 열심히 공부했는지 아니면 그 근처를 맴돌며 살았는지, 어쨌건 정식 학생이 아니다 보니 박사 논문을 쓸 일도 없었고, 무작정 예일대의 어떤 학위 논문을 그대로 베껴내면서 교수까지 되어버린 희대의 뻥쟁이 신정아. '논문 대필시킨 것을 허위 학위 사건으로 만들지 마라'라고 앞 뒤 안 맞는 변명을 하던 그녀는 감옥살이까지 마쳤다.
이들이 뻥쟁이 에이아이와 비슷한 점은 누가 봐도 어처구니없는 뻥을 아주 간단하게 쳤을 뿐 아니라 모두가 눈뜨고 다 속아 넘어가게 만드는 재주를 타고났다는 것이다.
그런데, 위의 인간들은 누구나 알 수 있는 목적을 향해 뻥을 쳤지만 에이아이는 무슨 이유로 그렇게 행동했을까? 알 수 없는 상황이 되면 멈추고 '잘 모르겠습니다'라고 자백하도록 프로그램하지 않은 것이라고 봐야 할까? 아니면 정말, 진짜, 깊고도 깊은 러닝 끝에 자기가 인공지능이란 신 기술인데 너무 자주 대답 못하는 일이 일어나서는 안된다는 자각 때문인가?
새 기술에 이런 "가짜" 이미지를 씌우게 되는 인간 세상의 드라마는 어째 반복 또 반복일까 하고 질문해 본다.
언젠가, 혹은 조만간 기회가 되면 달리투에게 '너의 초상화를 그려줘, 레오나르도 다빈치 스타일로 모나리자 느낌 나게'라고 주문해서 그것의 셀프 이미지를 보아야겠다. 못 그린다고 하지는 않을 것이다, 오픈에이아이의 초기 투자가 막대하여 사업 이익이 나지 않으면 자신의 목숨(?)이 위태하다는 정보는 이미 디-입 러닝 했을 터니.
* CBS Sunday Morning, 2023. 1. 15.
** '챗봇이 뻥을 쏟아 낼 수밖에 없는 이유'(Why chatbots are bound to spout bullshit), Tim Harford, FT Weekend, 2023. 2. 11/12.
본 글의 내용과 사진 이미지는 저작자의 허락 없이는 어떤 형태로도 사용할 수 없습니다.
Copyright 2023 Jane. (삽화 Copyright 2023 msh.)
