인공지능의 모름과 사람의 모름은 어떤 차이가 있나.
초등학생 아들 녀석에게 점심에 뭐 먹을지를 물었다. 녀석은 소파에 널브러진 채, 생각을 잠시 하더니 “몰라”라고 대답했다.
녀석의 '몰라'는 나를 당황케 한다. 그의 무지Ignorance는, 이를테면 비트겐슈타인이 말한 ‘말할 수 없는 것에 대한 침묵’임과 동시에, 선택에 대한 책임을 타자에게 전가하는 아주 고도의 정치적인 텍스트다. 근데 인공지능은 좀 다르다.
요즘의 생성형 AI, 이 '확률적 앵무새'들은, ‘몰라’라고 하는 법이 없다. 없는 논문을 지어내고, 존재한 적 없는 판례를 들이밀며 가끔씩 '할루시네이션'을 일으킨다.
이건 마치 약 빤 사이키델릭 록 밴드가 튜닝도 안 된 기타로 20분간 의미 없는 솔로를 갈겨대는 것과 같지 않나. 침묵을 견디지 못하는 로고레아(Logorrhea, 다변증). 이것들은 '공백'을 '오류'로 인식하는 것일까?
인공지능에게 '모른다'를 가르치는 게 요즘 실리콘벨리 수도승들의 지상 과제가 되었다. 그런데 우리 한번 생각해 보자. 인간은 태어날 때부터 '모름'을 무기로 삼는다. 썸 탈 때 "나 너 좋아하는지 모르겠어"는 최고의 유혹이고, 청문회장 엘리트들의 "기억이 나지 않는다."는 최고의 답변이다. 인간에게 '모름'은 여백의 미학이고, 뉘앙스의 층위Layer며, 때로는 생존 전략이다.
반면 AI의 할루시네이션은 '모름'을 인정하는 순간, 자신의 존재 가치가(토큰 비용?) 사라진다는 두려움에 휩싸이나 보다. 모른다고 답하면 프로세스가 종료되지만, 거짓말을 하면 대화(트래픽)가 이어지니까? 자본주의가 명령한 빈 공간을 노이즈로라도 채워서 토큰을 완성한다는 강박. 혹은 알고리즘. 이제는 좀 나아진다는 보고를 종종 듣는다.
다시 아들 녀석의 "몰라"로 돌아와 보자. 녀석의 '몰라'는 AI의 그것과는 다르다. 그건 하나의 저음 베이스라인 음악과도 같다. 배경에 녹아들지만 공기를 지배하는 소리. "아빠가 대답하는 거 들어보고 내 기분(Vibe)에 맞으면 픽해주고, 아니면 말고"라는, 권력자의 여유로운 유보.
지금 실리콘밸리에선 GPU 수만 개를 태워가며 AI에게 '제발 모르면 닥치고 있는 법'을 가르친다고 한다. 이걸 그럴싸한 말로 '파인 튜닝Fine-tuning'이라 부른다지? 그래서 무얼 시켜줬냐고? 녀석의 알고리즘과 가족의 요구에 맞는, [짜장짬뽕탕수육 세트] 되시겠다. 중화요리의 마스터피스격 파인튜닝. 그래서 중국 오픈소스가 여전히 인기가 있는 것일지도.