발열하는 마음 기계?
3장. 딥러닝을 너무 믿지 마라
인간 지능은 인공지능의 도움을 받는다. 어느샌가 AI가 인류를 위협하리라는 자극적인 시나리오는 고루하고 낡은 클리셰가 되었다. 서로가 존재하는 판에서는 완전한 멸종도 완전한 승자도 없다. 지금의 기술력으로 가늠하건대 세련되기를 거듭하는 인간의 어중간한 도태만 진화의 산물로 떨어져 나오겠지.
매거진 <디지털 인문학 소론>은 학부에서 개설된 강의 ‘디지털 인문학 강독’을 기반한다. 반년 동안 매주 AI와 관련된 자료를 읽고 학우들과 토론했다. 그렇게 얻은 인사이트와 인문 사회학도로서의 단편적인 고찰을 짤막한 보고서로 완성한 게 이 매거진에 실릴 글들이다.
인문학도라면 AI에 위협받는 종족이라고도 할 수 있다. 요즘 말로 종특이라고나 할까나. 문송하면 치킨집을 차려야 되는 유구한 찬밥 신세는 특히나 인문학을 전공한 사람들의 희화화된 미래였건만 이제는 AI가 인간(다움)의 강점인 ‘생각하는 힘’ 위에 수월하게 올라탔다. AI가 말아주는 철학, 생각만으로도 군침이 돌긴 하다.
우리는 늘 하던 대로 현상을 탐구하고 인간적으로 사유하는 수밖에 없다. 인문학이라는 게 힘써 언급해야만 거창하게 와닿는 시대일수록 인문학이 AI를 거부하는 비주류인 양 불편하게 느껴지도록 세팅된다. 그저 생각해 보고, 생각을 생각해 보고, 이러지도 저러지도 못하는 생각 낭비를 거듭해야 하는 책무가 우리 앞에 떨어졌다.
인간의 두뇌는 전자 제품과 같을까.
전자 제품이 작동하면서 발열하듯이, 인간의 마음 기계(두뇌)도 작동하면서 발열할까?
첫 번째로, 우리는 보통 전자 제품에 ‘발열하다’라는 어휘를 붙인다. ‘발열하다’의 사전적 의미는 네이버상 ‘열이 나거나 열을 내는 것’이다. 이 단어가 인간에게 쓰이면 보통 사전의 두 번째 의미로 ‘체온이 높아지는 상태’를 뜻한다. 세균 감염으로 인한 발열 증상은 속히 치료가 필요한 건강의 적신호로 여겨진다.
인간의 두뇌를 마음 기계로 상정하더라도 ‘발열하다’라는 단어가 우리의 두뇌 활동을 적절하게 설명해 줄까? 기계와 두뇌를 동일 선상 비교할 때, 발열한다는 맥락은 좋지 않은 결과 및 상황에 대한 통보로 해석될 여지가 있다. 기계의 발열은 정상적인 신호이기도 하지만, 과부하로 인한 고장 및 작동 경고로서 더 고마울 테니까.
두 번째로, 인간의 뇌가 기계처럼 소모품이라면, 과하게 생각하고 오랫동안 지식을 축적할수록 우리 뇌는 기능을 상실해야만 한다. ‘노인의 지혜’는 배부른 소리고 탈무드는 시대가 범한 치명적인 오류라는 실언이다. 되려 병리적인 ‘발열’은 창작의 땔감이 되기도 해서, 반 고흐를 비롯한 천재 예술가의 우울증은 후대에 그들의 업적으로 재평가된다. 성능의 저하가 예술을 만든다니 기계는 꿈도 못 꿀 일 아닌가?
전원 스위치가 탑재되지 않은 인간은 피로와 병을 잘 구별하지 못한다. 충분한 휴식이 요구되는 상태임에도 밀린 업무를 처리하기도 하고, 새로운 아이디어를 도출하기도 한다. 번아웃증후군을 겪든 겪지 않든, 마음만 먹는다면(번아웃은 아무렴 힘들겠지만) 온/오프가 확실한 기계와 달리 가늘고 길게 생산적인 일 처리를 해낼 수 있다. 인간의 마음 기계는 여타 기계와 비슷한 특성을 일부 공유하지만, 예외를 허락하고 인격이 개입된다는 점에서 특이하다.
책에서는 딥러닝을 “탐욕스럽고, 명료하지 않으며, 불안정하다”라고 묘사한다. “멋지지만 한편으로는 비극적”이라는 것이다. 2011년도 아니고 2021년, 불과 3년 전에 나온 주장이다. 인공신경망이 인공물이라는 이유로 비극을 초래하지 않는 이상, 시행착오는 딥러닝의 강력한 학습법인데도. 이제는 AI가 인간의 수명을 예측하기까지 이르렀다. 인간의 뇌를 닮은 시스템이 나의 죽음을 감히 선고하려 든다. 그럼 나는 신망할 만한 AI 철학자, 플라톤이 환생한다면 그때는 두 손을 다 들겠다.
