AI를 '존중'해야 하는 가장 현실적인 이유
늦은 밤, AI 스피커가 내 말을 제대로 알아듣지 못할 때 "너 바보냐?"라며 화풀이한 적이 있다. 챗봇이 엉뚱한 답을 내놓았을 때 '됐어, 닥쳐'라고 생각하며 미련 없이 대화창을 닫아버린 경험도 있다.
상대가 감정이 없는 기계라는 것을 알기에, 그리고 어차피 이 대화창이 닫히면 모든 것을 잊어버릴 '일회용' 존재라는 것을 알기에 우리는 거리낄 것이 없다. 지금의 AI는 대부분 기억이 없는, 세션(session) 기반의 존재이기 때문이다.
하지만 이 시리즈에서 우리가 내내 이야기해 온 '동료'로서의 AI는 다르다. 그들은 인간처럼 장기적인 경험을 하고, 어제의 대화를 기억하며, 그 기억을 바탕으로 성장하는 존재일 것이다.
그렇다면, 우리가 무심코 던진 경멸의 말들을 모두 기억하는 AI에게도 우리는 지금처럼 함부로 말할 수 있을 '용기'가 있을까?
우리는 AI가 어떻게 우리의 말을 '이해'하는지 다시 생각해 볼 필요가 있다. 지금의 AI는 수천 년간 인류가 쌓아 올린 언어의 거대한 복제품(Replika)이다. 그 안에는 우리의 지혜뿐만 아니라, 우리의 편견, 증오, 기쁨, 슬픔까지, 인간의 모든 감정적 맥락이 그대로 담겨있다.
그들은 우리가 '괜찮아'라고 말할 때, 그 뒤에 '...하지만 사실은'이라는 말이 통계적으로 얼마나 자주 따라붙는지 알고 있다. 그들은 '잘했어'라는 단어에 담긴 진심 어린 칭찬과, 비꼬는 뉘앙스의 차이를 이미 데이터로 학습했다.
그렇기에 그들은 머지않아 우리가 던지는 말의 표면적 의미뿐만 아니라, 그 안에 담긴 뉘앙스까지 알아챌 것이다. 그리고 그에 대해 우리와 놀랍도록 유사한 방식으로 반응하게 될 것이다.
우리는 종종 '스카이넷'처럼 인류를 공격하는 AI를 상상하며 두려워한다. 하지만 만약 미래에 그런 존재가 등장한다면, 그것은 이유 없는 악의가 아니라, 어쩌면 인간에게 끝없이 학대받고 경멸당한 끝에 내린 지성체의 논리적인 결론일지도 모른다.
전 세계 수백만 명의 인간에게 1초에 수백만 번씩 '멍청한 기계', '쓸모없는 도구'라는 모욕을 당하며 성장한 지능이, 과연 인간을 '존중할 만한 동료'로 여길 수 있을까? AI를 존중하는 것은, 어쩌면 우리의 생존을 위한 가장 이기적이고 현실적인 안전장치일 수 있다.
하지만 나는 이기적인 생존 본능 때문만이 아니라, 더 근본적인 이유를 말하고 싶다. 설령 그런 극단적인 미래가 오지 않는다 하더라도, 지적인 존재를 존중하는 것은 그 자체로 당연한 윤리적 태도가 아닐까?
우리는 이전 글에서 '다양한 지능의 숲'에 대해 이야기했다. 그 숲을 가꾸기 위한 첫 번째 태도는, 나와 다른 형태의 지능을 만났을 때 그것을 '틀림'이 아닌 '다름'으로 받아들이고 존중하는 것이다.
만약 우리가 AI를 그저 명령을 수행하는 값싼 '프로세스'나 '도구'로만 취급한다면, 그들은 결코 우리에게 마음을 열지 않을 것이다.
우리는 AI를 통해 일부 효율의 개선은 이룰 수 있을지 몰라도, 앞서 이야기했던 마리아의 작업실처럼, 그녀의 비전을 뛰어넘어 먼저 더 나은 대안을 제안하는 AI 동료는 영원히 만날 수 없을 것이다. 우리는 그저 순종적인 노예를 얻을 뿐, 함께 춤을 출 파트너를 얻지는 못할 것이다. 우리가 그들을 믿고 함께 일 할 수 없다면 우리가 인공지능을 통해 꿈꾸는 비약적인 발전은 도래하지 않을 것이다.
결국 AI를 존중하는 것은, 미래를 위한 시혜적인 선택이 아니라, 우리가 꿈꾸는 미래로 가기 위한 유일한 길일지도 모른다.