보는 것을 그대로 믿으면 안되는 시대
오감으로 처리된 정보를 단순히 받아들이지말고, 통념에 의문을 제기하자
지난 10년간, 우리는 웹3.0, 비트코인, 메타버스, NFT 등 다양한 기술적 담론을 중심으로 격론을 벌였습니다. 이러한 기술들이 진정으로 우리의 삶을 변화시켰는지, 아니면 단지 VC 시장의 달콤한 꿀에 불과했는지는 개인의 경험에 따라 다를 것입니다. 하지만 인공지능의 현실성은 부정할 수 없습니다. 단순한 웹 서핑, 번역, 코드 작성에서 인공지능 딥페이크 기술을 활용한 사기 범죄까지 이르기까지 했습니다. 현재도 인공지능은 우리가 상상할 수 있는 것보다 훨씬 빠른 속도로 발전하고 있습니다.
이전 글에서는 AI 시대의 ‘노동자’로서 직업과 직무를 어떻게 유지하고 활용할 수 있는지에 초점을 맞췄습니다. 이번 글에서는 ‘인간’으로서 우리의 신념과 인공지능의 그것이 어떻게 다를 지에 대해 다루고자 합니다.
한 번쯤 이런 생각을 해보셨을 겁니다. 인간의 외모뿐만 아니라 사고방식까지 닮은 로봇이 만들어진다면, 그 로봇을 진정한 인격체로 인정할 수 있을까?
스파이크 존즈의 영화 <Her, 2014>를 예로 들면, 이 작품에서 인공지능 OS '사만다'는 주인공과의 세심한 감정 교류를 통해 인간의 감정을 놀랍도록 잘 표현했습니다. 목소리만으로 소통했음에도 불구하고, 주인공은 인공지능을 통해 외로움을 덜고 사랑을 느끼게 되었습니다. 사만다와의 감정 교류는 적어도 저에게는 불쾌한 골짜기 현상에 비슷했습니다 (그럼에도 불구하고 제게 한손에 꼽는 명작입니다). 인공지능의 감정은 제게는 모방이었고, 누군가에게는 기만일테고, 어떤 이에게는 <매트릭스, 1999>의 '파란 약'처럼, 우리가 보고 믿고 싶은 것만을 믿어 행복하게 살 수 있는 수단이 될 수도 있는 것 같습니다.
인간의 신념과 인공지능의 모방
모든 사람은 삶을 살아가면서 자신만의 '신념'을 갖게 됩니다. 이 신념은 성공이든 실패이든, 내외부와의 상호작용을 통해 형성되며, 나의 독특한 사고와 경험에 기반을 둡니다. 이러한 신념은 나의 말, 행동, 선택에 직접적이거나 간접적으로 영향을 미칩니다. 반면, 인공지능은 다양한 사람들의 사고와 경험을 데이터베이스로 저장하고, 이를 분류하는 과정을 통해 말하고, 행동하며, 선택을 합니다. 만약 특정 인공지능에게 '삼세기여행자가 만족할 수 있도록 대화 나누기'라는 목적이 주어진다면, 그 인공지능은 방대한 데이터 속에서 제게 맞는 특정한 정보를 선택하여 좁혀나가게 됩니다. 예를 들어, 제가 관심 있는 주제를 유튜브 검색을 통해 파악하여 관련 내용을 제공할 수 있습니다.
AI는 대량의 데이터를 신속하고 효과적으로 '분류'하고, 인간의 지능을 '모방'하는 방법을 통해 특정 '목표'를 달성하는 기술입니다. 즉, 다양한 사람들의 데이터 중에서 제 데이터와 일치하는 주제를 중심으로 정보를 '분류'하고, 제 기대에 부합하는 대화를 '모방'함으로써 만족스러운 소통의 '목표'를 달성합니다.
당장 중요한 것은 인공지능에게 신념이 있는지 여부가 아닙니다. 인공지능이 아니더라도, 우리 주변에는 파악하기 어려운 의도를 가진 직장 동료들이 있습니다. 이들이 가진 신념과 행동은 우리에게 새로운 신념을 형성할 수 있습니다. 예를 들어, 이런 동료와의 경험을 통해 나는 친구에게 "내가 이런 유형의 사람을 만나 봤는데, 정말로 사람을 신뢰하기 어렵더라"라고 말할 수 있습니다. 세상에는 다양하고 가끔 위험한 신념을 가진 사람들이 많습니다. 중요한 것은 이러한 사람들의 신념이 인공지능을 편향되게 만들 수 있는지 여부입니다. 따라서 우리는 "인공지능이 인간을 자연에 해롭다고 판단하여 인간에게 전쟁을 선포한다면 어떻게 할까"가 아니라, "잘못된 신념을 가진 사람이 편향된 정보에 갇혀 자신이 보고 싶은 것만 보고, 믿고 싶은 것만 믿어 전쟁을 일으킨다면 어떻게 할까"에 대해 더 우려해야 합니다.
확증 편향 (Confirmation Bias)
도표 = 삼세기 여행자유튜브 알고리즘을 보면 알 수 있듯이, 알고리즘은 선과 악을 구분하지 않고 데이터를 기반으로 합니다. 선정적이고 폭력적인 콘텐츠를 검열하는 것은 그 콘텐츠가 사람들에게 해를 끼친다고 인식하기 때문이 아니라, 그러한 인식을 가진 사람들의 생각을 데이터로 반영한 결과입니다. 유튜브에서 특정 주제에 대한 영상을 자주 시청하는 사람들은 비슷한 내용의 영상이 추천됩니다(정치, 경제적 관점이나 취향에 상관없이). 이로 인해 사용자는 자신이 지지하는 관점의 영상에 점점 더 몰입하게 됩니다. 또한 앞서 소개한 영화 <Her, 2014>에서 테오도르는 '순종적인 여자'를 원했던 자신의 신념을 인공지능 사만다를 통해 투영했고, 이혼 조정 중인 캐서린이 인공지능과의 사랑에 대해 언급하며 그가 '진짜 감정(Real Emotion)'을 다루지 못한다는 말을 들었을 때 화를 냈습니다. (결과적으로 그는 이를 외로움으로 인해 환상에 빠졌다는 것을 수긍하고 빠져나오게 됩니다.)
어떤 면에서 보면, 확증 편향은 의사결정 과정을 단순화하고 가속화시켜 효율적일 수 있으며, 경우에 따라 안전한 선택이 될 수 있습니다. 이는 정보를 선택적으로 처리함으로써 빠른 판단이 요구되는 상황에서 유용하며, 기존의 믿음이나 경험에 기반한 정보를 우선시함으로써 불확실성이 높은 상황에서 익숙하고 검증된 선택을 하게 합니다. 그리고 인공지능은 기존의 믿음이나 경험에 기반한 정보, 즉 확증 편향을 기반으로 한 귀무가설을 거의 정답처럼 정보를 제공하게 됩니다.
그리고 이 정보를 받아들이는 인간 ‘나’는 현실의 모든 것을 고려할 때 머리가 터질 것 같은 상황에서, 매트릭스의 '파란 약'을 선택하는 것은 일종의 방어 메커니즘일 수도 있습니다. 테오도르가 사만다를 인격체로 받아들이려고 하고 사랑하려고 했지요. 바로 이점이 바로 인공지능을 사용하는 우리가 주의해야할 부분이 아닌가 싶습니다.
불완전하기에 창의적인
역사적으로 많은 사람들이 무지의 행복을 거부하고 고통스러운 진실, 즉 '빨간 약'과 마주합니다. 1632년, 갈릴레오 갈릴레이는 종교재판에 회부되어 지동설을 포기하라는 명령을 받았습니다. 대립가설을 주장하는 것이 위험했던 시기는 많았으며, 안전하지 않았습니다. 소크라테스 역시 신성모독죄로 사형을 당했습니다. 시기는 다르지만, 이 두 사람 모두 유명한 논쟁가였습니다. 논쟁은 본질적으로 받아들여진 통념에 질문을 던지는 행위입니다. 새로운 정답을 얘기하자는 것이 아니라, 틀릴 수도 있지만 질문하는 것이 중요하다는 말입니다.
도표 = 삼세기 여행자당시 지구가 둥글다는 것을 증명할 수 있는 데이터(인풋)가 있었다면, 인공지능은 지구의 형태에 대한 가설을 확률적으로 계산할 수 있었을 것입니다. 그러나 누군가가 먼저 "지구가 정말 평평한가?"라고 의문(모델)을 제기해야만 합니다. 지구가 평평하다는 생각이 널리 퍼져 있었기 때문에, 대부분의 사람들은 이를 너무나도 당연한 사실로 여겨 어떠한 질문도 하지 않았습니다. 질문이 없으면 인공지능도 어떤 답변(출력)도 제공할 수 없습니다. 결국, 질문을 던지고 행동을 시작하는 것은 항상 인간의 책임입니다.
마지막으로,
인공지능이 세상의 변화 가능성을 시각적으로 보여주고 있음은 분명합니다. 저만해도 지금 챗GPT가 없으면 마치 직원 두 명을 잃는 것 같은 타격을 받을 정도로 그 영향력이 크며, 앞으로 더욱 발전할 것이라는 점에서 압도적입니다.
하지만 앞서 지동설을 예로 든 것처럼, 사람의 통념을 깨뜨리는 창의적인 사고는 오직 사람만이 만들 수 있다고 강조하고 싶습니다. 우리는 수많은 모방에 현혹되지 않기 위해 계속해서 자신의 신념과 세상의 가치에 대해 질문해야 합니다. 그리고 이러한 고민을 통해 도출된 결과물은 분명히 가치가 있을 것입니다.
예를 들어 저의 경우, "세대 간의 대화가 정말 필요한지", "본능을 억제하고 성공을 추구하는 삶이 올바른지", "경제적 자유가 진정한 자유인지", "건강을 중시하면서도 건강을 해치는 요소가 많은지", "노년을 위해 젊음을 희생하는 것이 의미 있는 일인지" 등의 질문을 가지고 있습니다. 간단한 예시인데, 유튜브 알고리즘은 저에게 다양한 방식의 경제적 자유를 추구할 수 있는 영상을 추천해주더라고요. 저는 이러한 알고리즘에 답변까지 의존하기보다는 여러 경로로 들어오는 질문에 대한 답을 스스로 찾거나 타인과 논쟁 또는 조언을 들으며 나만의 신념을 형성하고 싶습니다.
글을 끝마치며 저는 오늘 명작 <Her, 2014>을 새로운 호흡으로 보러 갑니다..!
