디스토피아를 염려하는 당신에게

무지(無知) 보다 짙은 어둠은 없다

 사람들은 AI와 미래기술에 대한 막연한 두려움을 갖는다. 어쩌면 위 사진 같은 무서운 모습의 이미지들이 만들어낸 부정적인 상상 때문일지도 모른다. "AI가 인간을 지배하는 시대가 온다.", "로봇이 발전하면 인간은 일자리를 전부 빼앗길 것이다.", 심지어 "결국 AI는 인류를 멸종시킬 것이다."라는 종말론적 주장까지 등장했다.

 문제는 AI와 로봇에 대한 공포를 조장하는 이 주장들이 짜깁기된 조악한 추측들을 근거로 사람들을 현혹한다는 것이다. 이 주장들에서는 현상에 대한 다음 현상을 이야기할 뿐, 현상에 대한 과학적 진단이 없음을 쉽게 발견할 수 있다. 하나씩 이 유언비어들을 논박해 보자.

 우선 AI가 인간을 지배하려면, '지배'라는 행위의 동인이 있어야 한다. 이 원인에 대해 SF영화나, AI 디스포피아에서는 "인간의 악하고 부정적인 모습들이 축적되어 초지능 AI가 인간의 악한 행동을 막고 통제해야 한다는 결정을 내린다"라고 말한다. 하지만 이 배경에는 간과한 사실이 있다. AI는 인간의 악한 행동을 데이터로 저장하고, 정해진 기준으로 그 행동에 대해 결과를 도출할 수는 있지만, 그 데이터의 집적이 통제와 지배의 결정으로 곧바로 연결될 수는 없다는 것이다. 인간이 경험의 축적으로 무언가를 결심하고 행동에 옮길 수 있는 이유는 느끼는 감정과 그에 따른 의지가 있기 때문이다. AI는 감정을 느낄 수 없을뿐더러, 만약 인간의 감정을 모사하더라도 '의지'가 없다. 

 그렇다면 "AI에게 의지를 심어주면 어떻게 될까? 결론부터 말하자면 AI에게 의지를 갖게 만드는 것은 굉장히 어렵다. 어쩌면 불가능한 이야기일 수 있다. AI는 논리적 연산체계를 바탕으로 학습한 구조화된 논리 속에서 확률상 유의미한 패턴을 결과로 출력하는데, 여기서 우리가 논의하는 '의지'는 논리로 이해되는 부분이 아니다. 예를 들어, 인간에게는 비록 지금 가진 것은 없지만 희망이 있을 수 있고, 실패할 것이 자명하지만, 해야만 하는 일이 있을 수 있다. 의지가 발현할 때 관찰되는 현상만 봐도 수시로 변하고 그래서 모호하며 어떤 경우에는 무모하고도 비논리적이다. 의지가 생겨나는 정신분석학적 작용을 차치하고서도, AI에게 의지를 심어주는 일이 정말 어렵다는 것을 알 수 있다.

 "AI가 스스로 학습하는 과정에서 실험자의 예상과 다른 행동을 하는 경우가 발생하듯이 발전과정 중 스스로 자의식을 갖고 그에 따른 의지를 가질 수도 있지 않나?"라는 질문 역시 사실에 추측을 붙여 놓은 것에 불과하다. AI가 학습하며, 기술자의 예상범위를 넘어선 결과물을 출력하는 경우가 있다. 하지만 어디까지나 수집된 데이터에 기반한 문제이며, 인간이 아직 이해하지 못한 패턴의 논리 전개 방식을 따랐을 뿐이다. 인간 연구자가 AI를 개발하며, 동시에 AI에 대해 배워나감을 상기하자면, 이는 당연한 현상이다. 더불어 저장된 데이터의 합이 자의식이 된다는 논리는 그 단계 사이의 비약이 크다. 자의식이 단순히 '거대한 경험과 사고의 합으로 이뤄진 한 개체가 세상을 바라보는 정신'이라고 한다면¹ AI도 역시 자의식을 갖는지 논의할 수 있겠으나, 자의식은 기본적으로 그 개체의 욕구와 의지를 포함하고, 그로 인한 행동으로서 드러난다. 그리고 AI가 욕구와 의지를 갖는 문제는 윗문단에서 언급한 제약으로 다시 논의가 수렴한다. 

 모르는 대상에 대한 공포는 본능적이다. 그렇기에 직관적이고 뇌리에 깊게 자리하는 편이다. 기술에 대한 막연함은 단순히 모르는 상태로 머무는 것이 아니라, 쉽게 무지²를 낳는다. 새로운 첨단 기술에 관한 소식을 접한다면 비판적으로 사고하는 자세를 갖는 것이 좋다. 섣불리 남보다 빠르게 지식을 얻으려다가 얻은 것이 오히려 독이 될 수 있으니 말이다. 지난 역사에서 그랬듯이 기술은 유토피아를 열지도 않지만, 그렇다고 디스토피아를 선사하지도 않는다. 낙관론도 비관론도 가질 필요 없이, 기술에 대해 정확히 알려는 차가운 머리가 필요하다.

각주

1. 이번화의 '자의식'에서는 "AI가 자아를 가지고 '나'의 개념을 이해하는가?"에 대한 논의는 하지 않겠다. "AI가 그 개체 스스로 세상을 보는 시각을 가질 수 있는가?"에 대한 질문만 다루는 것으로 한다.

2. 미련하고 우악스러움

이미지 출처

https://www.analyticsinsight.net/latest-news/dystopia-is-possible-digital-human-as-a-service-renting-is-here