사람이 AI보다 나은 점
강한 AGI 시대를 대비하는 철학
최근에 ChatGPT를 통한 지브리 열풍과 영상을 만드는 Canva AI 등 인터넷 공간에서 인공지능이 빠르게 발전하고 있다는 것을 몸소 체감한다. 사고하고 언어를 구사하는 능력은 오랫동안 인간의 고유한 영역으로 여겨졌지만, 이제 AI도 자연스러운 대화를 나눌 수 있게 되었다.
이러한 기술들이 나날이 발전하는 와중에 자신을 AI 시대에 어떤 삶을 살아야 할지 고민이 많아질 수밖에 없다. 그렇다면 우리는 어떤 기준으로 AI 시대에 해답을 내놓을 수 있을까?
작가는 사람이 AI보다 나은 점은 도덕성을 주도할 수 있다는 데 있다고 본다.
AI는 사실 언어를 구사할 줄 알 뿐, 언어를 '이해'하지 않는다. AI는 규칙과 데이터를 기반으로 반응할 뿐, 진정한 '의미'를 느끼거나 해석하지 않는다.
이해를 돕고자 철학자 존 설(John Searle)이 제시한 "중국어 방 사고실험"을 소개한다.
사람 A는 상자 내부에서 한국어만 말할 수 있고 중국어를 전혀 모른다고 가정해 보자. 상자 내부에는 중국어 글자에 맞는 순서가 적힌 설명서가 있다. A는 방 안에 갇혀서, 주어진 규칙서에 따라 중국어 질문에 적절한 중국어 답변을 만들어낸다. 수많은 방 밖에 있는 사람이 글을 적으면, 내부에 있는 A가 순서에 맞는 대답을 한다. 이 답변을 보면 A가 마치 중국어를 완벽히 이해하는 것처럼 보이지만, 실제로는 의미를 전혀 이해하지 못하고 기계적으로 규칙만 따를 뿐이다.
이제 사람 A를 컴퓨터 데이터베이스, 규칙서는 확률로 글을 생성하는 AI 모델, 외부의 있는 사람은 우리들로 치환해 보자. 겉으로 보기에는 AI는 언어를 잘 다루는 것 같지만, AI는 기계적으로 데이터베이스에서 결괏값을 출력하는 것이다. 이처럼 AI는 언어를 다루지만, 진정한 의미를 이해하지 못한다.
사람은 누군가가 언어를 사용했을 때 그 사람이 정말로 언어를 이해하고 있는지 진정으로 속을 들여다볼 수 없다. 인간도 이해를 못 하는데 기계라고 잘 이해하겠는가?
오직 겉으로 드러나는 말과 행동을 보고 판단할 뿐이다. 이 지점에서 AI와 인간의 경계는 애매해진다. 그러면 우리는 어떤 점이 AI와 다를까?
작가가 생각했을 때 AI와 인간의 다른 점은 도덕성의 유무이다.
AI는 스스로 도덕적 판단 근거가 존재하지 않는다. 인공지능이 어떻게 발전하고, 어디까지 확장될지는 우리가 어떤 기준과 가치를 세우느냐에 달려 있다.
사고실험으로 의료 AI로 판단한 환자가 불의의 사고로 안타까운 희생을 하였다면 누가 책임을 져야 할까?
AI가? 회사가? AI를 개발한 사람? 아니면 AI 개발에 데이터를 제공한 병원?
기술이 발전할수록 윤리적 문제도 기하급수적으로 증가한다. 이런 딜레마들을 안고 우리는 미지의 세계로 앞으로 나아간다.
알고리즘에 포함되어야 할 인류의 보편적 기준과 가치를 투영시키도록 노력해야 되지 않을까? 이런 모순된 도덕적 가치는 어떤 가치를 통해 합의를 이룰 수 있을까?
결국에는 AI를 학습시키는 AI 엔지니어가 이 문제를 주도한다.
AI 엔지니어가 해결할 수 없는 복합적인 윤리문제를 AI한테 자율적으로 학습시키도록 하지 않게끔 사회가 나서서 집단지성의 이성을 발휘할 수 있는 합의 플랫폼이 사회적으로 필요하다고 생각한다.
AI의 시대에 가장 중요한 것은 기술발전으로 응용하여 더 합리적인 사회가 될 것이라는 일방적인 믿음보다 AI 그릇에 복잡한 윤리문제를 AI 대신 사람이 주도하는 도덕을 만드는 것이 사람이 AI보다 나은 점이지 않을까? 나는 다시 질문해 본다.
AI 시대에도 인간만이 도덕적 기준을 세우고 유지할 수 있기에, 인간은 여전히 AI보다 위에 설 수 있다.
