AI는 인간처럼 생각할 수 있을까?

어느 구글 엔지니어의 폭로

얼마 전 구글의 엔지니어 블레이크 레모인이 자사의 대화형 인공지능 '람다(LaMDA)'가 사람처럼 지각 능력이 있다는 주장을 했다는 뉴스로 세상이 떠들썩해졌다. 그의 말에 따르면 람다는 인간처럼 사고할 수 있으며, 작동 정지되는 것에 대한 두려움이 크다고까지 말했다고 한다. 그는 결국 회사의 기밀 유지 규정 위반을 이유로 해고되었다.

사람들은 무미건조한 팩트보다 조금 비과학적이라도 상상력을 자극하는 주제를 좋아한다. 일상생활에서 사용하는 siri나 음성인식 기능이 탑재된 각종 기기들을 보면 어딘가 모르게 섬뜩한 기분이 들기도 한다. 이번 사건을 계기로 사람들은 또다시 인공지능이 사람을 지배하는 디스토피아를 상상하고 싶어 할지도 모른다.

그렇다면 블레이크의 주장대로 인공지능이 '의식'을 가지는 것이 정말로 가능한 일일까? 인공지능 분야 중에서도 인간의 언어 지각 능력과 깊은 관련이 있는 자연어 처리(NLP) 분야의 일을 하고 있는 입장에서, 현시점의 나의 의견을 조심스럽게 풀어보고자 한다.

의식이란?

생각을 한다는 것은 무엇일까? 그것은 '의식'을 가진다는 것을 의미할 것이다. 심리철학에 따르면 '의식'이란 넓은 뜻으로 대상에 대한 '경험'이라고 한다. 위키피디아에 따르면 의식이란 고도로 조직된 물질(대뇌피질)의 작용으로, 제2차 신호계(언어)의 외적 세계의 반영이라고 한다.

쉽게 말해 의식은 어떤 '주체(나)'가 어떤 '매개체(언어)'를 통해 자신과 그 주변 세계를 경험하고 느끼고 판단하는 그 무언가다. 그렇다면 질문은 더욱 간단해진다. "기계는 과연 언어를 통해 세계를 경험하고 있을까?"

강인공지능과 약인공지능

인공지능은 강인공지능(Strong AI)과 약인공지능(Weak AI)으로 나뉘며, 1980년대 존 설 교수의 제안으로 탄생된 개념이다. 강 인공지능이란 컴퓨터가 사람과 동일한 지성을 가지고 스스로 판단할 수 있다는 가설이다.그녀(Her), A.I로봇 등 공상과학영화에 등장하는 인공지능은 모두 강 인공지능을 모델로 한다. 사실상 강 인공지능에 대한 연구는 20세기에 멈추어져 있다고 해도 과언이 아니다.

그에 반에 약인공지능은 문제 해결에 포커스가 맞추어져 있다. 자연어 처리, 객체인식, 이 상치 탐지 등 인간의 특정 분야의 문제를 해결하기 위한 인공지능이다. 방대한 데이터를 학습시켜 인간의 프로그래밍 없이도 스스로 문제를 해결해 나가는 시스템을 목적으로 한다. 심리상담 챗봇, 스노(snow), 자율주행 자동차 등 오늘날 인간 생활을 편리하게 해주는 거의 모든 종류의 인공지능이 여기에 속한다. 약인 공지 능은 지금도 활발하게 투자가 이루어지고 있으며 발전하고 있는 분야다.

인공지능이 학습하는 방식 : 지도 학습과 비지도 학습

우리가 생각하는 강인공지능이 아직은 공상과학영화에만 등장하는 영역이라면 범위는 더욱 좁혀진다. 최근 여러 분야에서 널리 사용되고 있는 약인공지능이 학습하는 방식에 대해 알아보는 것으로 우리의 질문에 대한 답을 찾을 수 있을 것이다. 약인공지능은 크게 지도 학습, 비지도 학습, 강화 학습 세 가지의 방법으로 학습을 하는데, 대표적인 두 가지에 대해서 알아보자.

머신러닝(딥러닝)에서 지도 학습이란, 인간이 머신러닝(딥러닝) 알고리즘에 제공한 과거의 수많은 데이터를 바탕으로 기계가 스스로 학습하여 판단/예측 능력을 향상한다. 대부분의 경우 데이터가 많고 정확할수록 예측 정확도가 올라가는데, 이를 위해서는 입력하는 모든 데이터에 '라벨링'이라는 작업이 필요하다.  "이것은 고양이이고 저것은 개다."와 같이 인간이 정답을 알고리즘에게 일일이 수작업으로 알려주는 작업이라고 생각하면 편하다.

비지도 학습은 정답이 없는 데이터에 대해 인공지능 스스로가 답을 찾아가며 새로운 데이터에 대한 결과값을 예측하는 과정을 말한다. 인공지능은 특정 데이터를 군집화(clustering)하고 나누는 방식으로 답을 찾아갈 수 있다. 단순 회귀(Regression) 모델부터 인공신경망(ANN)과 합성곱(Convolution)으로 이루어진 복잡한 딥러닝 모델까지 종류는 다양하지만 지도 학습이든 비지도 학습이든 본질적으로 약인공지능이 학습하는 방식은 방대한 양의 '데이터'를 필요로 한다.

한마디로 지금의 인공지능 챗봇이나 siri가 뱉어내는 매우 '인간스러운' 문장들은 수백만수천만 건의 방대한 데이터에 대한 '모방'에 지나지 않는 것이다.

결론 : 인공지능은 아직 세상을 경험할 수 없다.

siri, 심리상담 챗봇, 구글 번역기, 파파고, 알파고 그리고 최근 논란이 된 람다까지. 현시점의 인공지능은 아직 언어를 매개로 세상을 경험하지 못한다. 따라서 현재의 인공지능이 사람과 같은 지각 능력을 가지는 것은 불가능하다. 인공지능이 뱉어내는 그럴듯한 문장들은 우리 인간들이 수천 년의 역사를 통해 쌓아 놓은 데이터에 기반한 것이며 인공지능은 그것을 모방하고 있다고 보는 것이 현실에 가까울지도 모른다.

그러나 앞으로도 인공지능은 놀라운 발전을 거듭하며 인간의 생활을 상상할 수 없을 정도로 바꿔놓을 것이다.

또한 언젠가는 인공지능이 사람처럼 세상을 '경험'할 수 있는 날이 오는 즐거운 상상을 해보는 것도 충분히 낭만적인 일일 것이다.