닫힌 세계의 AI, 열린 세계의 인간
인공지능은 왜 혼자서 살아갈 수 없을까?
1. AI 혼자서기 실패
인공지능은 세상을 떠들썩하게 만들었지만, 자세히 보면 여전히 불안정한 모습을 많이 보여 준다. 사람들은 AI 덕분에 많은 편의를 누리고 있지만, AI가 혼자서 세상을 살아가는 모습은 좀처럼 볼 수 없다. 그 이유는 단순하다. AI 스스로는 목표를 세울 수 없기 때문이다. 마치 자식에게 공부하라고 가르친다고 해서, 그가 곧바로 동기를 가지고 세상을 살아가지 않는 것처럼. AI에게 수많은 지식을 가르친다 해도, 인간처럼 자아를 실현하기 위해 살아가지는 않는다.
인간은 백 년 남짓한 삶 속에서 수많은 시행착오와 긴장을 겪으며 스스로 목표를 세우고 나아간다. 환경이 바뀌면 적응하고, 실패 앞에서도 대안을 찾아 다시 걸어간다. 인간은 그렇게 살아간다. 반면 AI에게는 이런 장기적 생존의 모습이 없다. 만약 내가 AI와 함께 글쓰기 수업을 듣는다고 상상해 보자. AI는 분명 나보다 훨씬 빨리 기술을 익힐 것이다. 그러나 그는 왜 글을 써야 하는지, 언제 이 능력을 사용해야 하는지 모른다. 그에게는 단지 ‘수업이 주어졌기 때문에’ 배울 뿐, 그 이상은 없다.
AI는 주어진 범위 안에서 우선순위를 고려할 수 있다. 기술적으로 보면, AI는 ‘어디에 집중해야 할지’를 계산한다. Attention 메커니즘이라고 불리며, 다음 단어를 예측하기 위해 특정 단어에 더 높은 가중치를 준다. 예를 들어 “나는 오늘 아침에 커피를 ___”이라는 문장에서 ‘마셨다’를 예측하기 위해 ‘커피’라는 단어에 주목하는 것이다. 이때의 중요성은 어디까지나 집중할 단어를 찾는 과정이다.
이러한 언어적인 어휘 집중과 "인간이 삶 속에서 느끼는 중요성"은 다르다. 우리는 보이지 않는 문제에도 신경을 쓰고, 때로는 직감적으로 목표를 감지한다. 예를 들어서, 결혼이라는 것을 계획할 때, 남자와 여자는 서로 다른 목적으로 결혼식을 계획할 것이다. 어디서 할지, 얼마를 쓸지 등. 각자에게 중요한 것을 느끼고, 그것을 달성하기 위해서 노력할 것이다. 그러나, AI는 어떨까? 두 AI 가 결혼한다면 서로 어떤 목표를 가지고 결혼식을 준비할까? 어쩌면 평균적인 사람들의 방법을 따라 할 수도 있고, 부자들의 호화로운 결혼식을 할 수도 있다. AI에게는 그 결혼식을 계획할 때 고려되는 목표가 없는데, 이건 결혼에 대한 언어적 개념은 있지만, 상태가 없기 때문이다. 한 사람의 인생에서 중요한 결혼이라는 행위에는 "절차"를 완벽하게 하는 것을 넘어서, 목표인 개인의 가치관, 금전적 여유등이 고려되는데, AI는 이러한 상태가 분명 결여되어 있다. 그러니, AI가 어떤 결혼식을 준비하는지 본다면, 그리 “자아를 가진”형태를 띄지는 않을 것이다.
2. 닫힌 세계
과거 AI가 가장 화려하게 주목받은 순간은 알파고가 이세돌을 이겼을 때였다. 규칙이 명확한 바둑판 위에서 그는 인간을 능가하는 전략을 펼쳤다.
결국 AI가 잘하는 곳은 닫힌 세계이다.
목표가 분명하고 승패가 뚜렷한 공간에서
AI는 누구보다 강하다.
그러나 세상은 바둑판처럼 닫혀 있지 않다. 열린 세계에서 AI는 어디를 향해야 하는지 모른다. 목표를 스스로 세우지 못하기 때문이다. 설령 목표를 정한다 해도, 그것이 인간의 목표와 일치한다는 보장은 없다. 흥미로운 점은 인간조차도 자신의 목표를 분명히 알지 못할 때가 많다는 사실이다. 우리는 흔들리고, 고민하고, 잘못된 길을 갔다가 다시 돌아온다. 이 불완전함 속에서 인간은 자신의 방향을 찾아간다. 그러나 AI는 그러한 과정을 겪지 않는다. 그는 언제나 닫힌 규칙 속에서만 완벽을 발휘할 뿐, 열린 세계에서는 여전히 길을 잃는다.
그래서 사람들은 AI에게 열린 세계를 맡기지 않는다. 대신 사람들은 자신이 만든 닫힌 세계를 AI와 공유하고, 그 속에서 AI가 어떻게 작동하는지 실험한다. (나는 이것을 "닫힌 세계에서 AI 시뮬레이션"이라고 부르고 싶다.) 그 결과를 바탕으로 현실에 적용하는 것은 인간의 역할이다. 이러한 AI와의 상호작용 속에서 사람들은 AI를 통해 자신이 무엇을 원하는지, 어떤 것이 마음에 드는지 알게 된다. 그리고 동시에, 어떻게 행동해야 하는지는 점점 AI에게 의존하게 된다. 우리는 게으른 평가자가 되는 것이다. 우리는 스스로 서는 능력을 잃어가고, 목표를 가진 존재로서의 AI를 사용한다.
정리하면,
인간이 AI를 통해 발전하는 길은 이렇다.
AI는 불완전한 답을 내놓는다.
인간은 그 답을 자신의 목표에 맞게 교정한다.
인공지능과 내가 닫힌 세계에서
시뮬레이션한 최상의 작품은,
열린 세계에서 시험을 받는다.
Illustrated by Alice Eggie