의식이 있고 없고는 AI의 미래에 중요하지 않다

사피엔스 저자로 유명한 역사학자인 유발 하라리 신간 넥서스의 키워드는 AI다. 역사학자의 눈으로 AI를 읽다 보니, 생각해볼 부분들이 꽤 있다. 저자는 AI가 제공하는 장점을 인정하지만, 큰틀에서 AI가 몰고올 수 있는 리스크를 경고하고, 미리 미리 대비해야 한다는 것에 좀더 무게를 두는 것 같다.

AI는 인류 미래에 어마어마한 영향을 미칠 변수고, 제대로 대응하지 않으면 상상하기 힘든 위험에 처할 수 있다는 것이다. 저자는 AI는 의식이 없기 때문에 AI를 둘러싼 이런 저런 우려는 오버액션이라는 시각에 대해서도 동의하지 않는 입장이다. 의식이 없어도, 인류 미래에 어마어마한 영향을 미치는데는 아무 문제가 없다는게 저자 논란이다. 이를 위해 저자는 의식과 지능을 구분해서 볼 것을 주문한다.

알고리즘의 정치적 영향력에 대해서는 더 많은 논의가 필요하다. 무엇보다도 많은 독자들은 알고리즘이 독립적인 결정을 내린다는 주장에 동의하지 않을 것이고, 알고리즘이 한 모든일은 인간 개발자가 작성한 코드와 인간 경영진이 채택한 사업 모델의 결과물이라고 주장할지도 모른다. 이 책의 입장은 다르다. 인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 에측하지 못한 결정을 내릴 수 있다.

어떤 사람들은 이에 대한 반론을 제기하면서 기계 학습 알고리즘을 인간 병사에 빗댄 것만 봐도 내 논증이 얼마나 취약한지 알수 있다고 주장할 것이다. 이들의 주장에 따르면 나 같은 사람들은 컴퓨터를 의인화하여 컴퓨터가 생각과 감정을 가지는 의식 있는 존재라고 상상하지만 사실 컴퓨터는 생각하지도 느끼지도 못하는 바보 기계이고, 따라서 스스로 어떤 결정을 내리거나 아이디어를 생성할 수 없다.

이 반론은 결정을 내리고, 아이디어를 생성하려면 의식이 있어야 한다고 가정한다. 하지만 이는 지능과 의식을 혼동해서 일어나는 기본적인 오해다. 나는 이전 저서들에서 이 문제를 다루었지만 여기서 간략하게나마 되짚어볼 필요가 있다. 사람들은 자주 지능을 의식과 혼동하고 그 결과 많은 사람들이 의식이 없는 존재는 지능을 가질 수 없다는 결론으로 도약한다. 하지만 지능과 의식은 매우 다르다. 지능은 목표를 달성하는 능력이다. 의식은 고통, 쾌락, 사랑, 증오 같은 주관적인 감정을 경험할 수 있는 능력이다. 인간과 여타 포유류에게서는 지능이 종종 의식과 함께 나타난다. 페이스북 경영진과 개발자들은 자신들의 감정에 의지하여 결정을 내리고 문제를 해결하고 목표를 달성한다.

그런 만큼, 인간의 관점에서만 세상사를 바라보는 건 한계가 있다.

인간과 포유류에게서 일어나는 일을 바탕으로 존재 가능한 모든 실체의 상황을 추론하는 것은 잘못이다. 박테리아와 식물은 분명히 의식이 없지만 지능은 있다. 그들도 환경으로부터 정보를 수집하고 복잡한 선택을 한다. 그리고 먹이 획득, 번식, 다른 유기체와의 협력, 포식자와 기생충 피하기 등을 위한 독창적인 전략을 모색한다. 인간도 스스로 의식하지 못하는 상태에서 지능적인 결정을 내린다. 호흡부터 소화까지 우리 몸에서 일어나는 과정의 90퍼센트는 의식적인 결정 없이 일어난다. 더 많은 아드레날린 또는 도파민을 생산하기로 결정하는 것은 우리 뇌다. 우리는 그 결정을 인지할 수 있지만 의식적으로 결정하지는 않는다. 컴퓨터는 고통, 사랑, 두려움을 느끼지 못하지만 그럼에도 사용자 참여를 극대화하는 결정을 내릴 수 있으며, 중요한 역사적 사건에 영향을 미칠 수 있다.

물론 컴퓨터의 지능이 점점 높아지면 결국에는 의식이 생기고, 어떤 종류의 주관적 경험을 할지도 모른다. 아니면 컴퓨터가 우리보다 지능은 월등히 높아져도 어떤 종류의 감정을 전혀 갖지는 않을 수도 있다. 우리는 탄소 기반 생명체에서 의식이 어떻게 생겨났는지 모르기 때문에 비유기적 존재에서 의식이 생길 수 있는지 예측할 수 없다. 의식을 가진 컴퓨터가 머지 많은 미래에 나타날 수도 있다.

의식과 지능을 구분하고 지능 측면에서 보면 컴퓨터와 AI는 세상이 이미 많은 영향을 미치고 있고, AI가 발전할 수록 인간이 통제할 수 없는 상황들은 점점 늘어날 것이란게 저자 전망이다. 원자폭탄은 나오기 전에 리스크를 예상하는 것이 어렵지 않았지만 AI는 지금은 상상할 수도 없는 문제를 나중에 일으킬 수도 있는 만큼, 문제가 터지면 사람이 조정에 나설 수 있는 구조를 미리 미리 갖추는 것이 중요하다는게 저자 주장이다.

컴퓨터에 의식이 생길지 여부는 지금 우리가 당면한 문제에는 중요하지 않다. 사용자 참여를 극대화하라와 같은 목표를 추구하고 목표 달성에 도움이 되는 결정을 내리는데 의식이 꼭 필요하지는 않다. 지능이면 족하다. 의식이 없는 페이스북 알고리즘도 더 많은 사람들이 페이스북에서 더 많은 시간을 보내게 만들겠다는 목표를 가질 수 있다. 그럼 다음 목표를 달성하는데 도움이 된다면 터무니 없는 음모론을 의도적으로 퍼뜨리기로 결정할 수 있다.