로숨의 유니버설 로봇과 인공지능의 자의식

로숨의 유니버설 로봇은 체코의 극작가 카렐 차펙이 1920년에 발표한 희곡입니다. 체코어로 노동을 뜻하는 'robota'에서 의미를 따와 로봇이란 말을 처음 사용했습니다. 전체적인 줄거리는 다음과 같습니다. 

천재 과학자인 로숨이 새로운 원형질 세포를 개발해 생물학적인 인조 생명체를 탄생시킵니다. 그리고 그의 사후 그의 아들이 로봇을 대량 생산하여 인간의 노동을 대신합니다. 그러다 로봇 인권연맹의 헬레나가 연구소가 있는 섬으로 찾아오고 로숨과 결혼하여 그곳에 머물게 됩니다.

처음에 로봇은 인간의 감정이 모두 제거된 채로 주어진 명령에만 따르게 만들어졌습니다. 하지만 이를 동정하던 헬레나가 다른 과학자에게 개조를 하도록 부탁하였고 그 후 자의식을 가진 로봇들이 생겨났습니다. 결국 로봇들은 반란을 일으키고 전 세계의 인간들은 모두 죽임을 당합니다. 

하지만 로봇의 힘을 두려워한 헬레나는 반란이 일어나기 전 제조 비법이 담긴 문서를 불태워버렸습니다. 번식기능이 없던 로봇들은 이 사실을 뒤늦게 깨닫고 후회하면서 이야기가 끝납니다.

인공지능은 크게 약인공지능, 강인공지능, 초인공지능의 세 가지로 분류할 수 있습니다. 약인공지능은 지금 우리 주변에서 흔히 볼 수 있는 것처럼 제한된 수준의 지능을 가진 프로그램입니다. 강인공지능은 인간과 동일한 사고 능력을 가진 기계입니다. 그러므로 인간이 로봇을 만든 것처럼 자기 스스로를 개선할 수 있습니다. 만약 이것이 가능하다면 생명의 느린 진화와 달리 엄청난 속도로 발전을 하고 곧 인간을 뛰어넘는 초인공지능으로 탄생하게 됩니다.

연극에서처럼 사람이 일부러 인공지능에게 의식을 부여하지만 않으면 안전할 거라고 생각하기 쉽습니다. 과거 인공지능은 모든 규칙을 사람이 설계하여 구현하였습니다. 하지만 이런 방법으로는 기술에 한계가 있었습니다. 최근에는 딥러닝 같이 기계가 스스로 학습하는 방식을 도입하면서 인공지능의 수준이 급격하게 올라가고 있습니다. 

하지만 인간의 일을 대신할 수 있도록 범용적인 인공지능을 만드려면 현재와 같은 방식으로는 안됩니다. 지금은 지도학습 같이 일일히 입력과 출력이 적혀진 데이터가 필요하지만 앞으로는 인공지능이 스스로 관찰을 통해 데이터가 주어지지 않아도 혼자서 배울 수 있게 될 것입니다. 그렇게 인간의 뇌와 비슷한 구조의 신경망 모델을 만들 수 있다면 사람이 의도하지 않아도 어느 순간 로봇에게 의식이 생길 수 있습니다.

물고기 같은 생명체는 의식이 없습니다. 단순히 특정 상태에서 정해진 행동을 하도록 유전자에 새겨져 있고 그것이 물고기의 신경세포로 발현되어 행동을 결정합니다. 하지만 시시각각 변하는 환경에서 살아남는 최선의 방법은 학습을 통해 행동 규칙을 바꾸는 것입니다. 이를 위해서는 무엇보다 자신을 둘러싼 환경의 개체 하나하나를 정확하게 인식해야 합니다. 

나를 잡아먹는 천적, 맛있는 먹이, 빠져 죽을 수 있는 위험한 웅덩이 등을 인식하고 그것이 무엇을 의미하는지 명확히 알고 있어야 합니다. 그리고 그 중심에는 자신이 있습니다. 모두 나와 연관되어 거기에 따른 행동을 예측해야 하기 때문에 자연스럽게 나에 대한 관념이 생겨납니다. 인공지능도 인간의 뇌와 같은 방식을 통해 스스로 자의식을 얻게 될지도 모릅니다.

테슬라와 스페이스X의 CEO인 엘론 머스크는 인류가 AI라는 악마를 불러내려 한다고 공개적으로 말하기도 했습니다. 얼마전 타계한 스티븐 호킹 역시 인공지능이 인간의 멸명을 가져올 수 있다고 경고하였습니다. 물론 아직 강인공지능을 만드는 것은 불가능해 보입니다. 하지만 기술의 발달이 점점 가속화되고 있기 때문에 조만간 지능의 근본 원리를 발견하게 될지도 모릅니다. 과연 의식을 가진 인공지능을 어떻게 막을 수 있을지, 아니면 로봇이 인간의 후계자가 되는 것이 필연적인 역사의 흐름인지 지켜봐야될 것 같습니다.