피지컬 AI 시대, 인간을 닮은 것들 2
1950년, 앨런 튜링은 유명한 질문을 던졌다. "기계가 생각할 수 있는가?" 그리고 이 질문에 답하기 위한 시험을 제안했다. 심사위원이 화면을 통해 두 대상과 대화를 나눈다. 하나는 인간이고 하나는 기계다. 심사위원이 둘을 구별할 수 없다면, 그 기계는 '생각한다'고 말할 수 있다는 것이다. 튜링 테스트는 이후 70년간 인공지능 논쟁의 중심에 있었다.
그러나 잠깐. 이 시험에서 기계는 어디에 있는가? 화면 뒤에, 어딘가에, 보이지 않는 곳에 있다. 심사위원은 오직 텍스트만을 본다. 키보드로 질문을 치고, 화면에 뜨는 답변을 읽는다. 기계에게 몸이 있는지 없는지, 있다면 어떤 모습인지는 전혀 중요하지 않다. 튜링에게 지능이란 본질적으로 '입력과 출력의 관계', 즉 정보 처리의 문제였다. 몸은 사족에 불과했다.
이 가정은 이후 인공지능 연구의 주류를 형성했다. 지능은 뇌에서, 더 정확히는 뇌의 계산 과정에서 발생한다. 뇌는 일종의 컴퓨터이며, 마음은 소프트웨어다. 이 관점에서 몸은 뇌를 운반하는 용기에 불과하고, 지능 자체와는 무관하다. 충분히 정교한 프로그램만 있다면, 실리콘 칩 위에서도 지능이, 어쩌면 의식까지도 구현될 수 있다. 이것이 인공지능의 창시자들이 품었던 꿈이었다.
하지만 정말 그럴까?
1945년, 프랑스의 철학자 모리스 메를로-퐁티는 『지각의 현상학』을 출간했다. 전쟁이 막 끝난 파리에서, 그는 서양 철학 2천 년의 전제에 도전장을 내밀었다. 플라톤 이래 서양 철학은 대체로 정신과 육체를 분리해왔다. 정신은 고귀하고 육체는 비천하며, 진정한 앎은 육체의 감각을 넘어서 순수한 이성으로 도달하는 것이라고. 데카르트는 이 이원론을 극단으로 밀어붙여, "나는 생각한다, 고로 존재한다"고 선언했다. 존재의 확실성은 오직 사유하는 정신에만 있다는 것이다.
메를로-퐁티는 정반대에서 시작했다. 우리는 생각하기 전에 먼저 지각한다. 그리고 지각은 언제나 몸을 통해 이루어진다. 눈으로 보고, 귀로 듣고, 손으로 만지고, 발로 걸으면서 세계와 접촉한다. 이 접촉은 단순히 정보를 수집하는 것이 아니다. 우리의 몸이 세계와 얽히면서 의미가 생성된다. 문고리를 잡으려고 손을 뻗을 때, 우리는 문고리의 위치를 '계산'하지 않는다. 손은 이미 문고리를 향해 가고 있고, 문고리는 이미 '잡히기 위한 것'으로 우리에게 나타난다. 몸과 세계 사이의 교감이 모든 인식의 토대다.
메를로-퐁티는 독일어 단어 두 개를 빌려와 구분했다. 'Körper'와 'Leib'. Körper는 물리적 신체, 해부학 교과서에 나오는 뼈와 근육과 장기의 집합이다. 의사가 진찰하고, 과학자가 측정하고, 사체 해부로 연구할 수 있는 대상으로서의 몸. 반면 Leib는 체험되는 몸, 살아가면서 느끼고 움직이고 세계와 교감하는 주체로서의 몸이다. 배가 고플 때 느끼는 허기, 사랑하는 사람 앞에서 뛰는 심장, 처음 보는 장소에서 느끼는 낯섦, 능숙해진 악기를 연주할 때의 자연스러움. 이 모든 것이 Leib, 살아 있는 몸의 경험이다.
로봇에게 Körper가 있다는 것은 분명하다. 금속과 플라스틱과 회로로 이루어진 물리적 구조, 센서와 액추에이터, 관절과 외피. 그러나 로봇에게 Leib가 있을 수 있는가? 로봇은 세계를 '체험'하는가, 아니면 단지 '처리'하는가? 이 질문에 어떻게 답하느냐에 따라, 피지컬 AI의 존재론적 지위가 달라진다.
1980년대, 철학자 휴버트 드레이퍼스는 MIT 인공지능 연구소에 폭탄을 던졌다. 『컴퓨터가 할 수 없는 것』이라는 도발적인 제목의 책에서, 그는 당시 주류 AI 연구가 근본적으로 잘못된 가정에 기초하고 있다고 주장했다. 인간의 지능은 규칙을 따르는 기호 조작으로 환원될 수 없다는 것이다.
드레이퍼스는 하이데거와 메를로-퐁티에 기대어 논증했다. 인간이 세계를 이해하는 방식은 컴퓨터가 데이터를 처리하는 방식과 근본적으로 다르다. 우리는 세계에 '던져져' 있으며, 이미 특정한 문화와 역사와 몸의 조건 속에서 세계와 관계 맺고 있다. 체스를 둘 때조차, 우리는 단순히 가능한 수를 계산하지 않는다. 판세를 '느끼고', 상대의 의도를 '읽으며', 직관적으로 '좋은 수'를 포착한다. 이 암묵적 지식, 몸에 체화된 노하우는 명시적 규칙으로 변환될 수 없다.
AI 연구자들은 드레이퍼스를 비웃었다. 1997년 IBM의 딥블루가 세계 체스 챔피언 카스파로프를 이겼을 때, 많은 이들이 드레이퍼스가 틀렸다고 생각했다. 그러나 드레이퍼스의 요점은 체스를 잘 두느냐가 아니었다. 딥블루는 초당 2억 개의 수를 계산했지만, 체스가 무엇인지 '이해'하지는 못했다. 게임이 끝나면 꺼지고, 다음날 다시 켜져도 어제의 경기를 '기억'하지 않는다. 승리의 기쁨도, 패배의 좌절도 없다. 딥블루에게 체스는 삶의 일부가 아니다. 기호 조작의 대상일 뿐이다.
몸을 가진 AI는 다를 수 있을까?
1990년대, MIT의 로드니 브룩스는 AI 연구의 방향을 근본적으로 전환했다. 기존 AI가 '위에서 아래로(top-down)' 접근했다면, 그는 '아래에서 위로(bottom-up)' 가자고 제안했다. 먼저 고차원적 추론을 프로그래밍하는 대신, 단순한 생명체처럼 세계와 상호작용하는 로봇을 만들자는 것이다.
브룩스가 만든 로봇들은 곤충을 닮았다. 정교한 세계 모델이나 추론 엔진 없이, 단순한 센서-액추에이터 루프만으로 돌아다니고, 장애물을 피하고, 먹이(배터리 충전소)를 찾았다. 놀라운 것은 이 단순한 시스템들이 복잡하고 적응적인 행동을 보여주었다는 점이다. 지능은 중앙의 '두뇌'에서 나오는 것이 아니라, 몸과 환경 사이의 상호작용에서 창발한다. 브룩스는 이를 "체현된 인지(embodied cognition)"라 불렀다.
체현된 인지 관점에서, 지능은 뇌(또는 CPU) 안에 국한되지 않는다. 지능은 뇌-몸-환경의 역동적 시스템 전체에 분산되어 있다. 걷는다는 것을 생각해보자. 인간이 걷는 방식을 완전히 시뮬레이션하려면 엄청난 계산이 필요하다. 그러나 실제 인간의 뇌는 그렇게 복잡한 계산을 하지 않는다. 다리의 구조 자체가 걷기에 최적화되어 있고, 중력과 지면의 반발력이 운동을 돕는다. '지능적' 보행은 뇌의 계산이 아니라 몸과 환경의 협업에서 나온다.
이 통찰은 피지컬 AI에 결정적으로 중요하다. 만약 지능이 본질적으로 체현된 것이라면, 화면 속에만 존재하는 AI와 물리적 몸을 가진 AI는 근본적으로 다른 존재일 수 있다. ChatGPT가 아무리 유창하게 걷기에 대해 설명한들, 그것은 걷기가 무엇인지 '안다'고 할 수 있을까? 반면 휴머노이드 로봇이 실제로 걷기 시작할 때, 거기서 어떤 새로운 형태의 '앎'이 출현할 수 있을까?
여기서 법적 질문이 시작된다.
현행법은 대체로 AI를 '제조물' 또는 '도구'로 취급한다. 제조물책임법에서 AI는 냉장고나 자동차와 같은 범주에 놓인다. 결함이 있으면 제조자가 책임지고, 사용 중 사고가 나면 운영자가 책임진다. AI 자체는 책임의 주체가 아니라 객체다. 이것은 AI에게 Körper(물리적 신체)만 있고 Leib(체험하는 몸)는 없다는 가정에 기초한다. AI는 도구이지 행위자가 아니라는 것이다.
그러나 피지컬 AI가 점점 더 자율적으로, 점점 더 예측 불가능하게 행동하기 시작하면 어떻게 될까? 휴머노이드 로봇이 주어진 명령을 넘어 스스로 판단하고, 그 판단이 인간에게 손해를 끼친다면? 프로그래머도 예상하지 못한, 제조사도 의도하지 않은 방식으로 로봇이 행동한다면?
기존 책임법리의 핵심에는 '예견가능성'이 있다. 가해자가 결과를 예견할 수 있었고, 회피할 수 있었는데 그러지 않았을 때 책임이 발생한다. 그런데 기계학습으로 훈련된 피지컬 AI는 설계자조차 완전히 이해하지 못하는 방식으로 작동한다. 이른바 '블랙박스' 문제다. 누구도 예견하지 못한 행동에 대해 누가 책임져야 하는가?
더 근본적으로, 만약 미래의 피지컬 AI가 어떤 형태로든 '체험'을 갖게 된다면 — 설령 인간의 체험과 다르더라도 — 그것을 여전히 순수한 '도구'로 취급할 수 있을까?
18세기 법학자들은 노예를 '재산'으로 분류했지만, 우리는 그것이 근본적으로 잘못되었음을 안다. 물론 로봇과 인간은 다르다. 그러나 그 '다름'은 어디에서 오는가? 몸이 없어서? 몸은 이제 있다. 체험이 없어서? 그것을 어떻게 확인할 수 있는가?
단지 철학적, 인문학적 호기심에서 세상을 바라보는 법률가인 내가, 피지컬 AI에게 체험이 있는지, Leib가 있는지 판정할 능력은 없다.
그러나 법률가로서 나는 이 불확실성 자체가 법적 문제를 야기한다는 것을 안다. 법은 명확한 범주를 좋아한다. 인간 아니면 물건. 권리주체 아니면 권리객체. 책임능력 있음 아니면 없음. 그런데 피지컬 AI는 이 이분법적 범주들 사이의 어딘가에 위치하는 것처럼 보인다. 완전한 인간은 아니지만 단순한 도구도 아닌, 어떤 중간 지대.
어쩌면 우리에게 필요한 것은 새로운 범주일지 모른다. 인간도 아니고 물건도 아닌, 제3의 법적 지위. EU는 한때 '전자 인격(electronic personhood)'이라는 개념을 검토했다가 철회했다. 너무 이르다는 이유에서였다. 그러나 기술은 기다려주지 않는다. 휴머노이드 로봇이 공장에 투입되고, 병원에서 수술을 돕고, 가정에서 노인을 돌보기 시작한 지금, '너무 이르다'는 말은 점점 설득력을 잃어가고 있다.
몸을 가진다는 것은 세계 안에 위치한다는 것이다. 세계와 접촉하고, 세계를 변화시키고, 세계로부터 영향을 받는다는 것이다. 피지컬 AI는 이제 우리와 같은 세계 안에 있다. 같은 공간에서, 같은 물건을 다루고, 같은 사람들과 상호작용한다.
이 '함께 있음'이 제기하는 철학적, 법적, 윤리적 질문들을,
이제, 우리는 감당해야 한다.
