생각하는 AI?
26호 | 문과도 이해하는 과학이야기
생각하는 AI?: 튜링 테스트와 중국어 방
인공지능의 역사를 좀 아는 사람들은 이 불운이 천재를 모를 리 없지요. 앨런 매티슨 튜링(Alan Mathison Turing 1912~1954). 10대 시절의 튜링입니다. 아주 순하게 생겼습니다.
맨체스터 대학교에서 공부하고 케임브리지 대학교에서 석사를 마친 후 프린스턴 대학교에서 박사 학위를 취득한 수학자입니다. 2차세계대전에서 큰 활약했습니다. 독일군의 애니그마(Enigma) 암호를 해독해냈습니다. 수학적인 방법론에 통계학과 암호학이 더해졌습니다. 암호를 예리하게 째려본다고 암호가 풀리지는 않지요. 암호해독은 시간 싸움이기도 했습니다. 신속하게 해독해야겠습니다.
튜링은 봄베(Bombe)라는 이름을 붙인 전자기계를 만듭니다. 최초의 컴퓨터일지도 모릅니다. 이 기계가 자동으로 애니그마 암호를 풀어냈다고 해요. 그래서 튜링은 전산학과 컴퓨터 과학의 아버지라고 불리기도 한답니다.
튜링의 암호해독 기계 덕분에 영국군은 독일의 사정을 훤히 들여다 볼 수 있었습니다. 튜링의 활약이 없었다면 영국은 매우 위험했을 거라는 얘기도 있더군요. 전후 튜링은 대영제국 훈장도 받았습니다. 영국의 영웅이었지요. 그러나 오래 살지는 못했습니다. 39세의 튜링은 동성애죄로 기소되었고 유죄판결을 받았습니다. 감옥에 가는 대신 화학적 거세를 선택했다고 합니다. 동성애죄라는 게, 지금의 인권과 자유 관점에서는 상상할 수 없는 일이지만, 19세기 빅토리아 시대의 도덕을 반영한 1885년 개정형법이 20세기 중반에도 여전히 영국사회를 규율하고 있었던 거지요. 동성애는 범죄였습니다. 얼마 지나지 않아 튜링은 청산가리를 먹고 자살합니다. 향년 41세.
아, 그런데 튜링과 AI(artificial Intelligence: 인공지능)는 무슨 관계가 있을까요?
오늘날 우리는, 기계는 인간처럼 지적인 행동을 할 수 있을까? 인공지능은 가능할까? 인공지능이 인간을 대체할 수 있을까? 등등의 생각을 합니다. 누구나 이런 생각을 할 수 있게 된 시대입니다. 이미 영화나 소설에서는 AI가 인간을 지배하곤 하지요. AI 기술이 미래 사회의 핵심 동력이라고 사람들은 말합니다. 옛날에는 이런 생각은 상상도 할 수 없었습니다. 튜링이 1950년 <Computing Machinery and Intelligence>에, 다음과 같은 문장으로 시작한 저명한 논문을 발했습니다.
'기계는 생각할 수 있을까'라는
문제를 논하고자 합니다.
생각이란 정의하기 어렵지요. 그래서 기계가 정말 생각하는지 실제로 판단하기는 어렵습니다. 튜링은 제안했습니다. 다음과 같은 테스트를 해서 기계가 그 테스트를 통과했다면, 그 기계는 생각하는 기계로 인정할 수 있다는 것입니다. 이 테스트가 바로 그 유명한 "튜링 테스트"입니다. 이 테스트에는 두 사람의 사람과, 기계 하나가 등장합니다. 두 사람 중 한 사람은 질문자이며, 나머지 한 사람은 답변자입니다. 기계도 답변을 할 것입니다. 물론 서로 얼굴은 보지 않고 텍스트로만 답변을 받는다고 가정하지요. 만약 질문자가 두 가지 답변을 받아보면서 어느 쪽 답변을 기계가 했는지 구별하지 못한다면 결국 그 기계는 생각할 수 있다고 여겨야 하는 게 아닐까요? 이것이 튜링의 생각입니다. AI가 이 튜링 테스트를 통과한다면 생각하는 AI로 볼 수 있겠지요.
그러나 이런 튜링 테스트에 반론을 제기한 유명한 생각 실험이 있습니다. 일명 <중국어 방Chinese Room>이라고 불립니다. 미국 철학자 존 썰(John Searle 1932~현재)이 제기한 것입니다. 이 생각 실험은, 기계가 튜링 테스트를 통과하는 데 성공했다고 하더라도, 그것만으로 그 기계가 생각하는 AI라고 단정할 수 없음을 역설적인 논리로 입증했습니다. 1984년 <Minds, Brains and Science>라는 제목의 논문을 발표했습니다.
나는 중국어 방이라는 곳에 있습니다. 나는 한국어밖에 모릅니다. 중국어를 전혀 모르지요. 한자도 몰라요. 이곳에는 모니터 하나가 설치되어 있어서 모니터를 통해 중국어로 적힌 질문이 나옵니다. 다행히 중국어 방에는 "이렇게 생겨먹은 질문이 나오면 저렇게 생겨먹은 카드가 답이다"를 친절하게 적어놓은 목록이 있습니다. 그래서 질문이 나오면, 그 중국어 생김새를 본 다음에 목록집을 뒤져서 답에 해당하는 중국어가 적힌 카드를 선택해서 그 카드를 바깥으로 보냅니다.
이것이 중국어 방으로 명명되는 사고 실험입니다. 자, 바깥에 있는 사람들은 이 방 안에 있는 나를 어떻게 생각하겠습니까? 중국어를 아주 잘하는 사람이 방 안에 있다고 생각하겠지요. 하지만 나는 여전히 중국어를 전혀 모릅니다. 그저 목록집을 보고 알맞은 것을 꺼내서 바깥으로 보냈을 뿐이거든요.
나는 실제로 중국어로는
뭔가를 생각할 수 없습니다.
사람들이 나를 그렇게 생각하더라도
나는 중국어를 모릅니다.
썰은 이 중국어 방 실험을 통해 AI가 튜링테스트를 통과했다고 해서 그 AI가 생각을 할 수 있는 것은 아님을 논리적으로 반증하는 데 성공합니다. 이해가 되시나요? 좀 햇갈리시면, 중국어 방은 '하드웨어', 중국어를 전혀 모르는 나는 '소프트웨어', 목록집은 '데이터베이스'로 이해하시면 될 것 같습니다. 중국어 방은 결국 컴퓨터입니다.
이 실험은 역설합니다. 설령 인공지능이 인간을 상대로 체스에서도 바둑에서도 여러 게임에서 이겼더라도 인공지능이 생각하는 능력이 있다고 말하기는 곤란하다고요. 인공지능의 한계가 바로 이런 것입니다.
생각이 없어도 규칙에 따라 찾아내고 판단하고 소통할 수는 있겠지요. 그러나 자유롭게 생각하고 그 생각을 나누는 영역에서 인공지능에 의존하려는 행동은 매우 위험합니다. 예컨대 도덕과 정치와 교육과 공론은 인공지능 영역이 아닌 것이지요.
AI 기술을 발전시키는 것이 4차 산업의 핵심과제라고도 합니다만, 그러면 어떤 방향으로, 어떻게 기술을 발전시켜 나가야 할지를 묻는다면 글쎄 그게 무엇일까요? 인공지능 영역에서만 십수 년 특허 일을 하고 있는 사람으로서 아주 오랫동안 이 문제를 생각해 왔지요. 그러나 저는 정책입안자는 아니니까요. 그저 아랑곳하지 않고 특허문서나 씁니다. 지난주, 이번주, 계속 인공지능 특허 일을 하고 있답니다.
[참고자료]
중국어 방
60초면 알 수 있어요!
이 Open University 채널, 재미있어요. 무엇이든 1분 애니메이션으로 설명한다는 채널입니다.
