뉴런도 무오류의 존재입니다만…?

<괴델,에셔, 바흐>

… 그런데 “비합리성은 컴퓨터의 성격과 양립할 수 없다”는 이 생각은 층위들을 심각하게 혼동한 데에서 비롯된다. 그 잘못된 생각은, 컴퓨터란 무오류로 작동하는 기계이며 따라서 모든 층위들에서 반드시 “논리적”이어야 한다는 생각에서 생겨난다. 그러나 컴퓨터도 일련의 비논리적 진술들을 출력하도록, 또 변화를 주기 위해서 무작위 진리치를 가지는 일련의 진술들을 출력하도록 명령받을 수 있다는 것도 명명백백하다. 그러나 그런 명령들을 따르는 데서는, 컴퓨터는 어떤 실수도 하고 있지 않을 것이다! 이와 반대로, 컴퓨터가 출력하도록 명령받았던 진술과 다른 어떤 것을 출력해야만 비로소 실수일 것이다. 이것은 한 층위에서의 무오류 작동이 어떻게 더 높은 층위의 기호조작의 토대가 될 수 있는지 보여준다. 그리고 더 높은 층위의 목표들이 진리의 전파와 완전히 관련이 없을지도 모른다는 것을 보여준다.

이 문제에 대한 전망을 얻는 또 하나의 방법은 뇌 또한 무오류의 작동성분들-뉴런들-의 집합이라는 것을 기억하는 것이다. 입력신호들의 합이 뉴런의 문턱값을 넘어서면 뉴런은 여지없이 탕! 하고 발화한다. 뉴런이 자신의 산술적 지식을 잊어버리는 일-입력값들을 부주의하게 더해서 틀린 대답을 얻는 일은 결코 일어나지 않는다. 심지어 뉴런이 죽더라도, 뉴런의 구성요소들이 수학과 물리학의 법칙을 계속 따른다는 점에서 뉴런은 계속 올바르게 작동한다. 그러나 우리 모두가 아는 것처럼, 뉴런들은, 자신의 층위에서 보면, 오류인 높은 층위의 행동을 매우 놀라운 방식으로 완벽하게 지원할 수 있다.

(중략) 이와 마찬가지로 높은 층위의 기호처리가 뇌에서 아름다움의 인식이라는 경험을 창출하는 것도 최하층위에서는 완벽하게 합리적이며, 그때도 최하층위는 무오류로 작동하고 있다. 어떤 비합리성도, 만일 그런 것이 있다면, 그것은 더 높은 층위에 존재하며, 더 낮은 층위에서 일어나는 사건들의 부수현상, 즉 결과이다.

(중략)

무오류로 작동하는 컴퓨터 하드웨어가 혼동, 망각 또는 아름다움의 감상 같은 복잡한 상태들을 표현할 높은 층위의 기호 행동을 지원하지 못할 것이라고 믿을 이유는 없다. 복잡한 “논리”에 따라서 서로 상호작용하는 거대한 하위체계들이 있어야 할 것이다. 겉으로 드러난 행동은 합리적으로 보일 수도 있고 비합리적으로 보일 수도 있지만, 그 바탕에는 신뢰할 만한 논리적인 하드웨어의 실행이 있을 것이다.

​

- 더글라스 호프스테터, <괴델, 에셔, 바흐> 787~789

​

얼마 전에 좋아하는 최재천 교수가 진행하는 유튜브 채널을 보던 중, 그가 ‘인간은 인공지능과 달리 비합리적이며 무수한 실수와 오류를 저지른다’는 식의 말을 하는 것을 들었다. 뭐랄까, 그건 정말 고전적인 발언이다. 인공지능이라는 것이 착안된 이후 ‘컴퓨터는 비합리성과 양립할 수 없다’는 그 믿음은 말에서 말로, 글에서 글로, 유구한 역사를 갖고 이어지는 중이다. 환원주의에 거부감을 지니는 학자들이 가장 즐겨하는 말 중에 하나가 아닐까 싶기도 하다. (내가 알기로는 최재천 교수도 그중 하나이다.) 호프스테터가 이미 이 책에 최소한 그런 측면으로 인간의 지능과 인공지능을 구분하는 것은 무의미하다는 것을 층위의 문제를 들어 몇 번이나 반복해서 논리적으로 논증하고 있지만, 아직 이러한 논리를 다시 논리로써 반박하면서 둘 사이의 차이를 검증하는 학자의 글은 읽어본 적이 없다.

​

<괴델, 에셔, 바흐>를 이루는 가장 큰 줄기 중 하나가 바로 이 층위의 문제일 것이다. 정말 궁금하지 않은가? 어떻게 뉴런들의 전기 신호가 인간의 의식이라는 이 엄청난 ‘결과’로 나타나는지, 그리고 글로 입력하는 컴퓨터 코드가 어떻게 화면에 그렇게 다양한 형태의 ‘결과’로 나타나는지 말이다. 나는 여전히 그게 어떻게 이루어지는지 도무지 이해할 수가 없는데, 다행히도 인간의 의식의 관련되어서는 아직 다들 이해를 못 한다. (컴퓨터 코딩 역시 알고 하는 사람은 거의 없을 것이라고 생각한다.) 호프스테터는 ‘층위’의 개념을 통해 그 ‘창발’의 비밀에 최대한 근접한다. (라고 썼지만 호프스테터는 ‘창발’ 어쩌고 하는 개념을 별로 좋아하는 것 같지 않다.) 인용문에서 보듯이 층위라는 개념의 시각으로 보면 컴퓨터와 인간 지능 사이에는 차이보다는 유사점이 더 많다.

호프스테터는 이 층위의 문제를 생명의 본질인 DNA의 자기 복제 문제, 그리고 바흐의 음악과 에셔의 그림에까지 확장시킨다. 예를 들어,

​

… 세포의 하위단위들이 컴퓨터 과학의 용어로 분류될 수 있는 다양한 방식들을 요약해 보자. 일단 DNA부터 살펴보자. DNA는 세포의 활성물질인 단백질을 만들기 위한 모든 정보를 포함하기 때문에 고급언어로 작성된 프로그램으로 볼 수 있다. 그 프로그램은 나중에 세포의 “기계어(단백질)”로 번역된다. …

(745)

​

이 책은 뉴런의 층위로부터 의식이 생겨나는 것, 혹은 생명의 시초가 되는 그 조각이 ‘어떻게 시작했는가? ‘의 문제 같은 것들을 설명하지는 못한다. 저자는 ‘이에 대한 답변보다는 경탄과 경외감에 만족해야 할 것이다.(748)’이라고 간략하게 쓴다. 이 책이 쓰인 때로부터 생명공학과 인공지능은 엄청난 발전을 했는데, 여전히 이 문제들은 숙제로 남아있고, 인공지능의 학습법은 훨씬 더 인간의 지능이 학습하는 형태에 가까워졌다. 하지만 이 책 이후(이 책에서 많은 부분이 발췌된 <그래, 이게 바로 나야>를 포함해서)  저자의 최근 생각을 읽을 수 있는 책이 없다는 것은 매우 아쉬운 일이다. (어디서 대충 본 에세이에 최근의 호프스테터를 인용한 부분은 그가 인공지능에 약간은 회의적인 발언을 했던 것 같은데 정확하지 않다. 인공지능의 한계에 대한 언급이었다면 오히려 과열된 듯한 인공지능에 대한 공포를 해소하기 위한 발언이었을 수도 있을 것 같다.)

​이 엄청난 책을 다 읽고 하루 정도 공허한 마음을 달래야 했다. 그 정도로 이 책을 읽는 것은 엄청난 경험이었다. 책의 커버에 쓰인 홍보글 중 ‘불가사의한 책’이라는 표현이 있는데, 그 표현에 동의한다. 어떻게 이런 책을 쓸 수 있었을까? 난 <괴델, 에셔, 바흐, 그리고 호프스테터>라고 쓰고 싶다. 이 책은 마지막에 꼽사리 낄 만한 자격이 있다.

​

​당분간 이 책에 대해 산발적으로 기록하려고 한다. 무수하게 접혀있는 책의 갈피들을 보며 어찌 되었든 끝까지 다 읽었다는 뿌듯함이 든다. 몇 년 전 헬레나 크로닌의 <개미와 공작>도 책의 후반부까지 읽었지만 끝을 내지 못했고 조지 레이코프의 <몸의 철학>도 끝을 내지 못했는데, 이 책을 끝까지 읽을 수 있었던 것은 어디까지나 호프스테터 씨의 뛰어난 유머감각 덕분이었다. 이 책에서 가장 인상적인 부분은 바로 유머감각이라고 말할 수 있을 정도다. 선생님, 돌아가시기 전에 이런 책 하나만 더 써주세요. 흑흑