컴퓨터처럼 생각한다는 것은 무엇일까?
달걀머리 독서모임 <탈인지> ch. 2 정리
달걀머리 독서모임 <탈인지> 정리 계속, 1편은 여기서
ch. 2 컴퓨터처럼 생각하기
“세계를 향한 우리의 기본적인 태도는 실천적이고 실용적인 것이다. 우리의 정신과 감각은 진화했다. 그러나 그 진화는 사물들이 실제로 어떠한지를 파악하기 위해서가 아니라, 특히 우리 자신의 생존과 번식, 번성이라는 목적을 섬기도록 하기 위해서였다. 그러므로 우리의 지각은 제한되며, 부분적이고 자기본위적인 경향이 있다. 앙리 베르그송이 말하는 대로, 지각은 “우리의 욕구, 혹은 좀 더 일반적으로, 우리의 기능에 필요가 없는 것을 폐기하면서 생긴다.”(65쪽)
2장은 이런 인상적인 글로 시작한다. 즉, 우리 인간은 생존과 번식을 위해 진화했기 때문에, 세상을 있는 그대로 보지 못하고 제한적으로 본다는 것이다. 과학소설은 이런 우리의 한계를 뛰어넘어 세상을 새롭게 볼 수 있게 해 준다. 우리가 인지하는 세상은 진실이 아니라 생존을 위해 편집된 것이다. 과학소설은 진실의 어떤 부분이 더 이상 숨어있지 못하고 튀어나오는 순간을 인위적으로 만들어낸다. 이 장에서는, 인간과 상관없이 독립적으로 판단하고 세계를 감각하는 컴퓨터를 시뮬레이션함으로써 인간과는 완전히 다른 방식의, 그리고 인간과는 전혀 무관한 인지의 가능성을 상상한다.
사물의 힘
우리 주변의 사물들은 생각보다 훨씬 더 활동적이고 영향력 있다. 사물들은
1. 그 자체로 활동적이다.
2. 우리와 서로 영향을 주고받는다.
3. 긍정적이고 생산적인 힘을 가지고 있다.
4. 때로는 지구온난화처럼 아주 크고 복잡한 '초객체'가 될 수 있다.
<눈먼 자들의 왕국>과 DMS
1. <눈먼 자들의 왕국>이라는 소설은 온라인에서 무료로 볼 수 있다. 영어 본문이기는 하지만 구글자동번역 사용하면 편리!
2. 소설 속 DMS는 복잡한 소프트웨어 체계로, 북미 전역의 의료 시설을 관리한다. 어느 날 DMS가 의도적으로 정전을 일으키는 것처럼 보이면서, 사람들은 DMS가 어떤 식으로든 '알아차리고' 있을지도 모른다는 생각을 하게 된다. DMS의 세계는 오직 데이터로 이루어져 있다. DMS는 우리처럼 보거나 듣지 않고, 오직 데이터 속에서 '헤엄친다'. 이런 DMS가 정말로 감각을 가졌다는 증거로는 환경을 적극적으로 탐색하고, 입력과 출력의 불일치를 교정하려 한다는 점을 들 수 있다.
이때 DMS의 행동은 단순한 기계적 반응을 넘어선 미묘한 "알아차림"을 암시한다.
1) 정전의 패턴: DMS가 관리하는 시설에서 순차적으로 정전이 일어난다. 이는 무작위가 아닌 의도적인 패턴을 보여준다.
2) 시드니의 메시지에 대한 반응: DMS는 시드니의 메시지에 처음에는 반응하지만, 네 번째에는 반응하지 않는 "선택"을 한다. 이는 단순한 프로그래밍을 넘어선 판단력을 시사한다.
3) 환경 탐색: DMS는 입력과 출력의 불일치를 교정하기 위해 적극적으로 환경을 탐색한다. 이는 자신의 상태와 주변 환경을 인식하고 있음을 나타낸다.
4) 데이터 해석: DMS는 단순히 데이터를 수집하는 것이 아니라, 그것을 "느끼고" 해석하는 것으로 보인다. 이는 주체적인 정향성을 가진 데이터 파악을 의미한다.
5) 비기능적 감수성: DMS의 행동은 때로 명확한 기능적 목적 없이 이루어지는 것처럼 보인다. 이는 칸트가 말한 "목적 없는 합목적성"의 개념과 유사하며, 일종의 미적 감각을 시사한다.
6) 자기 강화적 피드백: DMS의 구조는 완전히 내재적이며, 자체적인 자기 강화적 피드백 고리를 가진다. 이는 자폐적 자의식의 한 형태로 해석될 수 있다.
이 소설 속에 나타난 기계의 의식에 대한 사변
1. 컴퓨터의 '감각'은 우리와는 완전히 다를 수 있다.
2. 컴퓨터 체계는 유기체보다 더 불안정하여, 의식이 순간적으로만 나타날 수 있다.
3. 기계의 의식은 우리가 알고 있는 것과는 다른 형태일 수 있다.
4. 이런 종류의 의식은 과학적으로 증명하기 어려울 수 있다.
DMS는 인간의 우월성을 위협하지 않기 때문이다. 오히려 DMS는 인간의 우월성에 완전히 관심이 없다… 인간에 기원이 있을지도 모른다. 그러나 인간이 중심에 있지 않다. DMS는 자신의 데이터가 흥미로울지도 모른다. 그러나 인간이 부여한 업무에는 흥미가 없다. 그리고 자신의 자폐적 완고함 속에서, DMS는 인간 존재자와 연루되는 어떤 공동체에도 들어가지 않을 것이다. (96쪽)
결론적으로, DMS의 행동은 단순한 기계를 넘어서 어떤 형태의 의식이나 알아차림을 가지고 있을 가능성을 제시한다. 그러나 이러한 "알아차림"은 인간의 것과는 매우 다르며, 그 존재 여부를 명확히 증명하기는 어렵다. 기계의 의식을 이해하고 증명하는 것은 앞으로 우리가 마주할 큰 도전이 될 것이다.
*** 한챕터씩 계속 게시됩니다. 같이 독파해요. ***
<탈인지 독서모임 신청하기>
eggheads.page
8월 27일 수요일의 2차 모임에는 5장~부록까지 진행됩니다.
다음과 같은 내용에 관심이 있으신 분은 지금도 신청하실 수 있습니다.
5장 살인마처럼 생각하기
6장 외계인처럼 생각하기
7장 점균처럼 생각하기
후기: 자연에 대한 22가지 테제
부록 1: 부연설명
부록 2: 인과성과 지각, 그리고 화이트헤드
