(현재의) 인공지능은 의식을 가질 수 있는가 (II)?
의식과 마음을 가진 인공지능 (1부)
이 글은 I편에 이어지는 글입니다.
의식에 대한 얘기 만큼 어려운 주제도 없다. 내가 읽은 책만 십여권이 있고, 아직도 의식이 무엇이고 어떻게 발생하는가에 대해서 뇌과학, 물리학, 생물학, 심리학, 인지과학에서 나오는 논문이 엄청나다. 그럼에도 불구하고 인공지능은 의식을 가질 수 있는 가에 대한 논쟁은 끊임없이 등장하며 수 많은 SF 소설과 영화의 흥미로운 주제이다.
사실 내가 썼던 '신뢰할 수 있는 인공지능'에서도 이 주제로 한 챕터를 쓰다가 포기했던 기억이 난다. (이 책은 전자책으로 발간했으니 좀 더 많은 분이 사서 보시기 바란다.)
인간이나 생명체 의식에 대한 연구로 유명한 크리스토프 코흐 교수는 (그가 쓴 '의식'이라는 책은 2014년에 국내에 번역이 되었다. 내가 많은 사람에게 추천하는 책이다.) 이런 얘기를 한 적이 있다.
“천체 물리학자가 물리법칙을 이용해서 정교하게 블랙홀을 시물레이션 한다고 해서 컴퓨터 모니터 속으로 빨려 들어가지 않는 것처럼 인공지능이나 컴퓨터 알고리듬으로 뇌의 계산 과정을 정교하게 모델링 한다고 해서 의식이 발생하지 않을 것이다"
스탠포드 대학의 철학 백과사전에는 '의식'의 개념을 다음과 같이 정의하고 있다.
'의식하는' 그리고 '의식'이라는 단어는 광범위한 정신 현상을 커버하는 포괄적 용어이다. 둘 다 의미가 다양한데, 형용사 '의식하는'이라는 단어는 전체 유기체에 적용하거나 (생물 의식), 특정한 정신 상태와 프로세스 (상태 의식) 모두에 적용할 수 있는 그 범위가 이질적이다. (Rosenthal 1986, Gennaro 1995, Carruthers 2000).
생물 의식(Creature Consciousness)은 동물, 사람 또는 다른 인지적 시스템이 많은 서로 다른 감각을 통해 의식이 있는 것을 간주되는 것을 말한다. 우리가 일차적으로 생각하는 인공지능의 의식은 이를 말하는 것이라고 볼 수 있다. 여기에는 다음과 같은 특성이 있다. (이 부분도 스탠포드 철학 백과에서 인용한 것이다.)
1. 지각(Sentience)
2. 각성(Wakefulenss)
3. 자의식 (Self-consciousness)
4. 무엇과 같은 것(What it is like)
5. 의식적인 상태의 주제 (Subject of conscious states)
6. 전이 의식(Transitive Consciousness)
지각은 앞의 글에서도 얘기했듯이 외부 세계를 감지하고 이에 대응할 수 있는 능력이어야 한다. 그렇다면 어느 정도의 감각 기능이 있어야 의식을 갖기에 충분할 것인가?에 대해 얘기하게 되며 결국 의식 수준의 높낮이를 말할 수 있다. 식물은? 박테리아는? 물고기와 인간의 의식 수준은 얼마나 다른 것인가? 외부 세계를 감지하거나 대응하지 못하는 인공지능이 의식을 갖고 있는가?
여기에서 조금 참고 할 수 있는 것이 신경과학자 줄리오 토노니나 마르첼로 마시미니가 말하는 정보통합이론이다 (그들의 책 '의식은 언제 탄생하는가'를 참고하면 좋다). 기본 명제는 어느 신체 시스템이든 정보를 통합하는 능력이 있으면 의식이 있다고 보는 것이고, 여기에는 '정보의 풍부함'이라는 특성과 '정보통합' 능력에 대한 가설이다. 코흐 교수도 이 이론에 긍정적이다.
다시 말해 유기체가 받은 수 많은 다양한 상태 정보를 통합할 능력이 있는 시스템이라면 그 시스템에는 의식이 있다는 이론이다. 외부 세계에서 받은 감각과 이에 대한 지각 그리고 이를 통합처리할 수 있는 능력이 있어야 의식을 말할 수 있고, 그 복잡도가 높을 수록 (정보통합량이 많을 수록) 더 높은 수준의 의식을 갖는 것이라고 말하고 있다.
각성은 유기체가 그런 능력을 그냥 갖고 있는 것이 아니라 이를 실행할 수 있어야 한다는 것이고 깨어 있고 이를 정상적으로 경고할 수 있어야 한다는 뜻이다. 다시 말해 잠이 들어 있거나 코마에 빠진 사람을 의식이 있다고 얘기하지 못하는 것이 이 점이다.
