인간의 경계
트랜스휴먼의 시대
패턴주의란?
세계는 원자가 아니라 이야기로 이루어져 있다. - 뮤리엘 러카이저
인류가 과거에 이룬 모든 진보는 진화의 제약에서 벗어나기 위한 역사였다.
인류를 탄생시킨 과정인 진화는 단 하나의 목표만을 갖고 있다. 최대한 자기복제하는 궁극의 유전자 기계를 만들어 내는 것이다. 사람이 짧은 생물학적 인생을 넘어 살아남는 방법은 미래 세대에게 자신의 가치, 믿음, 지식을 전수하는 것, 결국 인간이란 정보 이상의 무엇도 아니다!
이러한 정보의 패턴이야말로 근본적인 현실이라면 어떨까? 우리 뇌와 몸을 구성하는 세포들은 수주 안에 교체되지만, 이들이 만들어내는 패턴에는 연속성이 있다. 이 연속성이 있기 때문에 우리는 하나의 독립된 개체로 존재할 수 있는 것이다. 기억, 기술, 경험, 심지어 성격조차도 시간이 가면 변하지만, 아주 서서히 바뀌기 때문에 연속성을 유지할 수 있고, 그중 의미 있는 패턴들이 이야기(DNA, 역사, 기술)의 형태로 후세에 전해지는 것이다.
현재 우리 몸은 하드웨어가 망가질 경우 소프트웨어, 즉 우리의 삶, 우리의 개인적 '마음 파일들'도 함께 죽어버리는 형태다. 하지만 앞으로는 다를 것이다. 이번 세기말이 되면 우리는 과거 사람들이 자기의 가장 소중한 정보, 즉 뇌와 몸에 저장된 정보들을 백업하지 않고 살았다는 사실에 놀라게 될지도 모르는 노릇이다.
'사는 것'과 '죽는 것', 궁극적으로는 '인간다움'을 어떻게 정의하느냐에 달렸다.
인간다움의 정의
기계는 좀 더 인간 같아질 것이고,
인간은 좀 더 기계 같아질 것이다. - 로드니 브룩스
인간성에 관해서는 두 가지 의견이 팽팽히 대립한다.
하나는 어느 정도는 한계가 있는 것이 '인간답다'는 의견이다. 만약 인간적 자질을 향상하기 위해 모든 인간다움을 교체해 버린다면 그것은 본질적으로 비인간적인 게 된다는 것이다.
다른 하나는 오히려 한계를 뛰어넘는 능력을 인간성의 핵심이라고 본다. 인간은 가만히 머무는 존재가 아니라는 의견이다. 지구에 머물러 있는 걸 참지 못해 우주로 나아갔으니, 생물학의 한계 내에 머무는 것도 참지 못할 거라는 것이다.
전통적으로 우리 인간들은 스스로의 존재 가치를 '인간예외주의'에서 찾곤 했다. 이는 우리가 지구에서 가장 영리한 존재이고 따라서 독특하고 우월하다는 확신이다. 하지만 과학 덕분에 인간은 스스로에 대한 지나친 자만을 고쳐왔다. 중요한 과학 혁명들이 공통적으로 지녔던 특성은, 인간이 우주의 중심에 있다는 기존의 신념을 차례차례 부숨으로써 인간의 교만에 사망선고를 내렸다는 점이다.(지동설, 진화론)
AI의 부상은 우리로 하여금 이러한 확신을 포기하고 더 겸손해지도록 할 것이다.
특이점 혁명의 핵심은 바로 이 '인간다움'에 대한 생각, 달리 말해 기계(비생물학적 지능)를 대하는 태도 자체가 뿌리부터 바뀔 거라는 점이다.
인간과 기계의 경계
AI학이란 현재 시점에서 사람이 더 잘하는 일들을
컴퓨터가 하게 만드는 학문 - 일레인 리치(컴퓨터 과학자)
다른 형태의 생명이나 기계와 우리를 다르게 하는 것은 무엇인가?
인간예외주의를 확신하는 건 크게 지능, 감정, 의식 3가지 때문이다.
지능
인간의 뇌는 고도의 병렬 처리(100조 개의 뉴런 연결이 동시에 작용한다)를 이용해 섬세한 패턴을 빠르게 인식한다. 병렬 처리 구조는 패턴 인식 능력의 핵심이고, 패턴 인식 능력은 인간 사고 능력의 중심이다.
예를 들어 바둑이라는 게임에서 매번 '완벽한' 수를 찾아내려 한다면, 한 수를 두는 데 4백억 년이 걸릴 것이라 계산한 적이 있다. 실용적인 프로그램이라면 가망 없어 보이는 수를 끊임없이 버려야 한다. 여기에는 통찰이 필요하다. 통찰은 본질적으로 패턴을 인식하는 판단이기 때문이다. 우리는 2016년 알파고와 이세돌의 대결을 통해 '좁은 AI'가 바둑이란 분야에서 인간보다 월등한 수준의 '통찰'을 갖게 된 것을 목격하였다.
또 2022년에는 ChatGPT'라는 '좁은 AI'가 질의응답이란 분야에서 '통찰'을 갖게 된 것처럼 보인다.
물론 이러한 AI의 등장이 곧 모든 수준에서 인간을 능가하는 '범용 AI'의 등장을 의미하는 건 아니다.
하지만 '보통 인간' 수준의 인공지능이 탄생한다면 그것은 언젠가 인간 지능을 초월할 수밖에 없다.
이유는 다음과 같다.
기계들은 쉽게 지식을 공유한다.
기계는 사람과 달리 자원을 쉽게 공유한다.
기계의 기억은 정확하다.
기계 지능은 최고의 기술을 늘 최고의 수준으로 수행할 수 있다.
감정
마음이 우리가 이해할 수 있을 정도로 단순한 것이라면,
우리는 너무 단순해 그것을 이해하지 못할 것이다 - 피터 D. 크레이머
뇌가 지닌 최고로 복잡한 능력은 감정 지능이다.
방추세포는 인간과 몇몇 거대 유인원의 뇌에만 있다. 세포는 매우 크고, 첨단 수상돌기라는 기다란 신경 섬유를 갖고 있는데 이 돌기는 다른 뇌 영역들로부터 광범위하게 신호를 받아들이는 역할을 한다. 감정이나 도덕 판단에 관련되는 방추세포가 이런 깊은 연결성을 보인다는 건 놀라운 일이 아니다. 감정 반응은 그만큼 복잡한 일이기 때문이다.
흥미롭게도, 신생아는 방추세포가 없다. 출생 후 4달 무렵부터 생겨나서 1~3세 사이에 급격히 불어난다. 도덕적 문제를 다루는 능력이나 사랑 같은 고차원적 감정을 인식하는 능력은 이 시기에 발달하는 것이다. 방추세포는 합리적 문제 풀이를 하지 않는다. 그래서 우리가 음악에 반응하거나 사랑에 빠지는 일 등을 합리적으로 통제할 수 없는 것이다.
현재의 AI는 방추세포가 없는 신생아 수준이다. 하지만 현재의 속도로 인공신경망이 고도화된다면 다른 영역들로부터 광범위하게 신호를 받아들이는 역할을 하는 '인공방추세포'가 생겨날지도 모르는 일이다. 인류는 날마다 기계에게 더 큰 힘과 온갖 종류의 창조적 도구들을 붙여주고 있다. 지능은 제대로 발달하기만 한다면, 자기 앞에 놓인 어떤 장애물이라도 쉽게 내다보고 극복할 수 있을 정도로 똑똑해진다.
우리는 우리가 무엇인지 알지만, 무엇이 될지는 모른답니다. - 윌리엄 셰익스피어
의식
마음에는 두 가지 미스터리가 있다.
첫째, 뇌가 어떻게 정보를 처리하는가 하는 미스터리이다.(쉬운 문제) : 지능의 미스터리
둘째, 당신은 왜 주관적 경험을 가지는가(어려운 문제) : 의식의 미스터리
인공지능이 의식을 가진 존재가 된다면? 출처: 공각기동대의식은 논란을 일으키는 주제이다.
동물권 논쟁을 떠올려보라. 동물에게 '의식'이 있다는 의견, 반대로 동물은 '본능'에 따라 움직이는 유사 기계에 불과하다는 의견이 팽팽히 맞선다. 동물을 대하는 사람들의 행태를 보면 애완동물은 의식을 가진 존재, 식용동물은 의식이 없는 존재처럼 보인다. 동물보다 훨씬 사람다운 행동과 지능을 보이는 미래의 비생물학적 개체들을 놓고서는 얼마나 논쟁이 뜨거울 것인가.
우리는 자꾸, 실존하는 것은 분명하되 측정하기는 사실상 불가능한(최소한 완벽하게 객관적인 방법으로는) 어떤 것, 즉 의식의 문제로 되돌아오고야 마는 것이다. 단 한 가지 사실인즉, 의식의 존재 유무를 확정해줄 수 있는 객관적 검사법은 없다는 것이다.
왜 나는 '나'라는 이 특정한 인간의 경험과 결정을 의식하고 있는가?
물리학 관점에서 볼 때, 어떤 정보 패턴(입자 배열)에 의식이 있을까?
물을 예를 들어 보자.
축축함은 많은 입자가 액체라는 패턴으로 배열됐을 때만 나타난다. 물 입자 하나가 축축하다는 것은 말이 안 된다. 이처럼 어떤 정보 패턴이 그것을 구성하는 하나의 입자 특성과는 상당히 다른 특성을 지닐 때, 그런 현상을 '창발(emergent)'이라고 부른다. 고체, 액체, 기체는 모두 창발 현상이다. 그렇다면 의식도 일종의 창발 현상이라고 볼 수 있다.
만약 시스템 내부의 정보 처리가 어떤 원칙을 따른다면 더 높은 수준의 창발 현상이 나오는데 그게 의식이다.
그 원칙을 순서대로 나열해보면 다음과 같다.
1. 정보를 기억
2. 그 정보를 이용해 연산
3. 연산을 토대로 학습하여 조직화
4. 조직화하여 쌓인 정보들이 독특한 패턴을 생성(주관적 경험)
단순 정보의 기억에서 주관적 경험을 하는 '의식하는 시스템'으로 나아가려면 여러 조건이 필요하다.
정보 저장과 처리 용량이 상당해야 하며, 시스템이 외부로부터는 독립적이면서 내부적으로는 통합을 이루어야 한다.(인간의 뇌는 엄청난 용량으로 정보를 저장, 처리하며 세상으로부터 독립적이면서 심장, 손, 발 등을 효과적으로 통제한다.)
트랜스휴먼의 시대
많은 SF 소설에서 인간과 기계의 결합을 설정한다. 인체를 사이보그로 만드는 방법이 있고 우리 정신을 기계에 업로드하는 방법이 있다. 감정과 의식의 복잡성을 생각한다면, 최초의 인간 수준 '범용 인공지능(AGI)'은 인간뇌를 정밀 스캔한 '업로드'일 것이고, 이는 초지능으로 가는 경로의 시작이 될 수 있다. 또한 초지능이 등장한다면, 사이보그나 업로드가 되고자 하는 유혹이 강할 것이다.
쿼리치 대령의 뇌를 스캔 이식한 아바타는 인간인가 아닌가? 출처: 아바타만약 기술로 강화된 인간은 인간이 아니라고 규정한다면, 대체 어느 선에서 경계를 그을 것인가?
가장 중요한 것은 이것이다. 미래에 될 수 있는 것을 위해
어느 때라도 현재의 우리를 희생할 수 있을 것 - 샤를 뒤보스
