by
Apr 30. 2022
특이점도, 트랜스휴머니즘도 반대하는 기술긍정주의
맥스 테그마크의 『라이프 3.0』을 읽고
맥스 테그마크의 번역된 책 두 권을 동시에 읽었고, 『라이프 3.0』을 방금 다 읽었다. (이런 미친 너드새끼! 책을 읽을 때 한 사람의 모든 출판물을 동시에 읽는 거냐! 꼭 그렇지만은 않아. 우연히 그래 됐어.) 『맥스 테그마크의 유니버스』라는 책은 물리학과 우주론, 특히 평행우주에 관한 책이다. 빅뱅이론, 인플레이션 이론, 양자역학의 코펜하겐 해석이나 다세계 해석에 대해 기본적으로는 알고 있어야 겨우겨우 이해가 되는 괴물같이 어려운 책이다. 그럼에도 불구하고 이 책은 광기라고 칭해도 될 정도로 놀랍고 강력하다. 저자의 그 또라이같은 심히 자유로운 상상력 때문이다.
맥스 테그마크는 학계에서도 또라이로 유명한 듯 싶다. 그는 어느 날 물리학과의 원로 교수에게 메일을 한 장 받았다.
친애하는 맥스에게.
당신의 엉터리 논문들은 당신에게 도움이 안 됩니다. (...) 만약 이런 활동을 (...) 완전히 그만두고 술집이나 그런 비슷한 곳들로 보내버리지 않는다면, 당신의 미래가 위기에 처할 수도 있다는 것을 알아야 합니다.
- 『맥스 테그마크의 유니버스』에서 발췌
이 정중한 메일은 이런 뜻이다.
이 미친 또라이 새끼야 학계 분위기 더럽히지 말고 거지같은 뇌내망상 논문을 들고 술집으로 꺼져라. 안 그러면 내 손으로 직접 니 자리를 위기에 처하게 만들테니까.
Life 3.0 - Max Tegmark그만큼 테그마크는 미친 연구를 즐겨 하는 사람이라고 한다. 내가 봐도 그의 4단계 평행우주설이니 수학적 우주 가설은 좀 막 나가는 경향이 있다. 이런 사람의 특징이 있다. 1. SF를 즐겨 읽는다. (나 같다.) 2. 특이점주의와 트랜스휴머니즘을 주장한다. (난 아니다.) 테그마크 또한 특이점주의에 푹 빠져서 이 책을 집필했으니, 4단계 평행우주니 수학적 우주 가설이니 하는 물리학적 허황된 가설이야 지 전공이고 그쪽의 세계적 석학이니 듣고 맞장구쳐준다마는, 특이점이니 초지능이니 같은 걸 듣고 있자면 마치 메타버스나 NFT처럼 장미빛 미래만 가득한 말만 늘어놓는 개똥잡코인 투자자 같이 느껴진다.
그렇다. 의외로 나는 특이점주의에 반대한다. 내가 허황된 공상과학소설을 좋아하는 것과는 반대로, 허황된 현실 기반 특이점주의에는 반대하는 입장을 견지한다. 물론 이 "반대한다"는 표현 자체에 반대를 표하는 사람들도 있을 것이다. 동성애에 반대할 수 있는 게 아니듯, 특이점주의도 반대할 수 있는 게 아니라고. 그렇다. 내 설명이 좀 부족했다. 자세히 설명할 기회를 달라.
나는 특이점주의 주장에 세 가지가 있다고 생각한다. (특이점주의자들이 나처럼 이 세 가지를 구별해 쓰는지는 확인되지 않은 사항이다. 하지만 내 주장의 선명성을 위해 세 가지를 나눈 후 각각에 대한 내 의견을 얘기해 보겠다.)
첫 번째, 언젠가 인공지능은 인간의 전체 지능을 뛰어 넘는다. (레이 커즈와일의 특이점)
두 번째, 언젠가 자신보다 더 똑똑한 인공지능을 만드는 인공지능이 출현한다. 이 인공지능이 출현하기만 하면 지능의 대폭발이 일어난다. (초지능 특이점)
세 번째, 인간도 인간성(휴머니즘)을 버리고 언젠가 트랜스휴먼이 된다. (트랜스휴머니즘)
나는 기술이 발전할 것이라 믿고, 그 기술 발전이 인간 수준 혹은 인간 전체 수준을 다 합한 지능을 가진 인공지능을 만들 수 있을 것이라 예측한다. 즉, 첫 번째 레이 커즈와일의 특이점에는 반대하지도, 반대로 예측하지도 않는다. 하지만 인공지능이 더 똑똑한 인공지능을 만든다는 초지능 특이점은 반대로 예측한다. (반대하지는 않는다. 이건 반대할 만한 성질이 아니므로.) 또한, 특이점이 오면 인간이 트랜스휴먼으로 진화할 것이라는 주장에 대해서는 반대로 예측할 뿐더러, 만약에 내 예측이 틀리더라도 그 사상에는 반대를 표한다.
이제 위의 주장에 대해 하나씩 살펴 보자.
1. 인공지능은 인간 전체 지능을 뛰어넘을 것이다.
물론이다. 나는 기술긍정주의자이다. 몇몇 기술은 지수적으로 증가한다. ('모든 기술'이라고 하지 않은 것에 주목.) 특히 인공지능 기술은 제한이 없어 보이며, 적어도 제한이 있다 하더라도 인간 전체 지능 수준까지는 갈 수도 있겠다고 생각한다. (솔직히 말하면, 실현가능성 반반에 건다.)
2. 초지능이 출현할 것이다
인공지능이 발전에 발전을 거듭한다면, 이런 것도 가능할까? 인공지능이 인공지능을 만드는 것이다. (물론! 인간도 인공지능을 만드는데, 인간 수준의 지능을 가진 인공지능이 못 만들게 뭔가.) 그럼 이런 건 가능할까? 인공지능이 '인간 전체 수준의 인공지능'을 만드는 것이다. (가능할 거야! 특이점이 온다잖아) 그럼 이런 건? 인공지능이 '인간 전체 수준의 인공지능을 만드는 인공지능'을 만드는 것. (그럴...수도 있지 않을까?) 그럼 이런 건 어때? 극도로 인공지능이 발전하면, 자기 자신보다는 덜 똑똑해도 여튼 인공지능을 만드는 인공지능을 만들 수 있을껄? (...) 마지막인데, '자기 자신보다 더 뛰어난 인공지능'을 만드는 인공지능! 그걸 우리는 초지능이라고 부를께! 왜냐하면 인공지능의 지능이 자신보다 더 뛰어난 지능을 만들 수 있다면, 지능의 대폭발이 일어날 테니까! (아...이건 좀...)
내가 볼 때는, 특이점주의자들이 '지수적 증가'에 너무 심취한 나머지 지수적 증가가 모든 것을 가능하게 한다고 생각하는 오류를 범하고 있는 중인 것 같다. 그러나 아무리 지수함수라도, '무한대'나 '다른 차원'까지 이르지는 못한다. 내 생각에, 인공지능이 인공지능을 만드는 과정은 지수함수가 다다르지 못하는 다른 차원의 문제다.
이건 더글러스 호프스태터의 『괴델, 에셔, 바흐』에 나온 "생일 칸타타타..."논변하고도 비슷하다. 어떤 수학 문제가 증명된다는 사실을 증명할 수있는가 물론! 그럼 그 증명이 증명된다는 사실은? 당근! 그 증명이 증명된다는 사실은? 이 모든 증명을 모아서 ω라고 해 보자. ω를 증명할 수있는가? ω+1은? ω+2는?... 2ω는? 3ω는? ... ω²은? ω³은? ...ω^ω는? ω^(ω^ω)는? 이 여정이 계속된다면, 모든 것을 포괄하는 증명인 ε₀까지 이어질 수 있을까?
더글러스 호프스태터의 『괴델, 에셔, 바흐』 리뷰
인공지능을 만드는 인공지능을 만드는...을 만드는 인공지능은 은 지수적 발전이 아니다. 다른 차원이 계속해서 추가되는 것이다. '인공지능'과 '인공지능을 만드는 인공지능'은 다른 차원 상에 있다. ω+1와 2ω의 차이라고 생각하면 된다. 그리고 '인공지능을 만드는 인공지능을 만드는 인공지능'도 또 다른 차원에... 즉 ω²이다. 그리고 차원이 무한차원으로 발전해 가도, 도달할 수 없는 수학적 무한대가 존재할 수도 있다. 바로 ε₀다.
지능이 높아지면 더 뛰어난 인공지능을 만들 수 있다는 사실 자체도 반박 가능하다. 인간은 이제서야 인공지능을 만들었지만, 그건 인간의 지능이 더 뛰어나져서는 아니다. 똑같은 지능을 가졌는데도 불구하고, 신석기 호모 사피엔스는 인공지능을 만들지 못했다. 즉, 높은 지능이 높은 인공지능을 만드는 능력이 아니다.
사실 내 논변보다는 SF 소설가 테드 창의 논변이 더 이해하기 쉬울 것이다. 긴 글을 하나 더 읽어야 한다는 문제가 있겠지만...관심있으신 분은 테드 창의 '컴퓨터가 스스로 더 똑똑해질 수 없는 이유' 1편과 2편을 읽어보시길 바란다.
니가 틀렸을 수도 있지 않니? 내가 생각해도 유명한 물리학자(맥스 테그마크), 철학자(닉 보스트롬), 기술사상가(레이 커즈와일), SF소설가(버너 빈지)가 말하는 주장이 맞지 한국에서 회사나 다니고 취미로 유튜브나 소설을 쓰는 잘 알려지지 않은 찌끄레기의 말이 맞을 것 같지 않다. 좋아, 초지능은 출현할 가능성이 있다 치자. 내 예측이 틀릴 수 있음은 인정한다. 그렇다고 나는 "초지능에 반대"하는 건 아닌데, 예측에 반대하는 것과는 다르게 기술 출현에 반대하는 말은 의미가 없기 때문이다. 동성애에 반대하는 것처럼 말이다. 오히려 그렇다면 내 입장은 닉 보스트롬의 『슈퍼인텔리전스』와 비슷해진다. 우리는 초지능의 침략으로부터 스스로를 보호해야 한다. 테그마크의 『라이프 3.0』에서도 비슷하게 주장한다.
닉 보스트롬의 『슈퍼인텔리전스: 경로, 위험, 전략』 리뷰
레이 커즈와일의 『특이점이 온다』 리뷰
버너 빈지의 『심연 위의 불길』 리뷰
3. 인간은 트랜스휴먼이 된다
트랜스휴머니스트들이 인공지능과 특이점 순간에 대한 얘기 썰을 풀다가 갑자기 폭주하는 순간이 있다. 유전자를 조작해 초인간이 되고, 정신을 디지털화시켜서 로봇에 옮기다가 결국 정신을 클라우드에 업로드하고 우주공간으로 전자기장이 되어 퍼져 나간다. 도대체 이런 기술이 진짜 커즈와일 특이점 혹은 초지능 특이점이 오는 순간에 온다고 생각하는 걸까? 특이점이라는 관념에 함몰되다 보면, 모든 것이 한순간에 짜잔 하고 열려서 한 번에 기술 유토피아가 온다는 생각으로 귀결된다만, 내 생각엔 그건 틀린 예측이다.
기술사상가 케빈 켈리 또한 이렇게 말했다.
나는 특이점과 휴거 사이의 많은 유사점을 지적한 최초의 사람이 아니다. (...) 휴거 때 예수가 재림하고 모든 신자들은 곧장 천국으로 인도된다. 그들의 특이점도 '스파이크'처럼 나타나는 단일한 사건이다.
