AGI SINGULARITY
Artificial General Intelligence 특이점
by
Jan 6. 2025
나는 항상 여섯 단어 이야기를 쓰고 싶었다.
여기 있다.
특이점 근처; 어느 편인지 불분명하다.
i always wanted to write a six-word story.
here it is:
Near the singularity; unclear which side.
<Sam Altman of Open AI CEO 2025. 1. 5>
샘 알트만은 확실하게 언급하지는 않았지만, 문구로 추측하건대 포괄적이고 종합적이면서 일반적인 사고능력을 가진 인공일반지능(AGI, Artificial General Intelligence)이 완성된 것 같다. 일론 머스크는 일 년 전, GPT-4가 AGI에 달성했다면서 인류의 공리가 아닌 영리 사업으로 전환한 OPEN AI에 소송을 제기했다. 오픈 AI의 공동 창업자였던 머스크는 "인류 전체의 이익을 위한 AI를 개발한다"는 초창기 사명을 어긴 오픈에이아이가 마이크로소프트(MS)와 알트먼 개인에게 이익을 주는 행위를 중단하고 모든 연구 성과와 기술을 인류 공공에게 개방하게 해 달라며 영리법인으로 전환을 중단하길 요청하는 가처분 신청을 냈다. 2024년 노벨물리학상을 공동 수상한 머신러닝의 개발자이자 AI의 기초를 설립한 제프리 힌턴 (Geoffrey Everest Hinton) 교수도 인류 공익을 향한 AI개발 본질과 오픈 AI의 설립 취지가 변질되었다는 머스크의 주장에 동조하는 변론서를 냈으며, 메타 또한 오픈 AI의 영리법인 전환을 막아달라며 캘리포니아주 법무장관에게 공식 서한을 보냈다.
어제 샘 알트만이 X에 트윗한 글은 짧지만, 경악할 만한 문구이다. 21세기 인류는 선악의 양면성을 가진 거울 앞에 서 있다. 한국에서는 극좌와 극우로 편향된 세력들이 선명하도록 빨갛고 파란 깃발을 흔들고 있는 가운데, 좌편인지 우편인지 내편인지 네 편인지를 가르는 문제는 인류 문명의 종말과 진화 사이의 운명 앞에서 그다지 의미롭지 않을 것이다. 인간을 닮은 인간과 같은 존재가 생명의 법칙을 통해 출현하지 않고 기술적인 태도와 지능적인 연구의 결합으로 태어난다면 일만년 역사의 존재론(Ontalogy)에 대한 철학은 재고되어야 하며 생명 과학의 모든 서사는 다시 기술돼야 한다.
생존의 본능을 통해 수렵을 시작하고 도구를 다루게 된 인간은 농업으로 체계적인 경작을 실행하고 잉여를 통해 타인과 분리되는 사유의 개념을 획득하였으며 자본의 통제를 바탕으로 강력한 권력을 구성함과 동시에 사회적으로 계층적인 단위를 조직하였다. 더불어 효율적인 통치기술을 통해 도시국가를 형성하고 내부 구성원을 교육하고 정치하며 관리하기 위한 사상적인 전통이 태동하게 되었다. 과거 일만 년을 거쳐 미래의 일만 년을 향한 현재의 존재론적인 질문은 과도기적 시기에 놓인 우리들에게 중요한 문제가 될 것이다. 인류는 어떤 모습으로 존재할 것이며 환경과 기술, 사회적 변화는 삶에 어떤 가치를 던지게 될까?
비가역적 변화를 가지는 변혁기를 거치면서 인간보다 종합적인 사고를 실행하고 예술적인 창조능력을 지닌 기계가 완성되는 날, 인류문명이 30년 안에 종말을 맞이하게 될 수 있다는 가설을 제기한 제프리 힌턴의 경고는 섬뜩하기만 하다. 핸드폰이 없던 시절에는 집을 나서기 전 부모님께 미리 집으로 돌아갈 시간을 알리고 어둑해진 하늘을 바라보며 땅꺼미가 지기 전에 귀가를 준비했다. 수십 년이 지나 고개를 아래로 처박고 핸드폰 없이 살 수 없는 시대를 맞았고, 역시 손가락을 두드리며 컴퓨터 앞에서 업무를 보고 있다. 극렬한 편 가르기가 필요 없는 시점이 다가온다. 특이점의 문명 세계에서 인류와 기계문명이 결합되거나 기계문명에 인간의 생활이 종속되는 현상을 예고하는 시뮬레이션 가설이 의미하는 바는 시간의 처음과 끝이 연결되어 있다는 창조의 기원을 역설하고 문명 퇴보의 의지를 담은 철학적 사변까지 끌고 들어온다.
The Island of the A.I(s).
과도하게 인간적이고 민감한 복제
여름이 이름값을 하니 야간모드로 전환하여 사는 것이 편해졌다. 펑크로 앞바퀴가 완전히 짜부라진 차를 굴리면서 심야영화를 보는 것도 무더운 복병을 이기는 방책이다. 단, 재미있는 프로여야 한다. 발상의 제기는 인류의 오랜 숙원인 영원한 삶과 복지를 향한 상업적 실험과 그 부작용을 해부하지만 액션의 블록에서 헛도는 <아일랜드>, 요즘 화두가 된 복제의 위험성을 경고하는 대형 간판을 달았다. 문제의 섬을 관망하고 집으로 향하는 새벽길. 황우석 박사의 쾌거를 토하는 뉴스가 귓전을 울렸다. 황우석 박사가 복제 개 스너피(Snuppy)를 맞춤동물의 리스트로 등록시켰다는 소식이었다. 그가 아니더라도 복제로의 의지는 세계 곳곳에 암세포처럼 퍼져있는 과학자들의 호기심에 발맞춰 무한히 증식될 것이다. 뉴스를 듣자 하니 소름 돋는 생각이 밀려왔다. 소수의 10%가 전권을 행사하며 지배하는 초록행성은 스너피(Snuppy)라는 이름처럼, 우성종자에게 급료를 받아가며 복종의 자세를 취하려 엎드릴 것이다. 불치병과 난치병. 그것이 극복해야 할 본원적 토대는 무엇인가. 아프지 않다면 너와 나의 관계는 평화로울까?
마이클 베이의 과학철학 액션은 액션과 플롯의 연결이 시시하게 따로 논다는 맹점 때문에 이 물음을 방해하지 않고 영상과 평행선을 그으며 계속적으로 진행시켰다. 자아분열 상징에서 머무른 피카소, 부활의 열쇠를 쥐고 있는 리노바티오(Renovatio)로 크게 정리된 복선장치가 매우 실망스럽기는 했지만, 여름용 아이스쿨러의 굉음은 메아리쳤고 잔상은 명확했다. 아일랜드를 보면서 스필버그의 <A.I.>가 생각났다. 희망찬 생각을 지나치게 길게 전개하여 인간이 되고 싶었던 아이를 우주의 미아로 떨어뜨린 모습이 자아를 찾는 클론에서 시끄러운 액션의 주체로 변한 전사가 숨을 돌릴 때 기억의 수면 위로 고개를 내밀었다.
돈이 있고 편안해지면 행복한 상태를 조성하려는 욕심이 부상한다. 인간사에 기복이 있다는 깨달음은 신체리듬주기를 측정하는 그래프에서만 유용하게 되는 것은 아닐까? 생명을 연구하는 사람들은 첨단 수식의 개발보다 도덕적 해이를 먼저 생각해야 될 것이다. 아인슈타인의 창조에는 대량살상이 묵과됐다. 선택의 공과 사에 묻혀버린 핵폭발을 기억해 보자. 아이를 통해서 인류의 죄악을 발견하든, 밀폐용기를 밀쳐내고 폭발하는 기체들의 움직임 속에서 통쾌한 스릴을 추구하든 간에, 인간들이 신과 비슷한 조건을 지니기 위해서 종족을 살상해 왔다는 사실까지 간과되어서는 안 된다. 인간이 가진 특별한 재능은 바로 새로움에 대한 호기심이다. 호기심을 억누르지 못하고 자신의 선조가 그러했듯 선악과를 따먹은 클론은 그 행위 자체로 창조자의 분노를 살 자격을 갖추게 된 것일까? 우리는 신처럼 평등해지면 안 되는 건가? 신이 제물을 벌하는 건 당연한 행위란 말인가?
제도적 형법과 반대 여론에도 불구하고 인간의 이기에 의해 상용될 복제의 문제가 인류의 골칫거리가 될 것이란 생각을 지울 수가 없었다. 그때는 누가 신의 역할을 대리하며 규칙을 어긴 이브와 아담을 벌주겠는가? 창조했다는 사실만으로 생사여탈권을 행할 권리가 있는가? 그의 모태는 진정 무엇인데? 강자의 자본과 생산의 효용을 거부하며 처음의 의도대로 연구가 뒷거래되지 않으리란 것을, 그리고 어느 약에나 있는 부작용을 재우고 명반응만 연달아 일어날 거라고 누가 보장할 수 있을까? 미래의 어느 날 스너피를 살상한 스너프(Snuff) 필름을 보며 그것이 재미있는 경주라고 생각하던 부패한 귀족들의 잔악한 행위를 재현하지 않겠는가? 응급에서 정밀치료로, 나아가 창조의 도구로 그 능력을 확장해 온 의료기술만이 아니라 우주의 기원과 팽창에 대한 열망을 사회 근저에 깊숙하게 주입해 왔던 과학원리는, 복제를 원료로 발전한 현대 산업사회의 본모습에 부응하려고 거대한 날개를 펼치고 있다. 간단히 수의학에 몰두했던 연구가 인간장기에 활용되는 현상을 보라. 나는 불안한 상상의 태도를 미래에 던지게 된다.
이기적인 유전자의 특성을 지니고 있는 생명의 움직임은 사멸보다는 생존을 원한다. 성경을 해독하면 이미 나는 신의 클론인 것이며, 불경을 따른다면 현재의 나는 죽은 나의 현신인데, 이 세상에 태동한 나를 사랑하지 않고 타인을 배려한다는 것은 힘든 일이 되어버렸다. 내부에서 나라는 인격을 다듬지 않고 외부에서 주사기로 간단히 복제할 수 있다면 천 원짜리 떨이상품으로 몰락하여 어느 가정집에서 쉽게 발견되는 싸구려 행주나 고무신발 가치 밖에 더 될런가. 스스로를 성찰하는 태도가 삶의 기본이 되어야 한다는 동양철학이 그 해답이 될 수 있을지, 나로서 사는 것이 죽는 것보다 어렵게 느껴진다.
2005. 8. 5. FRIDAY
