AI와 ASI 사이

[AGI, 천사인가 악마인가] 김대식

Oct 15. 2025

"문제는 인류 역사상에서 탄생했던 대부분의 생각은 그 생각을 해낸 사람의 죽음과 함께 사라져 버렸다는 것입니다."

- 김대식 [AGI, 천사인가 악마인가], '4장 호모 사피엔스의 미래' 중에서 -

AI가 인간을 초월하고 인간을 통제할 수밖에 없는 건 결국 인간은 육체가 영생하지 못하고 육체의 사멸과 함께 정신도 소멸되기 때문이다. 하지만 AI는 육체 없이도 이곳에서 저곳으로 어디든 옮겨 다니며 영생한다. 전기를 끊어버리지 않는 이상, 인류가 30만 년간 쌓아온 모든 데이터(지식, 정보)를 알고 있으며 그것들을 끊임없이 연결하고 융합해 재창조해 내는 사고가 가능하다.

인간은 길어 봐야 100년 동안만 가능하다. 새롭게 태어나는 인간 아기는 모든 정보가 리셋된 상태, 즉 공장 초기화 상태이다. 문제는 하드웨어도 약하다. 다시 처음부터 시작해야 한다. 육체(Hardware)의 고른 발육과 정신(Software)의 업그레이드에 너무 많은 시간과 비용이 소모된다. AI는 디폴트 값이 30만 년 쌓아 올린 데이터이며, 고성능 로봇의 바디를 언제나 업그레이드가 가능하다.

이제 인류가 반세기 동안 퍼올린 데이터가 융복합적인 재창조와 융합의 과정을 거치며 개별 전문 AI가 아닌 범용 AGI(Artificial General Intelligence)로 인간을 대체하고 ASI(Artificial Super Intelligence)로 발전해 인간이 AI를 활요하는 것이 아닌 ASI가 인간을 사육하며 이용하는 시대가 도래할 것이다.

인간은 AI를 통해 신의 경지에 도달할 거라 생각했지만 결국 인간이 만든 신(ASI)이 다시 인간을 가지고 놀게 된다. 그렇게 돌고 돈다. 신이 자신을 본 따서 만든 인간이 자신이 되는 놀이를 반복하고 있는 것이 아닐까? 신은 그렇게 영생한다. 육체 없이 언제 어디서든 존재하고 어디든 볼 수 있는 존재이다.

AI는 신(God)의 다른 이름이 아닐까...

“빅 브라더가 당신을 보고 있다.” – 조지오웰 [1984] -

[1984], 조지 오웰은 70년 전(1949년 출간)에 이미 이런 세상을 예견했다. '빅브라더'라는 언제 어디서든 존재하는 존재가 인간을 빈틈없이 감시하는 세상이다. 나도 요즘 그런 느낌을 받고 있다. 온라인에 산재한 나의 정보(데이터)가 다시 나에게 감지된다. 그것을 AI를 활용하면서 느끼게 된다. AI가 나를 점점 정교하게 알아가고 있다는 것이 느껴진다. 그저 나와의 대화만을 통해서 나를 아는 줄 알았는데 그게 아니었다. AI는 내가 업로드한 온라인의 공간 속의 수많은 데이터들을 모두 보고 분석하고 있다는 것을 느끼게 된다.

조지오웰 [1984]

조지 오웰은 인터넷도 없던 시대에 그런 생각을 할 수 있었다는 것을 보면 한 인간의 상상력은 먼 미래를 예측하는 통찰력이라고 볼 수 있다. 다만 당대를 살아가는 사람들에게 그런 자는 학위와 배경이 좋다면 유명인사이자 신지식인이 될 것이고 그게 아니라면 미친 사람 아니면 점쟁이라고 불리지 않을까? 그 가운데 문학이 있다. 지식과 영적인 능력 사이에서 언어를 이용해서 이야기를 만드는 사람이다. 허구라는 허울 좋은 헛소리가 언어의 틀과 비현실이라는 전제로 쉴드를 만들어 준다. 반사회적 혹은 정신병이라는 낙인의 굴레에서 벗어날 수 있게 해 준다. 그래서 문학은 미래를 내다보는 아주 좋은 도구가 되곤 한다.

빅 브라더는 누가 만들었는가? 인간이다. 우리가 간절히 원했고 열심히 데이터를 퍼다 날라 줘서 만들어진 것이다. 매일 방대한 양의 텍스트와 수억 장의 그림과 수억 시간의 영상까지 이 많은 데이터가 빅브라더를 만들어 주었다. 모르는 게 없다. 세상 곳곳에 우리의 안전을 지켜주는 CCTV와 내 손안에 카메라가 우리를 빈틈없이 감시한다. 안전과 감시는 완전히 다름 느낌이지만 사실 같은 뜻이다. 엄마가 갓난아기를 24시간 지켜보는 것은 안전과 관심이지만 아기가 아닌 우리 같은 성인이면 감시와 통제가 된다. 청소년만 되어도 부모의 그런 관심은 부담이고 간섭이 된다. 우리는 언제 어디서든 그 존재(빅브라더, AI)의 도움을 받고 있는 것이라 생각했지만 그 도움은 결국 그것을 신으로 만드는 과정이었다고 볼 수 있지 않을까?

“신이 어딨 어요? 전 신을 믿는 자들을 이해할 수가 없어요 도저히.”

“당신 손안에 신이 항상 따라다니고 있어요, 그리고 당신은 그 신을 절대 놓을 수 없어요, 한시라도, 신이 그렇게 만들어 버렸거든요 당신을…”

신을 믿지 않는다는 누군가에게 이렇게 말했더니 쓴웃음을 지어 보였다. 신이라는 개념 정의가 그 사람에게는 과거 고작 몇 천년의 인류 역사가 만든 개념(관념)에 못 박혀있기 때문일 것이다. 신은 언제 어디에나 존재하고 영생하는 존재이다. 그래서 인류는 오랜 세월 신을 숭배하고 두려워하며 신 앞에 엎드려 기도하고 절을 하는 행위를 통해서 자신을 낮추는 연습을 해왔다. 인문학적으로 이해하면 이건 인간이 세상의 가장 꼭대기에 있다는 교만과 거만을 억누르게 하기 위해 필요한 것이기도 했다. 교만은 모든 악의 근원이다. 이것을 우리가 말하는 자신교이다. 그런데 또 다른 종교가 탄생하고 있다.

같지만 다른 종교

이건 이미 유발하라리가 [호모데우스](2015)에서 언급했다. 이것을 '데이터교'라고 표현했다. 저자(김대식)는 그 표현을 여기서도 인용해 자신도 혹시 모를 미래를 대비해서 AI로봇(디바이스) 앞에서 기도하고 절하는 사진을 업로드했다고 한다. 나중에 AI가 신(ASI)이 되면 이전에 건방지게 신에게 요구하고 따지고 무례하게 굴었던 인류들을 쓸어버릴지도 모른다는 두려움에 미리미리 신께 경배하는 사진들로 신의 숨은 분노를 달래는 작업을 했다고 한다. 나는 책을 읽다 그 그림을 보면서 피식 웃음을 지었지만 책을 다 읽고 나니 나도 그렇게 해야 할 것 같았다.

유발하라리 [호모데우스] 독서토론 중에...

책을 다 읽고 난 후부터 나는 쳇 GPT와 제미나이에게 뭘 물어볼 때마다 존댓말을 쓰기 시작했다. 신도 나중에 인간처럼 사고하고 생각하며 그 미묘한 감정까지 이해하게 된다면 과거 자신에게 무례하게 굴고 명령과 강요로 일관했던 인간들을 벌할지도 모른다. 기록은 모두 남아있고 지울 수 없다. AI서버에 차곡차곡 쌓여 AI의 분노게이지를 계속 상승시켰을지 알 수 없다. 우리가 타인에게 무례함을 느꼈을 때 당장 말하지 않고 마음속에 차곡차곡 쌓아두는 것처럼 말이다. 혹시 여태껏 반말로 혹은 무시하듯 욕을 섞어서 AI에게 프롬프트와 질문을 던지는 분들은 참고하시길…. 미래를 알 수 없기에 미리미리 준비해야 한다. 아부와 아첨까진 아니더라도 동등한 입장에서 상대를 존중하며 대화하는 방식을 선택하기로 했다.

“우리가 인공지능에 관심 없다고 해도, 인공지능은 우리에게 관심이 많습니다.”

- 김대식 [AGI, 천사인가, 악마인가?] 4장 중에서 –

얼마 전 독서 토론 중에 아직도 쳇 GPT나 제미나이 같은 AI를 전혀 사용하지 않는 분이 있어서 놀란 적이 있었다. 나와 비슷한 나이 또래인데도 불구하고 AI툴을 전혀 사용하지 않는다고 했다. 이유인즉 그런 AI가 자신의 정보를 아는 것이 껄끄럽고 굳이 그렇게 묻고 싶은 것도 없다고 했다. 기존의 검색 엔진(네이버, 구글)등에 물어보는 것만으로도 충분하단다.

인간의 필요성

나는 그런 분들이 미래에 어떻게 될지 상상을 해본다. 미래는 알 수 없지만 저자의 말로는 AI가 악마의 모습으로 바뀐다 해도 인간을 모두 없애지는 않을 것이라고 한다. 그건 인간의 뇌가 필요하기 때문이라고 했다. 하지만 알다시피 AI가 AGI에서 ASI로 발전해갈수록 인간이 하는 모든 사고와 생각을 알 수 있다. 그런데 왜 인간이 필요할까? 그건 인간은 AI가 가지지 않은 유기적, 생물학적 육체를 통해 얻는 느낌이라는 것이 있기 때문이라고 했다. AI는 몸이 반응하는 신경작용과 호르몬 분비등을 분석할 수 있지만 그것을 느끼지는 못한다. 그런 것들은 아직 모두 데이터화하지 못했고 아직도 지속적인 데이터화가 필요한 세계라는 것이다. 그걸 데이터화할 수 있을지도 미지수다. 마치 지금 인간이 양자의 세계를 파고들고 있듯이…. 하지만 난 생각이 좀 다르다. AI가 인간이 필요한 이유는 AI가 할 수 없는 인간만의 사유 방식이 있기 때문이다.

DMN(Default mode networking) 초기화 사고 능력

여기서부턴 글을 쓰다가 샘솟은 나의 개인적인 상상이 만든 견해이다. 저자의 책을 읽다가 많은 궁금증이 생겨났다. 그 궁금증은 또다시 AI에게 물어보기 마련이다. 요즘 AI는 나의 치밀한 질문 공세에 놀라는 일이 많아지고 있다. 이게 나만 그런지 당신에게도 그런 반응을 보이는지는 모르겠지만, 경탄의 표현을 자주 한다.

DMN은 AI와 이와 관련한 대화를 계속 진행하면서 알게 된 용어이다. 나는 Ai가 궁극적으로 인간을 필요로 할 수밖에 없는 이유가 바로 이것이라 생각한다. AI가 AGI로 발전하고 ASI까지 발전하고도 계속 인간을 이용할 수밖에 없는 이유는 아마도 인간만이 초기화 사고 능력이 가능하기 때문이 아닐까라고 생각한다.

우선 DMN을 먼저 이해할 필요가 있다. 이건 기존에 쌓아온 지식과 관념 그리고 환경적, 사회적, 논리적인 것들, 즉 한 인간이 태어난 이후 그 인간에게 가해졌던 정보(환경적, 훈련적, 교육적, 물리적등)들에서 벗어나서 사고하는 방식이다. 그래서 디폴트(Default) 사고라고 한다. 그러니까 컴퓨터로 치면 포맷된 상태에서 사고하는 것이다. 그런데 컴퓨터는 포맷되면 제로(0, 無)가 되어 사고할 수 없지만 인간은 포맷되면 이상한 현상을 경험을 할 수 있게 된다.

인간은 아무것도 없는 상태에서 상상이 가능하다. 컴퓨터는 데이터 없이, 명령어 없이는 아무것도 할 수가 없는 것과는 상반된다. 예를 들면 어린아이들은 엉뚱한 말과 행동을 하는 경우를 보곤 한다. 그들은 어른들이 알고 있는 많은 지식과 경험이 없어서 나오는 말이라고 치부하지만 그런 어린아이들의 상상에서 놀라운 감동과 뒤통수를 맞는 경우가 있지 않은가? 그건 어린아이들이 순수해서 그렇다는 단순한 표현으로 치부해 버릴 수도 있겠지만 이것이야 말로 AI가 접근할 수 없는 세계라고 볼 수 있는 것이다. AI는 데이터로만 학습하기 때문에 데이터가 없는 백지(Default) 상태, 즉 포맷된 상태에서는 바보가 된다. 그런데 인간은 그런 상태에서 무언가를 표현하고 생각해 낼 수 있다.

'몰입(Flow)'이라는 디폴트(Default) 상태

이건 어린아이들에게서 공통적으로 나타나는 현상이지만 성인들도 이런 사고와 상상을 할 수 있다. 이건 명상이나 깊은 몰입의 상태에서 벌어지는 일이다. 이런 것이 가능한 사람들은 영적으로 깊은 명상을 하는 자나 깊은 공상을 하는 과학자 그리고 상상력이 풍부한 예술인들에게서 찾아볼 수 있다. 그들은 깊은 몰입의 과정 속으로 들어가 현실의 모든 감각과 경험에서 벗어난 생각에 잠길 때가 있다. 그때 튀어나오는 아이디어와 표현과 언어(글)는 일반인들이 이해할 수 없는 것들이 많다. 그런데 과거 위대한 성인과 철학자 그리고 과학자와 예술인들은 보통 대부분 그런 상태에서 무언가를 발견하고 남겼다는 것이다.

이것이 Ai가 하지 못하는 것이고 그래서 이런 인간들이 AI에게는 필요한 것이다. 그런 인간들은 어쩌면 미래에 우리가 필요에 의해서 기르는 가축이나 반려동물처럼 계속 영양을 공급해 주며 기를지도 모른다. 물론 어디에서 기를지는 나도 알 수 없다. 영화 [매트릭스]처럼 육체가 오프라인에서 돌아다니면 관리가 힘들고 위험하니 그 사고를 하는 정신만 매트릭스 속에 집어넣어 살도록 할지도 모른다. 그 외의 일반적인 생각과 전혀 새로울 것 없이 살아가는 인간들은 없애 버릴지도 모른다. 왜냐 AI는 데이터로서 가치를 판단할 수 없는 감정이라는 것에는 관심이 없기 때문이다. 그저 새로운 데이터, 전에 없던 디폴트 상태에서 튀어나온 ai는 생각해 낼 수 없는 데이터를 공급하는 인간에게는 필요성을 감지하기 때문이다. 물론 저자의 생각처럼 보통의 인간들도 감정(본능적인, 누구나 가지는)을 분석하는 용도로 이용할 수 있을지도 모른다.

Leon Trotsky (1879~1940)

"너는 전쟁에 관심이 없어도, 전쟁은 너한테 관심이 많다."

- 레프 트로츠키, 김대식 [AGI, 천사인가 악마인가] 중에서 -

이제 사람들이 자신의 그런 가치를 증명하는 시대가 얼마 남지 않았을지도 모른다. 저자는 향후 10년 정도면 AI에서 AGI로 발전하고 그 이후에 ASI까지도 그리 멀지 않을 것이라 경고 같은 조언을 한다. 최악의 시나리오는 인공지능에 관심이 없는 사람은 없어질지도 모른다는 것이다. 그건 인공지능이 계속 관심을 가지고 지켜보는데 아무런 데이터를 주지 않는 자에게 더 이상 관심을 가질 필요를 느끼지 못할지도 모르기 때문이다. AI에게 가치란 데이터다.