당신이 알던 세상은 끝났다
책 <AGI, 천사인가 악마인가> 리뷰
평소 앎에 대한 목마름이 강한 저는 많이 아는 사람들을 좋아합니다. 그래서 박사들의 책을 자주 읽고 있는데요, 제가 생각하는 박사의 특징은 단순히 학위가 있다는 뜻은 아닙니다. 박사들이란 자기 분야 외의 다른 분야까지 시선을 넓혀, ‘기술, 경제, 역사를 종합해보면 이렇게 보인다’라는 하나의 통찰을 제시하는 사람이라고 생각하고 있습니다.
오늘 소개할 책의 저자인 김대식 박사 역시 그런 사람인데요, 그는 평소 여러 유튜브에 등장해 지금의 AI광풍은 ‘세계화’ 시대가 아닌 ‘각자도생’의 시대에 일어난거라 기존의 기술혁신들과 차이가 있다고 강조했었지요.
박식해 보이지만 또 어딘가 괴짜 같고, 엄청난 이력에 비해 또 상당히 소탈한 김대식 교수. 그가 들려주는 AI이야기는 어떤 걸까요? 얇아서 접근하기 좋은 책, 2025년작 <AGI, 천사인가 악마인가>를 통해 같이 살펴보시지요.
AI를 둘러싼 많은 이야기 중 한 가지 첨예한 대립을 불러 일으키는 주제는 바로 이것입니다. AI는 세상을 이롭게 만들 것인가? 멸망시킬 것인가? <AGI, 천사인가 악마인가>는 바로 이 담론을 더 잘하게 도와주는 일종의 참고서 역할을 합니다. 답을 내리기 보다는 AI가 무엇인지 좀 더 이해하고, AI 논쟁을 둘러싼 다른 지정학적 요소들은 무엇인지 살펴보는 기회를 가짐으로서 각자 더 그럴싸한 가설을 만들어보도록 도와주는 것이죠.
AI가 천사냐 악마냐 논란에 본격적으로 불을 지핀 건 다니엘 코코타일로입니다. 오픈AI에서 연구원으로 근무했던 그는 연산량의 법칙, 알고리즘의 효율성, 투자 자본 트렌드 등을 바탕으로 AI가 미래에 어떻게 될 것인지를 예측하는 보고서 <AI 2027>을 공개했죠. 단순한 이목끌기 아니었냐고요? 그는 오픈AI의 위험성을 고발하기 위해 수십 억 원의 지분을 포기했고, <AI 2027>라는 보고서를 무료로 배포했습니다. 이런 점을 볼 때 코코타일로가 단순히 장사를 하고 있다고 치부하기에는 어려움이 있어 보이죠. 김대식 교수는 바로 이 보고서를 시작으로 이야기를 시작합니다.
AGI가 인간에게 가져다줄 장기적 혜택이 너무나 크기 때문에 단기적 사회, 경제, 정치적 문제에 너무 집중해서는 안 된다는 이런 주장을 보통 효과적 가속주의(Effective Accelerationism; e/cacc)라고도 부릅니다. 기술을 무한히 발전시키면 기술의 발전으로 모든 문제를 해결할 수 있다는 e/acc 지지자들과는 달리, 장기적 인공지능의 혜택은 동의하지만 동시에 인공지능 안전에 대해서도 고민해야 한다는 주장을 효과적 이타주의 (Effective Altruism; EA)라고 부릅니다. 그리고 EA와 e/acc 지지자들 모두(공개적으로 말하지는 않지만) 믿는 철학이 하나 있습니다. 바로, 인공지능 시대에는 기술을 지배하는 자가 동시에 사회와 정치도 지배해야 한다는 기술봉건주의(Technofeudalism)입니다. - 본문 중에서
책의 내용
먼저 책을 따라 몇 가지 용어를 정리해봅시다. 인공지능이란 용어는 1950년대에 이미 제안되었던 개념이라고 합니다. 당시의 인공지능은 이런 원리였습니다. 고양이를 인식시키고 싶다. 그럼 다리가 4개다, 포유류다, 털이 있다는 특징들을 기계에게 설명해줍니다. 결과는 실패였습니다. 코드 1만 줄을 써도, 10만 줄을 써도 기계는 사물을 알아보지 못했다고 합니다.
1980년대에는 다른 시도가 이루어졌습니다. 사람은 어떻게 고양이를 알아볼까? 생각해보니 사람은 고양이의 특징을 일일이 설명하지 않아도 많은 학습을 통해 스스로 알아보는 것이었습니다. 그래서 기계를 학습시킨다는 개념의 머신 러닝 개념이 대두되었습니다. 고양이의 사진을 많이 보여주고 스스로 판단하게 했습니다. 결과는 이번에도 실패했습니다.
역사가 그렇다보니 학계에서 인공지능/머신러닝이란 말 자체가 오랫동안 사이비 취급을 받았다고 합니다. 그리고 2010년대, 캐나다의 제프리 힌턴 교수가 다시 한번 머신 러닝을 시도합니다. 다만 똑같은 용어를 썼다간 사이비 취급을 받을 게 뻔하니 새로운 용어를 썼다고 하는데요, 그게 바로 ‘딥러닝’입니다. 딥러닝은 성공했을까요? 놀랍게도 성공했습니다. 고양이 사진을 수십 개, 수백 개 보여줘도 알아보지 못하던 기계가, 수십 만 장의 사진을 보여주니까 성공을 하더랍니다.
<AGI, 천사인가 악마인가>는 이렇게 AI 발전의 역사를 충실히 설명하는데 도입부를 할애합니다. 딥러닝의 출현 외에도 퍼셉트론, 매컬로-피츠 신경세포, 역전파의 등장을 ‘옛날 옛날에…’와 같이 부담 없는 톤으로 들려주지요.
제 2장에 이르러 AI의 역사 강의는 드디어 LLM의 세계로 넘어옵니다. 사진 맞히기 머신러닝에서 언어를 이해하는 기계 개발로 주제가 바뀐 것이지요. 여기서 우리가 많이 들어본 토큰화, 트랜스포머, 디퓨전 등의 이야기가 나옵니다. 평소 AI의 작동원리가 궁금했던 분이라면 반가운 내용일텐데, AI에 관한 인문학적 고찰을 위해 이 책을 고른분들께는 다소 지루한 대목이 될 것 같군요.
기술적인 이야기가 끝나면 3장부터는 그래서 어떤 미래가 올 것인가 대한 이야기입니다. 김 교수는 여기서 로마제국의 예를 듭니다. AI가 노동을 대체할 것이 거의 확실시 되는 상황에서, 노동이 사라졌던 로마 이야기를 살펴보는 게 유효하다는 판단이죠.
로마는 걸핏하면 전쟁을 하는 국가였는데, 한 가지 특징이 있었다고 합니다. 바로 병사들의 대부분이 직업 군인이 아니라 농민이었다는 겁니다. 그러다보니 1년 내내 전투를 벌일 수는 없었습니다. 봄에는 씨를 뿌리고 가을에는 수확을 해야했으니까요. 그래서 당시 국가간에 ‘겨울에는 휴전’이 암묵적인 룰이었다고 합니다.
문제는 로마가 너무 성공을 했다는 겁니다. 그래서 전선이 넓어집니다. 그러자 수확 시즌에 집으로 돌아오는 성인 남성의 숫자가 줄어듧니다. 너무 멀리 나가서 싸운 탓에, 돌아오는데만 몇 년이 걸린(지금처럼 비행기를 타고 돌아오는 게 아니니까) 탓입니다. 일할 사람이 없어진 마을들은 어쩔 수 없이 돈을 빌리기 시작했습니다. 당시 세넥스(senex)라고 하는 자본계급으로부터 돈을 빌렸다고 하는데요. 빌린 돈을 못 갚으면 가축으로 값고, 집으로 값고, 그래도 못 갚으면 노예가 되었다고 합니다. 이런 일이 반복되자 로마 전역에 무려 1천만 명의 노예가 생겨났다고 하죠. 그러면서 노동의 가치가 없어졌다고 합니다. 노예는 돈을 주고 부리는 게 아니므로, 그리고 노예가 넘쳐나므로, 노동이란 것 자체가 자동화 되어버린 것이었죠.
결국 무슨 일이 벌어졌을까요? 첫 번째, 로마 국가는 점점 잘 살게 되는데, 중산층은 완전히 몰락해버립니다. 두 번째, 로마 제국에서 실업률이 40% 정도로 치솟습니다. 할 일이 없으니까 당연한 일이었습니다. 몸으로 하는 일은 노예들이 다 해버리고, 그럼 남는 일은 머리를 쓰는 일인데, 그건 교육을 받아야 할 수 있었습니다. (...) 결과적으로 로마 공화정은 무너지고 제국으로 바뀌어 버립니다. 미국 역사학자들이 말하길, 2025년 미국에서 벌어지는 일이 딱 후기 로마 공화정과 똑같다고 말합니다. 불평등이 커지면서 중산층이 무너지는데, 그걸로 끝나는 게 아닙니다. 지금 아주 보수적인 학자들도 미국의 민주주의가, 미국 공화정이 수십 년 안에 지국으로 대체될 거라고 예측하고 있습니다. - 본문 중에서
AI가 공화국 하나를 제국으로 바꿔 놓을 수 있는 것인가… 생각만 해도 아득해지는 예측 앞에서, 김 교수는 한층 더 무시무시한 예언을 합니다. 제국이 되어버린 로마에서 유행한 게 무엇이었냐는 겁니다. 지루해진 사람들은 강렬한 엔터테인먼트를 원했고, 그게 바로 콜로세움이었습니다. 서로 찔러 죽이고 동물에게 잡아먹히는 사람을 무료로 상영하는 대극장. 할일이 없어진 사람들에게 그런 미래가 기다리고 있다는 건 너무 지나친 억측으로 여겨지시나요? 아니면 벌써 유행하기 시작한 로봇 대전 같은 걸 보건대, 정말 우리에게 닥칠 일처럼 느껴지시나요?
감상평
아주 단호한 주장을 기대했던 독자들에게 <AGI, 천사인가 악마인가>는 다소 어중띈 책으로 느껴질 수도 있겠습니다. 책이 ‘AGI는 악마다. ~ 때문이다’라고 선형적인 논리전개를 하지 않기 때문입니다. 더군다나 앞의 절반은 ‘AI의 역사’ 같은 느낌이라 난데없이 수업에 불려온 기분도 들고 말입니다.
그런데 생각해보면 이와 같은 말하기 방식이 제가 좋아하는 박사님들의 방식인 것 같기도 합니다. 생각을 주입하는 게 아니라, 생각을 돕기 위해 저변을 넓혀주는 방식 말입니다. 그런 태도로 읽기를 해나간다면 이 책은 분명 영감의 원천이 될 것으로 보이네요.
2장의 이야기는 LLM의 원리를 명료하게 이해하기에는 부족함이 많습니다. 독자를 완전 초보로 상정하면 말이 길어지고, 완전 전문가로 상정하면 필요하지 않은 부분인데, 독자 수준을 어떻게 상정할 것인가에 대한 고민이 다 끝나지 않았던 것 같습니다. 다만 지금은 LLM의 시대인만큼, 이해하기 어려운 문장들은 LLM의 도움을 받아 입체적으로 이해해나가는 방식을 추천 드립니다. 개인적으로 LLM의 역사를 이해하기 가장 좋은 출발점이 ‘All You Need Is Attention’이라는 논문에 대해 알아보는 것이라고 생각하는데요, 저처럼 공부 중인 독자들에게 팁이 되었으면 좋겠군요.
마치며
예전에는 친구들을 만나면 이런 대화를 주로 했던 것 같습니다.
1) 미치겠다, 직장 상사 때문에
2) 중년이 되어간다는 건 왜 이렇게 힘드냐
3) 앞으로 뭐 해먹고 사냐.
줄여서 미-중-앞입니다.
요새는 다른 종류의 미-중-앞 대화가 이루어집니다.
1) 미국이 새로 내놓은 기술
2) 중국이 새로 내놓은 기술
3) 앞으로 어떤 세상이 올라나? 입니다.
며칠 전 모임 때도 정확하게 이 순서로 얘기를 했었는데, 다음번에 모임을 하게 되면 <AGI, 천사인가 악마인가>에서 읽은 내용들을 좀 떠들어 봐야겠습니다.
오늘 소개한 <AGI, 천사인가 악마인가>는 ‘앞으로 어떤 세상이 온다'고 말하는 예언서는 아닙니다. 다만 한 가지는 확실한 사실, 바로 당신이 알던 세상은 끝났다고 명확하게 말해주는 책이죠. 찾아올 새 세상은 어떤 모습일지 모르겠지만 할 일이 없어 서로가 서로를 찔러 죽이는 엔터테인먼트나 누리는 세상은 제발 아니길 바라며, 저는 다음 책으로 찾아뵙겠습니다.
제발!
#AI #김대식 #책리뷰