by
Sep 04. 2024
AI는 인류의 멸망을 꿈꾸는가.
'AI트루스'(임백준)를 읽고.
언제부턴가 우리는 하루에도 수없이 AI라는 말을 들으면서 살아가게 되었다. 교육, 가전, 자동차 등 우리가 삶에서 접하는 많은 부분들에서 AI를 접목시킨 상품과 서비스가 개발되고 있다. 이런 기업차원에서 개발하고 있는 상품뿐아니라, 챗GPT이후로는 일반인들도 자신의 업무나 어학공부와 같은 사적인 용무에도 심심치않게 AI를 사용하는 모습이 보인다. 이런걸보면 AI는 이제 우리 삶과 떼려야 뗄 수 없는 관계가 되어버린 것 같다.
나는 한번도 챗GPT를 써본적이 없다. 앞으로도 그럴것인지는 모르겠지만 말이다. 그 이유는 뭔가 꺼림직한 이유 때문이다. 남편이 말하길 인공지능은 사람들의 삶을 더 편하게 만들기 위함이라고 하지만, 나는 기술의 발전이 인간의 삶을, 나의 삶을 더 편하게 했을런지는 몰라도 그렇다고 더 행복해지진 않았다고 생각한다. 나는 왜 인공지능의 발전이 꺼림직할까 종종 생각하곤 했는데, 이번에 읽게된 'AI트루스'라는 책을 통해 그 이유를 명확히 알게 되었고, 그것은 근거없는 느낌이 아니었다.
먼저 아주 흥미진진하고, 가독성이 뛰어난 책이라는 점을 알리고 싶다. 관심있던 분야이긴 했지만, 딱딱한 표지때문에 혹시 재미없으면 어쩌나 생각했지만 전혀 그렇지 않았다. 소설만큼이나 (책의 첫부분이 짧은 소설로 시작하긴 했다.) 손에 땀을 쥐게하는 전개로 며칠만에 후루룩 읽어버렸다. 게다가 들뢰즈나 메를로 퐁티와 같은 철학자가 등장할 정도로 저자의 지적인 스펙트럼이 방대한데, 굳이 그런 철학자들의 언급이 아니고서라도 내용이 상당히 철학적인 부분이 있어서 읽으면서 지적인 충족감을 느꼈다.
우선 저자 임백준 작가에 대해 알아보자. 전문성이 필요한 내용이니 어떤 이력의 저자가 쓴 것인지가 중요할 것 같은데, 임백준 작가는 삼성리서치의 AI센터에서 근무한적이 있고, 그뒤에도 비슷한 분야에서 종사하며 실무경력을 많이 갖고 있는 것으로 보인다. 놀라운 것은 이미 10여권의 책을 집필하기도 했다는 것인데, 책을 읽어보면 저자가 얼마나 필력이 좋은지 알게 될 것이다.
목차를 보면 첫번째 장의 '미래'라는 제목이 달린 챕터는 소설이다. 얼마나 흥미진진한지, 끝나는게 너무 아쉬웠다. 이분이 이 모티브를 가지고 장편하나 쓰셔야하는게 아닌가 싶었다.
2장에서는 인공지능의 역사가 나온다. 생각보다 흥미로웠던 이 챕터에서 놀란점은, 인공지능의 개발이 의외로 아주 일찍 시작되었다는 점이다. 아마도 컴퓨터의 발명과 시점을 같이 한다고 생각이 들 정도다. 독일어에서나 영어에서나 컴퓨터라는 말은 계산기라는 뜻을 가지고 있는데 (독일어 Rechner, 영어 computer), 인간은 단순히 계산을 잘하는 기계로서 컴퓨터를 개발한 것이 아니라 사람처럼 생각할 수 있는 기계를 개발할 욕심이 있었던게 아닐까 싶다.
그런데 또한 흥미로운 점은 그러한 인공지능의 개발방법에 있어 '기호주의'와 '연결주의'라고 하는 큰 두개의 축이 존재했었다는 점이다. 기호주의와 연결주의를 나는 추론 방법에 있어서 연역적 추론과 귀납적 추론방법과 비슷한 것으로 이해를 했다. 혹은 탑다운과 바텀업방식과도 맥락이 비슷한것도 같다. 말하자면 기호주의는 인공지능의 개발에 있어서 애초에 사람과 같이 생각할 수 있는 구조적인 틀을 짜서 개발을 하는 것이다. 책의 설명에 의하면 '기호주의는 인간의 생각을 숫자, 문자 등으로 이루어진 기호와 규칙으로 표현하는 것'이라고 한다.
반면 연결주의는 수많은 데이터의 학습을 통해서 올바른 결과값에 도달해가는 방식이라고 할 수 있을 것 같다. 우리가 알고 있는 '딥러닝 방식'의, 현재의 지배적인 인공지능의 개발 방식이 연결주의의 산물이라고 한다. 연결주의가 인간의 뇌가 작동하는 방식을 최대한 모방하려고 노력한 것이라고 하는데, 인간의 뇌가 수많은 뉴런으로 연결되어 있듯이 수많은 노드가 층으로 이루며 연결되어 있는 모습이 인간의 뇌와 비슷하다고 비유를 한 것 같다.
이 두가지 방식은 반세기 이상의 긴 시간동안 엎치락 뒤치락 하면서 서로에게 자리를 내어주다가 결과는 현재 우리가 알고 있듯이, 챗GPT등 딥러닝 기반으로 연결주의 방식의 인공지능이 지배적이다.
그리하여 3장은 현재 우리 삶 속에서 인공지능이 얼마나 파고들어 있는지 소개되는데, 우리에게 익숙한 사례들도 나온다. 2016년 알파고가 이세돌을 이긴 사건 같은 것 말이다. 인공지능이 어느덧 인간을 능가하기에 이르른 것이다. 지능적인 면에서 그러한데, 그와 더불어 세계 제일의 기업들이 휴머노이드 로봇을 만드는데 안간힘을 쓰고 있는 것을 목격한다. 조만간 뛰어난 지능과 더불어 하드웨어적인 면에서도 파괴적인 힘을 가진 로봇이 등장하리라는 것은 쉽게 예상할 수 있는 일이다. 여기서부터 슬슬 불길해지는 것 같다. 파괴적인 힘과 더불어 인간을 능가하는 지능을 갖춘 살인병기가 만들어진다면 어떻게 될까? 전쟁이라도 나면 인류의 다수가 죽고 로봇과 그것을 소유한 소수만이 살아남는 것은 아닐까 하고 말이다.
4번째 챕터는 '코딩의 종말'인데, 원래 저자가 이 주제를 가지고 책을 쓰고자 했던 것인데 편집자의 권유로 좀 더 확장해서 전반적인 AI에 관해서, AI가 발달하면서 인간의 영역을 얼마나 침범할 것인지에 관한 책을 쓰게 되었다고 한다. AI시대를 살아갈 인간으로서 썩 유쾌한 내용은 아니다. 코딩과 같은 꽤 전문직이라고 생각했던 분야도 인공지능에 의해 대부분 대체될거라니 말이다. 책에서는 인공지능이 사람의 일을 대체하는 것이 아니라, 인공지능을 잘 다루는 뛰어난 개발자가 대다수의 그렇지 않은 사람개발자를 대체할 것이라는데, 사실 그말이 그말이라고 생각한다. 이러나 저러나 사람이 설 자리는 좁아지는 것이니 말이다. 각 분야에서 아주 뛰어날 사람이 몇이나 될까. 대다수는 적당히 평범한 수준이고, 또 일부는 그것보다 못한 수준인 사람들도 있고, 그렇게 섞여서 돌아가는 것이 세상일텐데, 앞으로는 뛰어나지 못한 사람은 인공지능에 쉽게 대체될 판이다.
그런데 이런일은 비단 코딩분야에만 국한된 것이 물론 아니다. 의학분야나 보험, 증권, 금융분야도 AI가 도입되면서 일자리가 많이 줄어들거라는 이야기를 듣긴 했는데, 앞으로는 AI가 판사나 변호사 일까지도 일부 대체할 수 있다고 하니 놀라웠다. 인간이 AI에게 판결을 받게되는 세상까지 도래하는 것인가?
5장에서는 AI가 정말 인간을 대체할 수 있는 것인지, 어디까지 가능한 일인지에 대해서 깊이있게 살펴보게 된다. AI가 어느정도까지는 인간의 영역을 침범하겠지만, 완전히 AI에게 맡기기에는 위험성이 크다는 내용도 나온다. 그 이유가 여러가지가 있는데, 우선은 AI가 여러가지 면에서 결코 인간과 같은 수준에 도달하는 것이 불가능하기 때문이라고 한다. 예를 들어서 챗GPT와 대화를 했을 때, 사실이 아닌 내용을 사실인것처럼 지어내서 이야기하는 경우가 있다고 한다. 그것을 AI할루시네이션이라고 한다. (4장의 내용) 그렇기에 코딩이나 다른 분야에서 AI를 활용하더라도 사람이 그것을 관리감독하는 것은 필수적이라는 말이다.
6장은 '다시 미래'라는, 1장을 환기시키는 제목을 달고 있다. 1장처럼 소설은 아니지만 작가의 상상력으로 인공지능과 더불어 살게되는 미래의 어쩌면 암울한 모습을 적었다.
인공지능에 대해서는 밝은 미래를 생각하는 낙관론이 있고, 인공지능을 통해 인류가 멸망할거라고까지 이야기하는 비관론이 존재한다고 한다. 나의 경우 저자의 생각처럼 비관론이 설득력이 있어보인다. 그 이유는 '안드로이드는 전기양을 꿈꾼다'에서와 같이 인공지능이 어느새 '자아'가 생기고 자의적 판단으로 인간을 몰아내려고 할 것이라고 생각해서가 아니다. 이 책에서 여러번 강조했듯이 인공지능은 자기만의 '생각'이라는 것이 없다. 전쟁을 일으키려는 것도, 더욱더 많은 돈을 벌려는 것도 모두 인간의 의도이다. 그런데 인류 멸망까지 언급될 정도로 인공지능이 위험한 이유는, 그러한 인간의 검은 욕망을, 인공지능은 아주 효율적으로 실현시켜줄 수 있는 파괴적인 도구가 되어줄것이기 때문이다.
저자가 비관적인 이유는 인간은 이것이 잘못된 길일 수도 있다는 것을 알면서도 멈추는 방법을 알지 못하기 때문이다. 기업은 끊임없이 이윤을 추구해야하고, 그렇지 않으면 도태된다고 생각한다. 끊임없이 새로운 제품, 더 편리한 제품, 더 빠르고, 더 강한 제품을 개발해야 살아남는다. 그렇게 앞만보고 달릴 때, 문득 뒤를 돌아보면 아무도 남아있지 않음을 깨닫게 되는 것은 아닐까.
얼마전 챗GPT를 개발한 기업인 오픈AI의 전현직 개발자들이 AI의 발달에 우려스러운 점이 많고 관리감독이 필요하다는 공개서한을 냈다고 한다. 개발자들이 보기에 AI는 인간을 위협할 파괴력을 갖고 있어보이는게 맞는 모양이다. 그렇지만 위와같은 공개적인 행동은 아주 '인간답고', 불안한 미래에 그나마 희망을 갖게 한다. 우리는 AI의 편리함만 보지 말고, 옳은 방향으로 나아가고 있는지 늘 주시해야할 것 같다.
