향유하는 시대는 올까
AI 가 만드는 유토피아 혹은 설국열차
모두가 알고 있지만, AI의 발전속도가 인상적입니다.
IT 업계에서 일하는 저 역시 그것을 실감하고 있습니다.
바로 몇 년 전만 해도 우리나라는 인구가 줄어들어, 우리가 원하지 않아도 일을 오래 할 수 있고 또 해야 하는 세대라고 생각했습니다.
하지만 곧 등장한 ChatGPT를 시작으로, 이제 IT 엔지니어도 더 이상 명령어 한 줄 소프트웨어 하나 더 경험해 본 게 경쟁력이 되지 않고, 개개인의 기술경쟁력의 기준은 점점 모호해집니다. 또 코로나 때 한껏 부풀어 올랐던 개발자 거품은 짜게 식어 이제는 많은 IT 기업들이 인력을 줄이고 있습니다. 신입은 생성형 AI로도 충분히 대체할 수 있다는 이유로, 경력자는 비효율적으로 비싸다는 이유로 기피합니다.
왜 자꾸 우리 손을 떠나는 걸까
2016년 구글 딥마인드 챌린지 매치에서 인공지능 알파고와 바둑기사 이세돌 9단의 인상 깊은 대국을 기억합니다. 당시 저는 한 IT 회사의 2년 차 새내기였는데, 일을 하며 몰래몰래 중계를 들었습니다. 전 세계가 주목하는 인간과 기계의 대결. 외로워 보이기도 하고 무모해 보이기도 하는 그 싸움에서 저는 인간의 편에 서서 이세돌을 응원했습니다. 하지만 당시만 해도 AI와 슈퍼컴퓨터의 차이를 잘 몰랐습니다.
현대의 AI가 이런저런 음모론(?)을 불러일으키는 이유는 그저 AI가 엄청나게 똑똑한 수학자 혹은 방대한 기억력을 소유한 데이터베이스이기 때문은 아닙니다. 그보다는, 현대의 AI가 사람의 뇌를 흉내 낸 인공 신경망 구조로 구현된 딥러닝 기반이기 때문입니다.
딥러닝(Deep Learning)은 스스로 학습한다는 정의를 가진 머신러닝(Machine Learning)의 한 범주입니다. 딥러닝의 시대가 오기 전 전통적 머신러닝은 모델이 스스로 의미 있는 특징을 찾아내지 못하기 때문에, 사람이 도메인 지식을 활용해 직접 특징을 설계(Feature Engineering)해주고 이를 모델에 입력한 뒤 결과를 받는 방식으로 동작했습니다. 즉, 규칙의 형태는 사람이 만들어 주고, 규칙의 내용(숫자, 비중, 경계선 등)은 머신러닝이 데이터로부터 학습하는 구조였던 것이죠.
이러한 특성 때문에 전통적 머신러닝은 결과에 대해 "왜 이 같은 판단을 내렸는지" 비교적 쉽게 해석할 수 있고 단순합니다. 따라서 의료, 금융 심사, 법률 등과 같이 설명 책임(Explainability)이 중요한 분야에서는 지금도 널리 사용됩니다.
전통적 머신러닝의 메커니즘그러나 자연어, 이미지, 음성처럼 패턴이 복잡하고 고차원적인 데이터에서는 전통적 머신러닝의 한계가 드러납니다. 특징을 사람이 어떻게 정의하느냐에 따라 성능이 크게 달라지고, 복잡한 패턴을 충분히 포착하기가 어렵기 때문입니다.
이러한 한계를 극복한 것이 바로 딥러닝입니다. 딥러닝은 다층 신경망 구조(Neural Networks)를 통해 데이터로부터 중요한 특징을 스스로 추출하고 학습할 수 있습니다. 딥러닝은 기존의 머신러닝보다 훨씬 더 많은 컴퓨팅 파워 그리고 데이터양을 요구하지만(GPU가 녹아내린다는 표현도 모두 이 딥러닝 때문에 등장했습니다) , 2012년 이미지 인식 대회인 이미지넷 대회 캐나다 토론토대학의 AlexNet이 기존 전통적 머신러닝을 크게 압도하면서 판도가 바뀐 이래로 급속도로 발전하여 인간 수준을 뛰어넘는 성능을 보여주게 되었습니다. 오늘날의 생성형 AI 역시 이러한 딥러닝의 연장선상에서 탄생했다고 볼 수 있습니다.
딥러닝 메커니즘딥러닝의 구조를 보면 좀 더 쉽게 이해할 수 있습니다.
인공신경망의 구조인공 신경망은 물론 아주 단순화한 수학적 모델이긴 하지만, 실제로 생명체의 뉴런체계를 모티브로 고안되었습니다. 우선 인간 뇌의 뉴런을 단순화한 노드(Neuron)들이 층(layer) 형태로 연결되어 있고, 입력층(Input) → 은닉층(Hidden Layers, 수백~수천 개) → 출력층(Output)으로 신호를 전달하면서 연산을 합니다. 그리고 각 연결(가중치, Weight)이 학습 과정에서 조정되면서 패턴을 인식하고 새로운 데이터를 생성할 수 있게 됩니다. 우리가 이제는 일상적으로 사용하는 생성형 AI 역시 딥러닝기반으로 추론을 하고, 학습된 확률적 패턴을 기반으로 가장 그럴듯한 결론을 내는 식으로 사고합니다.
딥러닝 결과 해석이 어려운 이유는 우선 모델이 데이터를 보고 스스로 배우는 내부 변수인 파라미터(Parameter)의 양이 엄청나게 방대하기 때문입니다. 인공 뉴런을 개발하는 것은 사람이지만, 그 안에서 학습하면서 스스로 파라미터, 즉 규칙을 창출하는 것은 기계입니다. 최신 딥러닝 모델의 경우는 수억~수천억 개의 가중치(=파라미터)를 갖게 되는데, 따라서 사람이 일일이 파라미터의 의미를 이해할 수 없고, 왜 기계가 이러한 결정에 도착했는지를 설명하기란 불가능에 가깝습니다. 또 위 사진에서 볼 수 있듯이 입력(input)에서 출력(output) 사이의 관계가 단순한 선형 관계가 아니라, 수많은 비선형 함수의 조합이 됩니다. 말 그대로 은닉층(hidden layer), 블랙박스입니다.
결국 특정 인공 뉴런이 어떤 개념을 담당하는지 확신할 수 없는 지경에 이르게 됩니다. 예를 들어, 인간의 시신경을 모티브로 구현되어 이미지나 공간에 특화된 신경망인 CNN(Convolutional Neural Network)에서 어떤 뉴런이 “사람의 눈”에 반응한다는 걸 실험적으로 알 수 있지만, 복잡한 네트워크일수록 해석은 더 어려워집니다.
Gen AI 가 만드는 특이점(singularity)
인간과 알파고의 바둑 대결 이후 어느새 벌써 10년 가까운 시간이 지났고, 2022년 11월 출시된 chatgpt를 기점으로 세상은 예측할 수 없는 속도로 변해갑니다. AI가 내놓은 결론이 왜 그런지를 인간은 이해할 수 없습니다. 그건 마치 한 사람이 다른 사람을 온전히 이해할 수 없는 것과 마찬가지입니다.
그리고 이제 인류는 AI에서 한 발자국 더 나아가 AGI(Artificial General Intelligence)라는 범용 인공지능을 개발하고 있습니다. AGI는 인간이 할 수 있는 모든 지적 작업을 이해하고 학습할 수 있는 인공지능 시스템을 의미합니다. 우리가 SF 영화에서 보는 고도로 발달한 로봇들이 AGI라고 볼 수 있겠죠. 많은 전문가들이 아주 가까운 미래에 AGI가 나올 수 있을 거라고 기대합니다.
AGI가 세상에 나오기 위해, 인류의 기술은 끊임없이 발전합니다.
가장 널리 알려진 LLM을 포함한 생성형 AI(GenAI)뿐 아니라, 우리가 살아가는 세계의 물리 법칙과 조건을 이해하고 미래를 예측하는 세계모델(World Model), 그리고 외부 지식을 탐색하고 활용하는 검색·추론 엔진(Retrieval & Reasoning) 등 다양한 엔진들이 존재합니다. 이러한 요소들이 서로 유기적으로 통합되고, 멀티모달 환경 속에서 스스로 사고하고 행동하는 Agentic AI로 진화할 때, 비로소 모든 지능의 형태가 하나의 거대한 엔진으로 모여 기하급수적 발전의 굴레를 만들어낼 것입니다. 마침내 특이점(Singularity)이 찾아와, 빅뱅으로 우주가 영원히 팽창하듯 이 세상을 영원히 바꿔놓을 수도 있습니다. 우리는 지금 바로 그 특이점을 향해, 최고 속도로 달려가고 있습니다.
기술의 특이점특이점 너머의 세상은 어떨까요. 일찍이 1958년에 과학자 존 폰 노이만은 이 특이점을 예측했습니다. 기술의 가속적 발전으로 인해 필연적으로 특이점이 발생할 것이며, 그 후의 인류는 그 이전과는 전혀 다른 무언가가 될 것이라고 말이죠. 이 특이점을 낙관적으로 보는 사람도 있고, 부정적으로 보는 사람도 있습니다. AI를 선도하는 기업 중 하나인 MicroSoft의 창립자 빌게이츠는 이런 말을 했습니다. AI가 곧 단순 반복 업무는 물론 지식 노동까지 대체하며 10년 안에 대부분의 일자리에 영향을 미칠 것이며, 그 결과로 '일할 필요 없는 시대'가 올 것이다라고요. 인간은 원래 노동을 위한 존재가 아니며, 지금까지 인간이 노동에 시달린 이유는 그저 그걸 대체할 수 있는 다른 방법이 없었기 때문이라고 얘기합니다. 저는 이 이야기가 아주 신빙성이 있다고 생각합니다. 노동이 사라진 세상. 바야흐로 인간이 향유하는 세상입니다.
향유하는 시대는 오나
향유하는 시대는 올 수 있지만, 지구상의 80억 인구에게 공정할 수는 없을 겁니다. 우리는 흔히 경쟁, 욕심, 희망, 목표의식 이런 것들을 인간성으로 봅니다. 노동이 존재하지 않는 곳에선 인간은 다른 방법으로 이런 인간성을 유지하겠죠. 기술적 특이점에 대한 생각을 할 때면 늘 저는 제가 전속력으로 달리는 설국열차에 타있는 듯한 기분이 듭니다.
영화는 꼬리칸 머리칸으로 나눠져 있고 각 칸에 탑승한 승객들의 계급은 영원히 정해져 있습니다. 그리고 그나마 꼬리칸에도 탑승하지 못한 훨씬 더 많은 사람들이 있겠죠. 영화를 보면서 들었던 의문이 하나 있습니다. 머리칸에 탄 사람들이 지속적으로 그에 걸맞은 생산력을 낼 것 같지는 않았습니다. 그렇다고 계속 주기적으로 비용을 내다가 돈이 떨어지면 꼬리칸으로 옮겨가는 것 같지도 않았습니다. 뭔가 본인이 머리칸에 있을만한 사람이라는 것을 증명하지 않아도 머리칸에서 향유하는 것처럼 보였죠. 동일하게 꼬리칸의 사람들도 아무리 열심히 일을 하고 능력을 증명한다 한들, 머리칸에 입성할 일은 없습니다.
영화는 영화답게 차가운 시대의 종말과 새로운 희망을 암시하며 끝이 났지만 실제 달리기 시작한 설국열차는 그런 자비로움이 없을지도 모릅니다. 가령 인간의 노동력을 대신할 보급형 로봇이 출시가 된다고 가정해 봅시다. 처음에 느 그냥 집에서 청소나 해주고, 장을 대신 봐주는 정도일 수 있지만, 곧 소유와 비소유의 간극이 말도 안 될 정도로 커질 수 있습니다. 설국열차에 탑승하지 못한 저는 그나마 가진 노동력도 인정받지 못한 채, 기계보다 못한 가치로 평가되어 영영 도태되어 기회를 얻지 못할 수도 있죠. 설국열차의 머리칸에 탄 사람들이 향유하는 그 시점에 말입니다.
그렇다면 다가올 진짜 특이점을 대비해서, 우리는 반드시 그때를 알아채고 설국열차 (가능하다면) 머리칸의 티켓을 사야 합니다. 하지만 어떻게 알아볼 수 있을까요?
물론 삶은 영화가 아닙니다. 모든 것이 그렇게 극단적이고 이분법적이지도 않고 무엇보다 세상은 생각보다 비논리적으로 일관적이지 않게 흘러갑니다. 또 진짜 그런 패러다임 시프트가 벌어진다면 또 누군가는 인간에게 불을 전해준 프로메테우스의 역할을 자처하고 벌어진 간극을 좁히기 위한 노력을 할 것입니다.
많은 문학작품이 경고하듯, 이건 결국 인간과 AI의 대결이 아니라 인간과 인간사이의 갈등입니다.
저 멀리서 본 현재 아니 미래
최근 과학자들 사이에선 시간이 흐른다는 개념은 사실 없다는 게 정설이라고 합니다. 머나먼 우주에서 지구를 바라보면서 동영상의 재생바를 조절하듯 각도만 조금 틀면 과거 현재 미래를 선택해서 볼 수 있고 따라서 사실은 모든 시점이 공존하고 있다는 겁니다.
이 이론에 따르면 우리의 인류의 미래는 이미 결정되어 있습니다. 3차원에 묶여 우리는 그것을 천천히 실현시켜 나갈 뿐이죠. 저 먼 우주 어디에 선가는 고군분투하는 인류를 보며 다음 이야기가 궁금해 얼른 빨리 감기를 하고 있을지도 모릅니다.
뛰어난 직관으로 유명한 일론 머스트는 무려 6년 전인 2019년, 한 AI관련 podcast에서 인터뷰를 한 적이 있습니다. 사회자가 궁극의 AGI가 창조되면 어떤 걸 물어보고 싶냐는 질문에 그는 장고 끝에 이렇게 말을 했습니다.
what is outside the simulation?
일론머스크는 예전부터 우리가 사는 현실이 고도로 발달한 문명이 만든 시뮬레이션일 수 있다는 시뮬레이션 이론을 자주 언급했습니다. 이 이론은 우리가 3차원(또는 4차원 시공간)에서 경험하는 세계는 사실 더 낮은 차원(2차원)에 기록된 정보가 투영된 결과라는 이론물리학의 홀로그램 이론과도 철학적으로 연결됩니다. 또 위에 언급한 시간이 과거에서 미래로 흐르는 것이 아니라는 개념 위에서 가능한 이론이기도 하죠.
인간의 상식과 한계를 훌쩍 뛰어넘은 AGI는 정말 이 질문에 답을 해줄지도 모르겠습니다.
특이점 이후의 세상은 어떻길 기대하시나요? 여러 시행착오와 우려를 거쳐 인류가 정말 향유하는 시대는 올 수 있을까요? 그리고 그 시대는 과연 공리주의적 유토피아일까요 아님 설국열차 같은 디스토피아일까요?
번외) 신경망을 기계로 옮기려는 또 다른 시도
조금 다른 얘기지만, 뇌과학을 공부할 당시 아 이게 인공지능의 미래구나 하고 생각했던 사례가 있습니다. 물론 제 추측은 보기 좋게 어긋났지만, 그래도 여전히 흥미로운 이론입니다.
바로 실제로 뇌지도를 기계로 옮기려는 시도였습니다. 이름부터 귀여운 예쁜 꼬마 선충(Caenorhabditis elegans)이 그 주인공입니다. 예쁜 꼬마선충은 단순하고 정형적인 구조와 더불어 인간 유전자와의 유사함 때문에 생물학 연구에 가장 널리 이용되는 생물 중 하나인데, 특히 신경세포가 딱 302개뿐이라서 1980년대에 전체 신경계 연결을 전부 분석한 세계 최초의 완전한 connectome(뉴런 연결 지도)를 완성할 수 있었습니다.
예쁜 꼬마선충의 뇌지도 신경지도이후 세계 최초의 디지털 생명체를 만드는 것을 목표로 하는 OpenWorm 프로젝트에서 연구자들은 이 예쁜 꼬마선충의 신경망을 디지털로 재현해서 로봇에 그대로 이식하는 실험을 했습니다. 결과는 놀라웠습니다. 로봇은 먹이 찾기, 회피 같은 기본 행동을 실제 선충처럼 흉내를 냈죠. '벽을 만나면 돌아가라'는 행동강령은 자연스러워 보이지만 사실 프로그래밍 되지 않으면 절대 불가능한 일입니다. 하지만 신경 정보를 이식한 이 로봇은 if - then 식으로 정해진 알고리즘 없이, 수많은 데이터로 학습된 추론능력 없이, 그냥 꼬마선충의 본능에 따라 길을 찾았습니다.
https://www.youtube.com/watch?v=YWQnzylhgHc
이러한 커넥톰 프로그래밍과 인공 신경망은 본질적으로 다릅니다. 두 접근 모두 생명체에서 개념을 빌려왔지만, 커넥톰은 실제 복잡한 생체 메커니즘을 그대로 투영한 일종의 "인공지능"이면서도 지능에 있어 가장 중요한 학습 메커니즘을 포함하지 않는다는 한계를 가지고 있습니다. 반면 인공 신경망은 실제 뉴런의 복잡성을 단순한 수학 공식으로 추상화해, 데이터로부터 패턴을 학습하는 기능을 모사한 것에 가깝습니다.
실제 뇌가 태어날 때 고정된 커넥톰을 갖는 것이 아니라, 경험을 통해 끊임없이 시냅스 연결이 변한다는 것을 고려해보면 단순히 "초기 배선"만 재현하는 것으로는 지능이 발전하기 어렵다는 것을 이해할수 있습니다. 이 때문에 오늘날의 딥러닝은 커넥톰을 단순화·추상화한 인공 신경망에 학습 능력을 결합한 형태로 발전했습니다.
참고로 인간 뇌에는 약 860억 개의 뉴런과 수백조 개의 시냅스가 존재하며, 지금의 기술로는 이러한 인간 커넥톰 전체를 디지털로 완벽히 재현하는 것은 사실상 불가능에 가깝습니다. 하지만 곧 등장할 초지능의 도움을 받는다면 어떨까요? 진짜 한 사람의 정신을 그대로 복사해 놓은 기계를 만드는 것도 가능하겠죠. 딥러닝 아키텍처를 차용해 학습능력을 추가한다면 진정, 향유하는 불멸의 인간이 탄생할 수도 있겠습니다.
로맨틱 사이언스
과학, 문학, 예술, 철학이 어우러지는 글을 써보고 싶습니다.
