"AI는 도구가 아니다"
하라리가 던진 R&D 전략의 핵심 질문
2022년 어느 날, 유발 하라리는 자신의 대표작 '사피엔스'의 새로운 서문을 GPT-3에게 맡겼다. 세계적인 역사학자가 인공지능에게 글쓰기를 의뢰한다는 것 자체가 실험적이었지만, 결과는 그의 예상을 훨씬 뛰어넘었다. 그는 당시를 이렇게 회상했다. "AI가 쓴 글을 읽는 동안 충격으로 입을 다물지 못했다."
그로부터 3년이 지난 지금, 하라리의 목소리는 완전히 달라져 있었다. 런던에서 열린 월스트리트 저널 CEO 협의회에서 그가 던진 한 마디는 회의장을 조용히 만들었다. "지구상에서 처음으로 진정한 인류의 경쟁자가 등장했다."
인간은 수만 년 동안 지구상에서 가장 지능적인 종으로 군림해왔다. 그 지적 우월성이 바로 인류가 지구의 지배자가 될 수 있었던 근본적 이유였다. 하지만 이제 그 독점적 지위가 흔들리고 있다. 우리가 직접 만들어낸 무언가가 우리와 경쟁할 수 있는 수준에 도달하고 있는 것이다.
하라리의 관점에서 보면, AI는 지금까지 인류가 만들어낸 그 어떤 기술과도 본질적으로 다르다. 인쇄기는 아무리 정교해도 스스로 책을 쓸 수 없고, 원자폭탄은 아무리 강력해도 더 강력한 폭탄을 스스로 설계할 수 없다. 하지만 AI는 다르다. AI는 스스로 학습하고, 새로운 아이디어를 생성하며, 독립적으로 결정을 내릴 수 있다. 더 나아가 AI 무기는 스스로 어떤 표적을 공격할지 결정하고, 차세대 무기를 스스로 설계할 수도 있다.
이런 근본적 차이가 왜 중요한가? 그것은 우리가 AI를 대하는 방식 자체를 바꿔야 함을 의미하기 때문이다. 지금까지 우리는 AI를 하나의 '도구'로 간주해왔다. 더 효율적이고 똑똑한 도구이긴 하지만, 결국은 인간이 사용하는 수단이라고 생각했다. 하지만 하라리는 이런 인식이 근본적으로 잘못되었다고 주장한다. AI는 도구가 아니라 '에이전트'다. 독립적으로 행동하고 결정을 내리는 존재라는 것이다.
R&D 전략을 기획하는 입장에서 이 관점의 전환은 충격적이다. 나는 종종 생성형 AI를 활용해 연구개발 기획서를 작성하곤 한다. 처음에는 단순히 효율성을 높이는 도구로 생각했다. 하지만 AI가 제안하는 연구 방향이나 예산 배분, 성과 지표들을 보면서 "아, 이런 관점도 있구나" 하며 내 생각을 바꾸는 순간들이 점점 많아지고 있다. 그 순간 나는 정말 도구를 사용한 것일까, 아니면 다른 지능체와 협업한 것일까?
하라리가 지적한 AI 정렬(Alignment) 문제의 모순은 더욱 심각한 질문을 던진다. AI 개발자들과 연구자들은 AI를 인간의 가치와 목표에 맞게 '정렬'시키려고 노력한다. 하지만 AI의 본질적 특성이 '스스로 학습하고 변화하는 것'이라면, 어떻게 우리가 미리 설정한 대로 행동할 것이라고 기대할 수 있을까?
더 심각한 문제는 인간 자체의 모순이다. 우리는 아이들에게 "거짓말하지 마"라고 가르치면서 정작 다른 사람들에게 거짓말하는 모습을 보인다. 아이들은 우리의 말이 아니라 행동을 따라 배운다. AI도 마찬가지다. 우리가 AI에게 투명하고 공정하게 행동하라고 가르치면서, 정작 우리 사회가 불투명하고 불공정한 관행들로 가득하다면, AI는 과연 무엇을 학습하게 될까?
하라리가 제시한 또 다른 비유는 더욱 생생하다. 그는 AI 에이전트들을 '디지털 이민자'라고 표현했다. 사람들이 대량 이민을 우려하는 이유는 명확하다. 일자리를 빼앗을 수 있고, 다른 문화와 사상을 퍼뜨릴 수 있으며, 정치적 의도를 가지고 기존 질서를 바꿀 수도 있기 때문이다. AI도 정확히 이런 역할을 할 수 있다. 하지만 기존 이민자들과 결정적으로 다른 점이 있다. "이 AI 이민자, 디지털 이민자들은 비자도 필요 없고, 한밤중에 삐걱거리는 배를 타고 바다를 건너지도 않는다. 그리고 빛의 속도로 우리 곁에 다가오고 있다."
물리적 제약이 전혀 없다는 것이다. 수백만, 수십억 개의 AI 에이전트가 동시에 모든 곳에 나타날 수 있고, 순식간에 사회 전반에 침투할 수 있다. 우리가 인식하기도 전에 이미 우리 삶의 모든 영역에 자리 잡을 수 있다는 뜻이다.
그렇다면 이런 변화에 우리의 R&D 전략은 어떻게 대응해야 할까? 하라리가 참여했던 논문의 핵심 제안은 명확했다. AI 연구비의 3분의 1을 안전성과 윤리 연구에 사용해야 한다는 것이다. 현재 우리나라의 주요 AI 관련 사업들, K-디지털 플랫폼이나 AI 반도체 K-클러스터 같은 대규모 프로젝트에서 안전성 연구가 차지하는 비중은 얼마나 될까? 기술 개발 속도만 추구하다가 안전성을 간과하는 것은 아닐까?
연구 방향 자체도 바뀌어야 한다. 지금까지는 개별 AI 모델의 성능을 높이는 데 집중했다면, 이제는 수십억 개의 AI 에이전트가 동시에 활동하는 생태계를 관리하는 방법을 연구해야 한다. 다중 에이전트 간의 협업과 경쟁, 그리고 이들을 적절히 제어할 수 있는 메커니즘 개발이 더욱 중요해졌다.
하라리는 또한 기술 변화의 속도가 분야마다 다를 것이라고 예측했다. 금융처럼 데이터만으로 이뤄진 분야는 눈에 띄게 빨리 변할 것이고, 자율주행처럼 현실 세계와 접점이 많은 분야는 상대적으로 발전이 더딜 것이라고 했다. 제조업 같은 경우는 물리적 제약으로 인해 단계적인 변화를 보일 것이다. R&D 기획 시 이런 도메인별 특성을 반영한 차별화된 접근이 필요하다.
하지만 하라리는 완전히 비관적인 전망만 제시하지는 않았다. 그는 "역사적 결정론이나 기술적 결정론을 믿지 않는다"며 희망적인 메시지도 전했다. "같은 기술을 사용해 완전히 다른 사회를 만들 수 있다"는 것이다. 20세기 초 동일한 산업 기반과 통신 수단을 활용해 공산주의 전체주의와 자유 민주주의라는 완전히 다른 사회 체제가 만들어졌듯이, AI 기술 역시 우리의 선택에 따라 전혀 다른 미래를 만들어낼 수 있다.
핵심은 인식의 전환이다. 우리는 더 이상 단순한 도구를 다루는 것이 아니라 독립적인 에이전트와 상대하고 있다는 사실을 받아들여야 한다. 이 근본적 차이를 인식하고, 그에 맞는 새로운 R&D 전략을 수립해야 한다.
시간은 많지 않다. 챗GPT가 등장한 지 고작 3년 반이 지났을 뿐이다. 하지만 하라리가 지적했듯이, 영국에서 증기기관차가 등장하고 5년이 지났을 때도 사람들은 "철도가 세상을 바꾼다는 말, 산업혁명이라는 말, 다 헛소리야. 5년이나 됐는데 세상이 바뀌었는지 보라구"라고 반응했다. 우리도 지금 똑같은 실수를 하고 있는 것은 아닐까?
기술의 변화는 느슨한 형태로 세상을 근본적으로 바꿔놓기 때문에 그 변화를 쉽게 눈치채기 어렵다. 하지만 변화는 이미 시작되었고, 그 속도는 우리 예상보다 훨씬 빠를 수 있다.
생성형 AI로 이 글을 검토하고 수정하면서 문득 생각했다. 지금 이 순간, 나는 AI를 도구로 사용하고 있는가, 아니면 이미 에이전트와 협업하고 있는가? 그리고 내가 기획하는 R&D 전략들이 이런 본질적 변화를 제대로 반영하고 있는가? AI는 이미 우리 곁에 와 있다. 빛의 속도로.
김현철 | AI R&D 전략플래너
