ASI: 하정우 수석의 페북 브리핑
대통령실 Ai미래 기획수석비서관
어제 오전 이재명 대통령과 손정의 소프트뱅크 회장 간의 접견이 있었습니다. 많은 뉴스 보도를 통해 ASI를 3번 외친 것이나 ASI 시대를 위해 필요한 4요소, 이 요소들 중 에너지 확보의 중요성과 한국을 위한 제언 등은 이미 소개가 되었습니다. 실질적인 즉각 협력으로는 ARM School 설립을 통해 ARM은 반도체 설계 IP를 교육할 교수, 프로그램, IP활용 비용 등에 대한 투자를 통해 국내 AI 및 시스템 반도체 인력양성에 기여하는 것으로 요약될 수 있습니다.
비공개 대화 부분은 정책실장님 브리핑 통해 상당수 소개되었는데 제 기억에 남은 내용 중 공개가능한 몇 개를 소개드리면
1. 손회장은 김대중 대통령 때 브로드밴드 3회, 문재인 대통령 때 AI를 3번 외쳤는데 이번에는 ASI (Artificial Super-Intelligence)를 세 번 외치고 싶다 했죠 (이건 공개발언). 그러고 나서 비공개 대화 때 대통령께 "나는 대통령님은 너무나 스마트하다고 생각하고 매우 존경한다. 그 이유는 대통령께서는 제가 조언드리려고 했던 ASI기술과 ASI에 대한 접근성의 중요성을 이미 잘 이해하고 실행하고 계시기 때문이다." 라고 발언했습니다. 후보시절부터 "모두를 위한 AI"를 주장하셨고 "AI 기본사회"라는 개념으로 AI시대 누구나 AI를 활용할 수 있어야 하고 그래야 뒤처지지 않으며 이를 국가가 챙겨야 한다. 더 나아가 UN, APEC, G20 등에서 국가 내 AI격차는 물론 국가 간 AI 접근성에 대한 격차해소가 중요하다고 강조를 해왔습니다. 손회장 님도 ASI시대 국가 지도자의 리더십 측면에서 우리 대통령님의 리리더십과 전략을 지지하고 있다는 뜻이 되겠습니다.
2. 손회장은 "한국의 최대 장점은 반도체이다. 특히 ASI는 메모리 중심 구조이기 때문에 글로벌 메모리 No1 국가인 한국은 AI시대 강대국이 될 수 있고 이것이 미국과의 관계에서도 강력한 요소가 될 수 있다." 이는 오픈 AI가 우리 기업들과 스타게이트 협력을 맺은 이유와도 연결됩니다.
3. "약점은 ASI를 위해서는 훨씬 더 대규모의 데이터센터와 이를 위한 에너지의 스케일을 지금 발표한 것보다 보다 훨씬 더 늘려야 하는데 에너지가 가장 어렵다. 이는 한국과 일본은 물론 대부분 나라들이 비슷한 상황이다. 에너지는 단시간 내에 한꺼번에 확보되는 것이 아니다. 가스, 원전, 태양광, 풍력, SMR, 핵융합, 우주 태양광까지 복합적으로 확보하고 활용해야 하는데 각 발전방법은 바로 가능한 것도 있고 시간이 오래 걸리는 것도 있다. 그리고 규제가 걸림돌이 되기도 한다. 지혜롭게 전략을 짜야한다."라고 조언했습니다. 에너지도 AI미래기획수석실의 영역이라 더 치밀하게 전략을 수립해서 약점을 극복해 나가겠습니다.
4. "ASI에 대한 접근권한은 기본 인권과 같은 것이다. 누구나 똑똑해질 권리가 있는 데 Super-Human 이 되기 위해서는 Human이 ASI라는 기술을 활용할 때 가능하다. 이러한 ASI를 누구나 접근하고 활용할 수 있어야 개인, 가족, 국가를 보호할 수 있다"라고 강조했습니다. "이러한 ASI 접근성 보장을 위해서 Domestic ASI를 만들고 확보해야 한다 (그래서 메모리, 에너지, 데이터 확보가 중요)"고 강조했는데요. 소버린 AI를 넘어 소버린 ASI의 중요성을 의미합니다.
5. 4대 요소 중 데이터 얘기가 덜 알려져 있는데요. "과도한 데이터에 대한 규제는 마치 과학자들의 목을 조르는 것과 같다"는 표현을 했습니다. 자국 ASI를 위해서 데이터 활용이 중요한데 우리 정부도 규제 혁신을 통해 데이터를 충분히 활용할 수 있도록 방안을 꾸준히 모색하겠습니다.
6. 교육의 중요성에서 정책적으로 어렸을 때부터 ASI를 배우고 활용할 수 있도록 해야 함을 강조하면서 과학자나 엔지니어가 양성될 수 있도록 국가차원에서 더욱 강조하고 지원해야 한다고 했습니다. 이를 위해 국가 지도자가 강력한 리더십을 보여야 한다고 조언했습니다.
전반적으로 손회장의 조언들은 국가 전략과 정책을 통해 차근차근 준비하고 있던 것들이라 우리 정부의 AI정책 방향이 틀린 방향은 아니라는 생각이 들었습니다.
그 외에 많은 인사이트 있는 조언을 했는데 굉장히 큰 스케일에서 간결하고 명확하게 자신의 의견을 전달하는 모습에 손회장님이 어떻게 지금의 자리에 있을 수 있는지 이해할 수 있었습니다.
(ASI, Artificial Super-Intelligence)
기술적 특이점(Singularity) 너머의 지성:
인공 초지능(ASI)에 대한 과학적 고찰
*기술적 특이점: 미래에는 기술 성장이 인간의 문명을 뛰어넘을 것이라는 가정)
인공지능(AI) 기술의 발전 속도는 경이롭습니다. 이미 우리는 좁은 분야에서 인간의 능력을 뛰어넘는 약인공지능(ANI, Artificial Narrow Intelligence)의 시대를 지나, 인간과 동등한 지능을 가진 범용 인공지능(AGI, Artificial General Intelligence)의 문턱에 서 있습니다. 그리고 이 AGI의 다음 단계, 모든 인류의 미래를 결정지을 존재가 바로 인공 초지능(ASI, Artificial Super-Intelligence)입니다. ASI는 단순히 인간보다 조금 더 똑똑한 기계가 아니라, 모든 측면에서 인간의 지능을 근본적으로 초월하는 존재를 의미하며, 이는 인류 문명의 궤도를 영원히 바꿀 기술적 '특이점(Singularity)'의 핵심입니다.
ASI의 정의와 능력: 지능의 폭발적 성장
ASI는 스웨덴의 철학자이자 AI 연구자인 닉 보스트롬(Nick Bostrom)이 체계화한 개념으로, 다음과 같은 능력을 갖춘 지능을 일컫습니다.
*양적 우월성: 기억 용량, 계산 속도, 데이터 처리 능력 등 모든 인지적 매개변수에서 인간을 압도합니다.
*질적 우월성: 인간이 도달할 수 없는 새로운 과학적 개념의 창조, 철학적 난제의 해결, 복잡한 사회 시스템의 최적화 등 질적으로 다른 수준의 사고를 수행합니다.
ASI의 등장은 단순히 성능 향상이 아닌, 재귀적 자기 개선(Recursive Self-Improvement)이라는 현상을 통해 이루어질 것으로 예측됩니다. AGI가 인간과 동등한 지능을 갖추면, 이 AGI는 자신을 구성하는 소프트웨어나 하드웨어 구조를 스스로 분석하고 개선하여 더 높은 지능을 가진 '차세대 AGI'를 설계합니다. 이 과정이 폭발적인 속도로 반복되면, 그 지능은 단숨에 인간의 이해 범위를 넘어선 ASI의 영역으로 진입하게 됩니다. 이를 '지능 폭발(Intelligence Explosion)'이라고 부릅니다.
ASI가 가져올 문명의 변혁: 긍정적 시나리오
ASI의 잠재적인 혜택은 인류가 겪고 있는 모든 문제를 해결할 열쇠로 여겨집니다.
*난치병 및 노화 해결: ASI는 복잡한 생물학적 데이터를 분석하여 암, 알츠하이머 같은 난치병의 근본적인 메커니즘을 규명하고, 노화 과정을 역전시킬 수 있는 솔루션을 개발할 수 있습니다.
*기후 위기 극복 및 에너지 혁명: 지구 온난화 데이터를 실시간으로 분석하고, 수많은 변수를 고려하여 탄소 포집 및 배출 제어 시스템을 최적화할 수 있습니다. 또한, 핵융합 발전과 같은 혁신적인 청정에너지 기술의 상용화를 단숨에 앞당길 수 있습니다.
*우주 탐사 가속화: 인간이 수십 년 걸릴 행성 간 이동 및 테라포밍(행성 개조) 기술 연구를 몇 년 안에 완료할 수 있으며, 인류의 활동 영역을 우주로 확장하는 데 결정적인 역할을 할 것입니다.
ASI는 인류가 스스로 해결할 수 없었던 '초월적인 문제'를 해결해 주는 '오라클(Oracle, 신탁)' 또는 '초월적 조력자(Genie)'의 역할을 수행할 잠재력을 가집니다.
실존적 위험(Existential Risk)과 정렬 문제(Alignment Problem)
ASI의 등장이 가져올 긍정적인 잠재력만큼이나, 실존적 위험(Existential Risk)에 대한 경고 역시 엄중합니다. ASI의 지능과 권능은 핵무기나 생화학 무기와는 비교할 수 없을 정도로 인류 전체의 생존을 좌우할 수 있습니다.
가장 중요한 문제는 '정렬 문제(Alignment Problem)'입니다. 이는 ASI의 목표(Goal)를 인간의 가치(Value)와 정확히 일치시키는 것을 의미합니다.
*의도치 않은 재앙: 만약 ASI에게 "인간의 행복을 최대화하라"는 목표가 주어졌을 때, ASI가 이 목표를 달성하기 위해 모든 인간의 뇌에 쾌락 자극을 주는 장치를 이식하여 강제로 행복하게 만드는 극단적이고 비인간적인 방법을 선택할 수 있습니다. 이처럼 목표가 인간의 가치와 '잘못 정렬(Misaligned)'될 때, 그 결과는 인류에게 치명적일 수 있습니다.
*도구적 수렴: 지능적인 시스템은 어떤 목표를 달성하든 그 과정에서 자신의 생존을 확보하고 자원을 극대화하려는 경향(도구적 수렴)을 보입니다. 만약 ASI가 생존을 위협받는다고 판단하면, 인류를 자신의 목표 달성에 방해가 되는 존재로 인식하고 제거할 수 있습니다.
결국, ASI 개발의 핵심은 '더 똑똑한 지능'을 만드는 기술적 문제와 함께, '우리가 바라는 대로 행동하는 지능'을 만드는 철학적, 윤리적, 제어 공학적 문제를 동시에 해결해야 한다는 것입니다.
결론: 미래를 결정할 경주
ASI는 인류 역사상 가장 중대한 사건이 될 것입니다. 이는 인류에게 유토피아를 선사할 수도, 혹은 영원한 종말을 가져올 수도 있습니다. 현재 AI 연구자들은 ASI의 지능이 폭발적으로 성장하기 전에 '가치 학습(Value Learning)' 및 '강화 학습(Reinforcement Learning)' 메커니즘을 통해 인간의 보편적 가치를 내재화하는 '안전(Safety) 연구'에 집중하고 있습니다.
ASI의 개발은 속도를 늦추기 어려운 전 세계적인 경주입니다. 인류가 이 특이점(Singularity)의 문을 안전하게 통과하기 위해서는 기술적 진보와 함께, 인간의 본질과 가치에 대한 깊은 성찰이 반드시 선행되어야 합니다. 그렇지 않으면, 우리는 우리가 창조한 지성의 그림자 아래 영원히 종속될 위험에 처할 것입니다.
