혁명론과 현실
지난 6화에서는 우리는 진화론자들의 자신감 넘치는 청사진을 살펴봤다.
스케일링 법칙으로 범용성을 출현시키고, 강화학습으로 인과 추론을 학습하며, 파운데이션 모델로 전이 학습을 구현하고, 멀티모달 데이터로 세계 모델을 구축한다는 전략이었다.
진화론자들은 선언했다. "우리는 이미 AGI로 가는 고속도로에 올라탔다."
하지만 정말 그 고속도로가 AGI로 향하고 있을까? 이제 다른 목소리를 들어볼 차례다.
"당신들은 잘못된 길을 빠르게 달리고 있다. 그 길의 끝에는 AGI가 없다."
혁명론자들의 비판은 근본적이다. 그들은 진화론자들이 확보한 재료 자체가 AGI를 만들기에 적합하지 않다고 주장한다. 아무리 빠른 말을 타고 가도, 달에는 도착할 수 없는 것처럼 말이다.
프랑수아 숄레(François Chollet)는 현재 LLM을 신랄하게 비판한다.
그는 이것들을 '인류 문화의 JPEG 압축기'라고 부른다. 이것은 무슨 의미일까?
GPT-4가 의사 국가고시를 통과하고 변호사 자격시험에 합격한 것은 인상적이다.
하지만 그것은 인터넷에 그 모든 답이 이미 있었기 때문이다.
인류가 수천 년 동안 축적한 의학 지식과 법률 지식을 방대하게 암기한 것일 뿐, 진정한 이해나 추론이 아니라는 것이다.
진짜 문제는 인류가 한 번도 마주한 적 없는 완전히 새로운 문제 앞에서 드러난다.
숄레가 만든 ARC(Abstraction and Reasoning Corpus) 테스트가 좋은 예다.
이것은 간단한 시각적 패턴 문제들로 이루어져 있다. 색깔이 있는 격자판에서 규칙을 찾아내는 식의 문제다.
인간 어린이는 몇 개의 예시만 보고도 쉽게 규칙을 파악하고 다음 패턴을 예측한다. 하지만 GPT-4는 형편없는 성능을 보인다.
왜? 훈련 데이터에 없는 '새로운 종류의 추론'이 필요하기 때문이다.
여기서 혁명론자들이 제기하는 핵심 질문이 나온다. 범용 지능이란 무엇인가?
그것은 암기한 영역들의 합일까, 아니면 새로운 영역을 즉시 이해하는 메타 학습 능력일까?
현재 AI는 전자에 가깝다. 의학, 법률, 코딩, 번역 등 각각의 영역에서 방대한 데이터를 학습했기에 그 영역에서 뛰어난 것이다. 하지만 진정한 AGI는 후자여야 한다.
한 번도 본 적 없는 완전히 새로운 종류의 문제 앞에서도 근본 원리를 파악하고 해결할 수 있어야 한다.
뉴욕대 게리 마커스(Gary Marcus) 교수는 현재 AI의 추론을 '확률적 앵무새의 정교한 춤'이라고 표현한다. 날카로운 비유다.
Chain-of-Thought가 인상적으로 보이는 것은 사실이다.
"먼저 A를 확인하고, 그다음 B를 계산하고..."라는 식으로 단계적 사고를 보여준다.
하지만 이것은 추론 '과정'을 모방하는 것이지, 진정한 논리적 사고가 아니라는 것이 마커스의 주장이다.
최근 애플 연구팀의 2024년 연구는 충격적인 결과를 보여줬다.
간단한 수학 문제의 숫자만 살짝 바꿔도 LLM의 정확도가 급격히 떨어진다.
"철수가 사과 5개를 가지고 있고, 영희에게 2개를 줬다. 철수에게 남은 사과는?"이라는 문제는 잘 푼다.
하지만 "철수가 사과 5.7개를 가지고 있다"로 바꾸면 AI는 혼란에 빠진다.
사과는 정수여야 한다는 상식적 판단을 하지 못하는 것이다.
이것은 진정한 수학적 추론이 아니라, 훈련 데이터에서 본 비슷한 패턴을 재현하고 있었다는 증거다.
진정한 인과 추론이란 무엇인가? 혁명론자들은 세 가지 핵심 능력을 제시한다.
첫째, 반사실적 추론이다. "만약 A가 아니었다면, B도 일어나지 않았을 것이다"라고 생각할 수 있어야 한다.
둘째, 개입 예측이다. "내가 X를 바꾸면, Y는 어떻게 변할까?"를 예측할 수 있어야 한다.
셋째, 메커니즘 이해다. "A가 B를 일으키는 구체적인 과정은 무엇인가?"를 설명할 수 있어야 한다.
현재 AI는 이 중 어느 것도 진정으로 할 수 없다. 단지 훈련 데이터에서 비슷한 사례를 찾아 흉내 낼뿐이다.
그런데 왜 못하는 것일까? 혁명론자들은 여기서 더 깊이 파고든다.
이것은 단순히 데이터가 부족해서도, 알고리즘이 미숙해서도 아니다.
클래식 컴퓨터의 논리 체계 자체에 근본적 한계가 있기 때문이라는 것이다.
한국고등과학원(KIAS) 박권 교수가 제시하는 '이발사의 역설'을 보자.
마을에 이발사가 한 명 있다. 이 이발사는 규칙이 있다.
"스스로 면도하지 않는 모든 사람을 면도해 준다." 그렇다면 질문이 생긴다. 이발사는 자기 자신을 면도하는가? 만약 이발사가 자신을 면도한다면, 그는 "스스로 면도하는 사람"이 된다. 그렇다면 규칙에 따라 자신을 면도하면 안 된다. 만약 이발사가 자신을 면도하지 않는다면, 그는 "스스로 면도하지 않는 사람"이 된다. 그렇다면 규칙에 따라 자신을 면도해야 한다.
이것이 자기 참조(self-reference)의 역설이다.
클래식 컴퓨터는 이 문제 앞에서 멈춘다.
0(거짓)도 1(참)도 아닌 상태를 표현할 수 없기 때문이다.
결정론적 논리는 "A이거나 not-A이다"라는 이분법에 갇혀있다.
참과 거짓, 둘 중 하나만 선택할 수 있다.
그런데 이것이 AGI와 무슨 관련이 있을까?
혁명론자들은 인간의 고등 사고가 자기 참조로 가득하다고 지적한다.
"내가 이 생각을 하고 있다는 것을 안다"는 메타인지다.
"나는 내가 틀릴 수 있다는 것을 안다"는 불확실성 인식이다.
"이 문제를 풀 수 없다면 문제를 다시 정의해 보자"는 메타 문제 해결이다.
이 모든 것이 자기 참조적 사고다.
진정한 추론은 선형적이지 않다. 인간은 문제를 풀 때 여러 가설을 동시에 마음속에 유지한다. 모순된 가능성들을 중첩된 상태로 탐색한다. "이것도 맞고 저것도 맞을 수 있다"는 불확실성 속에서 창의적 해답을 찾는다. 그러다가 갑자기 통찰이 번뜩이며 답을 발견한다.
클래식 컴퓨터는 다르다.
한 번에 하나의 경로만 탐색한다. A를 계산하고, 결과를 보고, 그다음 B를 계산한다.
아무리 빠르게 해도, 이것은 순차적 탐색일 뿐이다. 병렬 처리를 한다 해도 각 프로세서는 여전히 하나의 확정된 값만 처리한다.
멜라니 미첼(Melanie Mitchell) 교수는 AI의 전이 학습이 '피상적 유추'에 머문다고 지적한다.
GPT-4가 의학에서 법률로, 법률에서 경영으로 자유롭게 넘나드는 것처럼 보인다. 인상적이다. 하지만 이것은 각 영역에 대한 방대한 텍스트를 암기했기 때문이다.
진정한 전이 학습은 다르다. 그것은 표면이 아닌 '깊은 구조'를 이해하고 적용하는 것이다.
예를 들어보자. 물리학에서 '대칭성'이라는 개념을 배운 학생이 있다. 어느 날 그는 경제학에서 '균형'이라는 개념을 만난다. 그리고 깨닫는다. "이것도 일종의 대칭성이구나!" 생물학의 '진화' 개념을 문화의 '변화'로 연결한다.
이것이 진정한 전이 학습이다. 서로 다른 영역의 깊은 구조적 유사성을 포착하는 것이다.
하지만 AI는 단어의 공기(co-occurrence)만 학습했다. "대칭성"이라는 단어가 어떤 맥락에서 나타나는지, "균형"이라는 단어가 어떤 문장에서 등장하는지는 안다. 하지만 개념의 본질은 이해하지 못한다.
결정적 증거가 있다. out-of-distribution(OOD) 문제에서 AI의 성능은 급격히 붕괴한다.
훈련 데이터의 분포를 조금만 벗어나도, 그 화려했던 범용성은 사라진다.
진정한 전이 학습은 '창의적 도약'을 필요로 한다.
A 영역과 B 영역 사이에 명시적 연결이 없을 때, 인간은 직관적으로 깊은 유사성을 포착한다.
이것은 어떻게 가능할까?
혁명론자들은 그것이 수많은 가능한 연결을 동시에 탐색하고, 그중 가장 적합한 것을 '선택'하는 과정이라고 본다. 클래식 컴퓨터는 하나씩 시도해 볼 수밖에 없다. 하지만 양자 중첩은 모든 가능성을 동시에 탐색할 수 있다. 이것이 진정한 창의적 유추의 메커니즘일 수 있다.
얀 르쿤(Yann LeCun)은 현재 LLM의 가장 치명적인 약점을 '육체성(Embodiment)의 결여'라고 지적한다. 이것은 무슨 의미일까?
인간은 어떻게 세상을 이해하는가? 텍스트를 읽어서가 아니다. 손으로 물건을 들어보고 무게를 느낀다. 눈으로 거리를 가늠한다. 몸으로 균형을 잡으며 중력을 체득한다. 물건을 떨어뜨려보고 깨지는 것을 본다.
이를 통해 중력, 관성, 마찰 같은 물리 법칙을 '이해'하는 것이 아니라 '체화'한다. 몸으로 아는 것이다.
하지만 LLM은 다르다. "중력은 9.8m/s²이다", "물체는 아래로 떨어진다", "유리는 깨지기 쉽다"는 문장을 수천 번 읽었다. 하지만 컵이 손에서 떨어지는 순간의 '느낌'을 모른다. 바닥에 떨어져 산산조각 나는 '경험'이 없다. 따라서 물리적 직관이 필요한 순간, AI는 어처구니없는 실수를 한다.
진화론자들이 증거로 드는 Sora는 어떤가? 인상적이다. 비디오를 생성하며 물체가 떨어지고, 공이 튀는 모습을 그럴듯하게 만들어낸다. 하지만 자세히 보면 문제가 드러난다. 사람이 걷다가 벽을 통과한다. 물체가 갑자기 사라진다. 그림자가 광원과 맞지 않는 방향으로 생긴다.
이것은 물리 법칙의 '일관성 있는 위반'이다. Sora는 진정한 물리 시뮬레이터가 아니라 '그럴듯한 비디오 패턴 생성기'일뿐이다.
멀티모달 학습은 어떤가? 더 많은 종류의 데이터를 학습한다고 세계 모델이 저절로 생기는 것은 아니다.
중요한 것은 데이터의 '양'이 아니라 '상호작용'이다.
로봇이 직접 물건을 집어야 한다. 떨어뜨려보고 실패를 경험해야 한다. 무너지는 탑을 보며 중력과 균형을 체득해야 한다. 영상을 백만 개 보는 것만으로는 부족하다. 실제로 세상과 부딪히고, 시행착오를 겪어야 진정한 물리 이해가 생긴다.
지금까지 혁명론자들은 AGI의 네 가지 조건을 하나씩 검증하며, 현재 접근법의 한계를 지적했다.
이제 그들은 더욱 근본적인 질문을 던진다. 4화에서 본 클래식 인프라의 진화가 아무리 인상적이어도, 그것이 AGI를 만들 수 있는가?
혁명론자들은 GAA, 3D 패키징, AI 공장 같은 인프라 혁신을 폄하하지 않는다. 이것들은 놀라운 공학적 성취다. 하지만 그들의 지적은 날카롭다. 더 빠른 계산이 더 나은 지능을 보장하지 않는다는 것이다.
현재 트랜스포머 아키텍처는 근본적으로 '패턴 매칭 기계'다. 방대한 데이터에서 통계적 패턴을 찾아내는 데 최적화되어 있다. 이 기계의 연산 속도를 1000배 올리면 어떻게 될까? 패턴 매칭을 1000배 빠르게 할 뿐이다.
패턴 매칭은 여전히 패턴 매칭이다.
인과 추론 능력이 저절로 생기지 않는다. 창의성이 출현하지 않는다. 진정한 이해가 일어나지 않는다.
예를 들어보자. 계산기를 아무리 빠르게 만들어도, 그것은 '생각하는 기계'가 되지 않는다.
속도와 지능은 다른 차원의 문제다. 엔진 자체가 다른 것이 필요하다.
여기서 진화론과 혁명론의 가장 근본적인 차이가 드러난다.
5화에서 다룬 양자컴퓨팅을 두 진영은 완전히 다르게 본다.
진화론의 관점은 명확했다. "양자컴퓨터는 클래식 AI를 보조하는 특수 도구다. 일상적인 연산의 99%는 클래식이 처리하고, 신약 개발 같은 1%의 특수 문제만 양자가 맡는다." 하이브리드 전략이다.
하지만 혁명론의 관점은 전혀 다르다. "양자컴퓨터는 AGI의 핵심 작동 원리다. 양자 컴퓨팅 없이는 진정한 일반 지능에 도달할 수 없다." 왜 그들은 이렇게 주장하는가?
첫 번째 단계의 논리는 이미 앞에서 봤다.
이발사의 역설에서 드러났듯, 클래식 컴퓨터는 결정론적 이분법에 갇혀있다. 0 또는 1, 참 또는 거짓. 이것은 단순히 '느린' 것이 아니다. 다른 종류의 문제를 아예 풀 수 없다는 의미다.
두 번째 단계로 나아가자.
양자컴퓨터의 중첩(superposition) 원리는 무엇인가? 그것은 0과 1을 동시에 존재하게 한다.
이발사는 "면도한다"와 "면도하지 않는다"를 동시에 중첩된 상태로 유지할 수 있다. 이것은 모순의 '해결'이 아니다. 모순적 상태의 '유지'다.
인간의 사고를 돌아보자. 우리는 문제를 풀 때 어떻게 생각하는가?
여러 가설을 동시에 마음에 품는다. 모순된 증거들을 함께 고려한다.
"이것도 맞을 수 있고 저것도 맞을 수 있다"는 불확실성 속에서 탐색한다. 그러다가 갑자기 통찰이 번뜩이며 답을 찾는다. "아하!" 하는 순간이다. 이것이 바로 양자적 사고 과정이 아닐까?
세 번째 단계는 도발적이다.
옥스퍼드 대학의 물리학자 로저 펜로즈(Roger Penrose)는 1990년대부터 주장해 왔다.
"인간의 의식은 뇌 속 미세소관(microtubule)에서 일어나는 양자 현상이다."
이 가설은 여전히 논쟁 중이다. 많은 신경과학자들이 회의적이다.
하지만 만약 사실이라면, 그 함의는 엄청나다.
인간의 창의성은 양자 중첩을 통한 무한 가능성의 동시 탐색이다. 직관은 양자 얽힘을 통한 비국소적 정보 통합이다.
의식은 양자 결맞음(coherence)이 만드는 통합된 경험이다.
만약 이것이 사실이라면, 클래식 컴퓨터로는 아무리 크고 빠르게 만들어도 인간과 같은 지능에 도달할 수 없다. 근본적으로 다른 종류의 계산 엔진이 필요하다.
네 번째 단계에서 이것을 AGI의 네 가지 조건과 연결할 수 있다.
조건 2인 인과 추론을 보자. 클래식 컴퓨터의 선형적 추론은 한 번에 하나의 인과 사슬만 따라간다. "A가 B를 일으키고, B가 C를 일으킨다."
하지만 현실의 인과관계는 복잡하다. A는 B도 일으키고 C도 일으킨다. B와 C는 서로 영향을 주고받는다. 수많은 가능한 인과 경로가 있다. 양자 중첩은 이 모든 가능성을 동시에 탐색하며, 그중 가장 설득력 있는 경로를 찾아낸다. 이것이 인간이 "아하!" 하는 순간의 메커니즘일 수 있다.
조건 3인 전이 학습도 마찬가지다. 진정한 창의적 유추는 무한한 연결 가능성을 동시에 고려하고 그중 깊은 구조적 유사성을 포착하는 과정이다. 양자 병렬성이 바로 이 '동시 탐색'을 가능하게 한다.
그리고 궁극적으로 조건 1인 범용성과 조건 4인 세계 모델까지, 양자적 사고방식이 진정한 범용성과 세계 이해의 토대가 된다는 것이 혁명론자들의 주장이다.
혁명론자들에게 5화에서 다룬 양자컴퓨팅 기술 발전은 단순한 '신기술' 소개가 아니다.
그것은 AGI로 가는 진짜 문을 여는 열쇠다.
구글의 Willow 칩, IBM의 양자 프로세서, IonQ의 갇힌 이온 시스템이 성숙하는 속도가 곧 AGI 도달 시점을 결정한다.
진화론자들이 클래식 인프라에 수천억 달러를 투자하는 동안, 혁명론자들은 양자컴퓨팅 기술이 '실용 임계점'을 넘는 시점을 주시한다.
그들의 예측은 진화론자들보다 더 보수적이다:
- 2025-2027년: 양자 오류 정정 기술 성숙
- 2027-2029년: 수천 큐비트 규모의 안정적 양자컴퓨터 등장
- 2029-2032년: 양자-클래식 하이브리드 AI 아키텍처 시작
- 2035년: 진정한 의미의 AGI 가능
진화론자들의 2030년보다 5년 늦다. 하지만 혁명론자들이 말하는 AGI는 '진짜' AGI다.
단순히 많은 영역의 패턴을 암기한 것이 아니라, 진정으로 이해하고 추론하고 창조하는 지능이다.
진화론자들의 데이터 전략에 대해서도 혁명론자들은 날카롭게 비판한다.
AI가 만든 데이터로 AI를 훈련하면 어떻게 될까?
옥스퍼드 대학의 2024년 연구는 '모델 붕괴(Model Collapse)'를 경고한다.
AI가 생성한 데이터로 다음 세대 AI를 훈련하면, 마치 복사기로 복사를 반복하듯 정보가 왜곡된다.
처음에는 괜찮아 보인다. 두 번째, 세 번째 세대도 작동한다. 하지만 계속 반복하면 다양성이 사라진다. 원본의 미묘한 뉘앙스가 점점 흐려진다.
결국 AI는 현실 세계가 아닌, AI가 만든 '환각'의 세계에 갇힌다.
근본 문제는 무엇인가?
합성 데이터는 '새로운 정보'가 아니다. 이미 학습한 데이터의 재조합일 뿐이다.
GPT-4가 만든 수학 문제는 아무리 많아도, GPT-4가 이미 알고 있던 패턴의 변형일 뿐이다. 진정으로 새로운 것은 아니다.
인간은 어떻게 학습하는가? 세상과 상호작용하며 진짜 새로운 경험을 쌓는다. 실험을 하고 실패한다. 예상치 못한 결과를 마주한다. 그 과정에서 기존 지식을 수정하고 확장한다. 합성 데이터로는 이것이 불가능하다.
혁명론자들의 최종 메시지는 절망적으로 들릴 수 있지만, 그들은 단호하다.
"당신들은 증기기관을 아무리 개선해도 제트엔진을 만들 수 없다. 클래식 컴퓨터를 아무리 크고 빠르게 만들어도, 그것은 여전히 클래식 컴퓨터일 뿐이다. AGI는 근본적으로 다른 종류의 엔진을 필요로 한다. 그 엔진이 바로 양자컴퓨터다. 양자컴퓨팅은 AGI의 선택사항이 아니라 필수조건이다."
두 진영의 논쟁은 팽팽하다.
진화론자들은 스케일링과 인프라 발전으로 2030년 AGI가 가능하다고 주장하고, 혁명론자들은 양자컴퓨팅 같은 근본적으로 다른 엔진이 필요하다고 반박한다.
하지만 이 논쟁을 지켜보며, 우리는 한 가지 중요한 질문을 던져야 한다.
"기술적 가능성과 실제 구현 사이에는 얼마나 큰 간극이 있는가?"
양측 모두 논리적으로 완벽해 보이지만, 역사는 우리에게 하나의 교훈을 반복적으로 가르쳐왔다.
아무리 화려한 기술적 비전도, 현실에서는 예상보다 훨씬 느리게 오거나, 완전히 다른 형태로 도착한다는 것이다.
이를 이해하기 위해, 우리는 불과 10년 전의 한 사례를 돌아볼 필요가 있다.
2010년대 중반, 자동차 업계와 ICT 기업들은 확신에 차 있었다.
GM, 포드, 도요타는 수십억 달러를 투자했고, 시스코, 에릭슨 같은 통신 기업들은 차량용 네트워크 장비를 개발했다. 정부들은 V2X(Vehicle-to-Everything) 표준을 제정했다.
그들이 약속한 2025년의 모습은 이랬다.
모든 차량이 인터넷에 연결되어 실시간 데이터를 주고받는다. 차량끼리 통신(V2V)하며 "저 앞에 급정거하는 차가 있습니다"라고 서로에게 경고한다. 도로 인프라와 차량이 소통(V2I)하며 신호등이 교통 흐름을 최적화한다.
이 모든 것이 5G 네트워크 위에서 작동하며 완전 자율주행의 토대가 된다. 기술적 로드맵은 명확했고, 프로토타입은 작동했으며, 표준은 제정되었다. "2025년 커넥티드 카 시대"는 확정된 미래처럼 보였다.
2025년 현재, 실제로 일어난 일은 무엇인가?
커넥티드 카는 사라지지 않았다. 하지만 약속된 모습으로 오지도 않았다.
V2V 통신은 극히 제한적으로만 구현되었다. 일부 프리미엄 차량에만 탑재되어 있다. "모든 차의 연결"이라는 비전은 '소프트웨어 중심 자동차(SDV)'라는 다른 형태로 진화했다. 차량 간 통신보다는 차량 내부의 소프트웨어 플랫폼화가 우선순위가 되었다.
5G 인프라는 2025년에도 여전히 구축 중이다. 자율주행은 커넥티드 카와는 별개의 경로로 발전했다.
기술은 준비되었지만, 기술만으로는 충분하지 않았다.
첫째, 5G 전국망 완성은 예상보다 5-10년 더 걸렸다. 기지국 하나하나를 세우는 물리적 작업은 알고리즘 개선처럼 빠르게 스케일 하지 않는다.
둘째, 유럽의 ITS-G5, 미국의 DSRC, 중국의 LTE-V2X가 서로 다른 길을 가면서 "모든 차의 연결"은 지역별로 파편화되었다.
셋째, 누가 V2X 인프라 비용을 부담하는가? 자동차 회사인가, 통신사인가, 정부인가? 이 질문에 대한 답이 나오지 않았다.
넷째, 업계가 전기차 전환과 배터리 기술에 자원을 집중하면서, 커넥티드 카는 후순위로 밀렸다.
다섯째, 운전자들은 "차량 간 통신"보다 "차 안에서 넷플릭스 보기"를 원했다.
이것은 무엇을 의미하는가? 커넥티드 카는 사라지지 않았다. 그것은 다른 형태로 진화하고 있다.
그 과정에서 개발된 기술들—차량 OS, OTA 업데이트, 텔레매틱스, 차량 데이터 플랫폼—은 SDV라는 새로운 패러다임으로 자동차 산업을 혁신하고 있다.
테슬라의 소프트웨어 업데이트, 현대차의 커넥티드 서비스는 모두 커넥티드 카 비전의 후예다.
단지 우리가 2015년에 상상했던 '모습'과 2025년의 '현실'이 다를 뿐이다.
커넥티드 카 사례에서 우리가 배워야 할 것은 단순히 "예측이 빗나갔다"가 아니다. 더 깊은 세 가지 교훈이 있다.
첫 번째 교훈: 기술이 예상과 다른 형태로 진화한다는 것이다. 커넥티드 카는 사라지지 않았다. 그것은 '소프트웨어 중심 자동차(SDV)'와 'V2X 통신'이라는 다른 형태로 진화했다. AGI도 마찬가지일 것이다. 우리가 상상하는 '인간과 똑같은 범용 AI'가 아닌, 우리가 아직 이름 붙이지 못한 새로운 형태의 지능일 수 있다.
두 번째 교훈: 인프라가 비전보다 느리게 따라온다는 것이다. 커넥티드 카의 청사진은 2015년에 완성되었지만, 5G 네트워크는 2025년에도 완전히 보편화되지 않았다. AGI도 알고리즘은 2027년에 준비될 수 있지만, 그것을 구현할 하드웨어(특히 양자컴퓨터)는 2035년까지 아니면 그 이후까지 기다려야 할 수 있다.
세 번째 교훈: 사회가 기술보다 느리게 변한다는 것이다. 기술적으로 가능해도, 규제, 윤리, 신뢰 문제로 도입이 지연된다. AGI가 2030년에 기술적으로 가능해도, 인류가 그것을 받아들일 준비가 되려면 10년이 더 필요할 수 있다.
AGI 역시 우리가 예상하는 모습 그대로 2030년에 도착하지 않을 가능성이 높다. 하지만 이것이 비관적 전망은 아니다. 커넥티드 카가 SDV라는 형태로 자동차 산업을 혁신하고 있듯, AGI를 향한 여정에서 탄생하는 수많은 기술들이 세상을 바꿀 것이다.
이제 우리는 중요한 통찰을 얻을 수 있다. 두 진영 모두 부분적으로 옳다는 것이다.
진화론자들이 옳은 부분은 분명하다. 스케일링이 실제로 놀라운 능력을 만들어낸다. 창발적 능력은 환상이 아니다. GPT-4가 보여준 성능 도약은 실재한다.
하지만 혁명론자들도 옳다. 이 능력들이 '진정한 지능'의 모든 측면을 아우르지는 못한다. ARC 테스트에서의 실패, 물리적 직관의 부재, 진정한 인과 추론의 결여는 부정할 수 없는 사실이다.
진실은 이것이다. AGI는 하나의 기술로 달성되지 않는다. 그것은 여러 접근법이 조화롭게 작동하는 '오케스트라'다. 각 악기가 자신의 역할을 하듯, 각 기술이 자신이 가장 잘하는 것을 해야 한다.
2030년의 AGI는 진화론자들이 꿈꾸는 단일 거대 모델이 아닐 것이다.
하나의 신경망이 모든 것을 한다는 아름다운 단순함은 현실에서 작동하지 않을 수 있다.
동시에 혁명론자들이 주장하는 완전히 새로운 엔진으로의 즉각적 전환도 아닐 것이다.
대신 계층적 하이브리드 시스템이 등장할 가능성이 높다.
첫 번째 레이어: 패턴 레이어
클래식 GPU에서 작동하는 거대 LLM이 방대한 지식과 언어 이해를 담당한다. 이것은 4화에서 본 진화한 인프라가 빛을 발하는 영역이다. GAA 트랜지스터, 3D 패키징, AI 공장이 이 레이어를 떠받친다. 여기서 텍스트, 이미지, 비디오의 패턴을 학습하고, 방대한 인류의 지식을 압축한다.
두 번째 레이어: 추론 레이어
기호 논리와 지식 그래프를 결합한 신경-기호 시스템이 인과 추론과 논리적 계획을 담당한다. "왜?"에 답하는 레이어다. 첫 번째 레이어가 "비가 오면 땅이 젖는다"는 상관관계를 학습했다면, 이 레이어는 "비가 땅을 적시는 원인"이라는 인과관계를 다룬다.
세 번째 레이어: 물리 레이어
로봇과 시뮬레이터를 통해 실제 세계와 상호작용하며 세계 모델을 구축하는 Embodied AI다. 센서 데이터와 물리 엔진이 핵심이다. 여기서 중력, 관성, 마찰을 학습이 아닌 경험으로 체득한다. 물건을 떨어뜨리고, 쌓고, 균형을 잡으며 물리 세계를 이해한다.
네 번째 레이어: 양자 레이어
창의적 탐색, 복잡한 최적화, 그리고 클래식으로는 불가능한 특정 계산을 담당한다. 5화에서 본 양자컴퓨팅이 '특수 부품'이 아닌 '핵심 모듈'로 작동한다. 진화론자들의 1% 보조 도구도 아니고, 혁명론자들의 100% 필수 엔진도 아닌, 그 중간 어딘가에서 자신의 역할을 한다.
각 레이어는 자신이 가장 잘하는 것을 하고, 이들이 유기적으로 협력한다.
마치 인간의 뇌가 시각 피질, 전두엽, 소뇌가 각자의 역할을 하며 협력하듯이 말이다.
완벽한 통합은 2030년에 이루어지지 않을 것이다. 하지만 그 원형은 나타날 것이다.
데이터 고갈 논쟁도 새로운 관점을 요구한다. 진화론자들의 합성 데이터 전략과 혁명론자들의 실제 상호작용 강조, 둘 다 필요하다. 이것은 타협이 아니라, 데이터 자체에 대한 개념의 확장이다.
합성 데이터는 훈련 초기 단계와 특수 영역에서 유효하다. 코딩 문제, 수학 문제처럼 명확한 정답이 있고 규칙이 명시적인 영역에서는 AI가 생성한 데이터도 충분히 가치 있다. 하지만 이것만으로는 부족하다는 것도 명백하다.
실제 상호작용 데이터가 필요하다. 로봇이 실제 환경에서 물건을 조작하며 생성하는 데이터, 자율주행차가 도로를 달리며 마주하는 예상치 못한 상황들, 게임 에이전트가 복잡한 전략 게임에서 인간과 대결하며 얻는 경험이다. 이것들은 합성할 수 없다. 세상이 직접 만들어내는 데이터다.
인간 피드백도 진화해야 한다. RLHF(Reinforcement Learning from Human Feedback)를 넘어, 인간-AI 협업에서 나오는 새로운 지식이 중요해진다. 의사가 AI와 함께 진단하며 발견하는 새로운 패턴, 과학자가 AI와 함께 연구하며 찾아내는 통찰이다. 이것은 기존 데이터의 재조합이 아니라, 진정으로 새로운 지식의 창조다.
과학 실험 데이터도 새로운 원천이다. AI가 직접 가설을 세우고 실험을 설계하여 새로운 지식을 창조한다. 이미 재료 과학 분야에서 AI가 새로운 화합물을 제안하고 실험실에서 합성하여 검증하는 일이 일어나고 있다. 이렇게 생성된 데이터는 인터넷에 없던 완전히 새로운 것이다.
데이터는 더 이상 '소비'되는 자원이 아니다. AI와 인간이 함께 '생산'하는 것으로 진화한다. 이것이 데이터 고갈 문제의 진정한 해법이다.
이 모든 것을 종합하면, 2030년에 우리가 마주할 것은 무엇일까?
시나리오 1: 전문 AGI (Narrow-General AI)
특정 영역에서는 AGI 수준의 능력을 보이지만, 진정한 범용성은 아직 달성하지 못한 시스템이다. 의학에서는 세계 최고 전문의를 능가하고, 법률에서는 대법관급 판단을 하며, 과학 연구에서는 노벨상감 통찰을 제시한다. 50개, 아니 100개의 전문 영역에서 인간 전문가를 능가한다. 하지만 완전히 새로운 영역, 인류가 한 번도 마주하지 않은 종류의 문제 앞에서는 여전히 취약하다.
시나리오 2: 하이브리드 AGI의 프로토타입
위에서 설명한 4 계층 시스템의 초기 버전이다. 각 레이어가 작동한다. 패턴 레이어는 인상적이고, 추론 레이어도 때로는 훌륭하다. 물리 레이어는 아직 투박하지만 작동하고, 양자 레이어는 특정 문제에서 마법 같은 성능을 보인다. 하지만 레이어 간 통합이 아직 완벽하지 않다. 때로는 놀라운 지능을 보인다. 인간이 수십 년 걸릴 문제를 몇 시간 만에 푼다. 하지만 때로는 어처구니없는 실수를 한다. 초등학생도 알 법한 상식을 놓친다. 마치 '어린 AGI', 아직 성숙하지 않은 지능이다.
가능성이 가장 높은 것은 두 시나리오의 중간 어딘가다. 완벽한 AGI도, 완전한 실패도 아닌, 그 사이의 어떤 것이다. 하지만 그것이 세상을 바꿀 것임은 확실하다.
이 논쟁의 과정에서, 우리는 더 근본적인 질문들을 마주하게 된다. 이 질문들은 기술적 논쟁을 넘어 철학의 영역으로 들어간다.
첫 번째 질문: 우리는 정말 인간과 '똑같은' 지능을 원하는가?
AGI를 인간 지능의 복제로 정의하는 것 자체가 잘못된 목표일 수 있다. 역사를 돌아보자. 인간은 새가 나는 것을 보고 하늘을 날고 싶어 했다. 처음에는 날개를 만들어 팔랑거렸다. 실패했다. 그러다 깨달았다.
비행기는 새처럼 날개를 퍼덕이지 않는다. 하지만 새보다 더 빠르게, 더 높이 난다. 완전히 다른 원리로 같은 목적을 달성한 것이다. AGI도 마찬가지일 수 있다.
인간과 다른 방식으로 작동하지만, 인간보다 더 유용한 새로운 종류의 지능이 가능할 수 있다.
두 번째 질문: 지능은 정말 단일한 개념인가?
인간의 지능도 하나가 아니다. 논리 지능이 있고, 감성 지능이 있고, 공간 지능이 있고, 사회 지능이 있다. 어떤 사람은 수학을 잘하고, 어떤 사람은 음악에 천재적이며, 어떤 사람은 사람들의 감정을 읽는 데 뛰어나다.
AGI를 하나의 척도로 측정하려는 시도 자체가 환원주의일 수 있다. 어쩌면 우리에게 필요한 것은 '일반' 지능이 아니라, 각자 특화된 여러 지능들의 생태계일 수도 있다.
세 번째 질문: 의식은 지능의 필수 조건인가?
이 긴 논쟁에서 두 진영 모두 '의식'에 대해서는 거의 언급하지 않았다. 그들은 능력에 초점을 맞췄다. 문제를 풀 수 있는가, 추론할 수 있는가, 학습할 수 있는가 말이다.
하지만 철학자들은 묻는다. 의식 없는 지능이 진정한 AGI인가?
스스로를 인식하지 못하는 존재가, 고통과 기쁨을 느끼지 못하는 존재가, '나'라는 주체성이 없는 존재가, 진정으로 일반적인 지능을 가졌다고 말할 수 있는가? 아니면 의식이야말로 진정한 일반 지능의 핵심인가?
이 질문에 대한 답은 아직 없다.
하지만 역사는 우리에게 또 다른 교훈을 준다.
진짜 혁신은 종종 예상치 못한 곳에서 온다는 것이다.
트랜스포머 아키텍처를 생각해 보자. 2017년 구글 연구팀이 "Attention is All You Need"라는 논문을 발표하기 전까지, 아무도 그것이 AI를 완전히 바꿀 거라고 예상하지 못했다. 당시 AI 커뮤니티는 RNN, LSTM 같은 기존 아키텍처를 개선하는 데 집중하고 있었다. 그런데 갑자기 완전히 다른 접근법이 나타나 게임의 판을 바꿨다.
AGI도 마찬가지일 수 있다. 우리가 지금 논쟁하는 진화론과 혁명론, 스케일링과 양자컴퓨팅 사이의 어딘가가 아니라, 완전히 다른 곳에서 답이 나올 수 있다.
뇌-컴퓨터 인터페이스의 역설
뉴럴링크 같은 BCI(Brain-Computer Interface) 기술은 흥미로운 역발상을 제시한다.
"AI를 인간처럼 만들지 말고, 인간을 디지털화하자." 만약 인간의 뇌를 직접 컴퓨터에 연결하거나, 더 나아가 인간의 의식을 디지털로 '업로드'할 수 있다면?
이것은 AGI를 '만드는' 것이 아니라 '복사하는' 접근법이다.
뇌의 작동 원리를 완전히 이해하지 못해도, 뇌 자체를 디지털 기판으로 옮기는 것이다.
현재 기술로는 공상과학처럼 들리지만, BCI 기술은 놀라운 속도로 발전하고 있다. 마비 환자가 생각만으로 로봇 팔을 움직이고, 시각 장애인이 뇌에 이식된 칩으로 '본다'.
합성 생물학: 살아있는 컴퓨터
더 급진적인 가능성도 있다. 실리콘 칩도, 양자 큐비트도 아닌, 살아있는 뉴런으로 만든 컴퓨터다.
2024년 스위스 연구팀은 실제 인간 뇌세포를 배양하여 간단한 계산을 수행하는 '바이오컴퓨터'를 만들었다.
이것은 시뮬레이션이 아니다. 진짜 뉴런이 진짜로 학습하고 기억하는 것이다.
DNA 컴퓨팅과 합성 생물학이 발전하면, 우리는 '성장하는' AI를 만들 수 있을지도 모른다. 프로그래밍하는 것이 아니라 '키우는' 지능 말이다.
집단 지능: 사회로서의 AGI
우리는 지능을 하나의 거대한 뇌로 상상한다.
하지만 개미 군집을 보자. 한 마리의 개미는 멍청하다. 하지만 수백만 마리가 모이면 놀라운 '집단 지능'이 출현한다. 복잡한 도시를 건설하고, 농사를 짓고, 전쟁을 수행한다.
어떤 개미도 전체 계획을 알지 못하지만, 전체는 마치 하나의 초유기체처럼 행동한다.
AGI도 이런 방식일 수 있다. 하나의 거대한 모델이 아니라, 수백만 개의 작은 AI들이 네트워크로 연결되어 협력하는 것이다. 각자는 단순하지만, 전체는 놀라운 지능을 보인다. 블록체인처럼 분산되고, 개미처럼 자율적이며, 뇌처럼 창발적인 시스템 말이다.
의식 연구의 돌파구
가장 근본적인 질문으로 돌아가보자. 의식이란 무엇인가? 만약 의식의 본질을 정량적으로 이해하게 된다면, AGI는 저절로 따라올 수 있다.
통합정보이론(IIT), 전역작업공간이론(GWT) 같은 의식 이론들이 성숙하면, 우리는 '의식 측정기'를 만들 수 있을지도 모른다. 그리고 그것으로 AI의 의식 수준을 측정하고 조절할 수 있게 될 것이다. 지능의 알고리즘이 아니라 의식의 공학이 AGI의 열쇠일 수 있다.
완전히 새로운 수학
1936년 앨런 튜링이 '계산 가능성'의 수학적 토대를 만들었을 때, 그것이 70년 후 스마트폰을 만들 거라고 누가 예상했을까? 수학적 돌파구는 예상치 못한 기술 혁명을 만든다.
어쩌면 우리에게 필요한 것은 완전히 새로운 수학적 프레임워크일지도 모른다.
범주론, 위상수학, 혹은 아직 발견되지 않은 수학 분야에서 나올 통찰이 AGI의 문을 열 수 있다.
트랜스포머가 그랬듯, 누군가의 논문 한 편이 모든 것을 바꿀 수 있다.
겸손의 필요성
이 모든 가능성이 우리에게 상기시키는 것은 하나다. 우리는 아직 모른다는 것이다.
진화론자들은 확신에 차 있고, 혁명론자들도 확신에 차 있다. 하지만 역사는 확신에 찬 예측이 틀리는 것을 반복적으로 보여줬다.
AGI는 우리가 지금 논쟁하는 두 길 중 하나가 아니라, 완전히 다른 제3의 길에서 올 수 있다.
그리고 그것이 좋다. 답을 다 안다면 탐험할 필요가 없다. 미지가 있기에 발견이 있고, 불확실성이 있기에 혁신이 있다.
2030년까지 AGI가 가능한가?
이 글을 마치며, 우리는 이 질문이 어쩌면 잘못된 질문일 수 있음을 깨닫는다. 더 정확한 질문은 이것이다.
"2030년까지 우리는 지능의 본질에 대해 무엇을 새로 이해하게 될 것인가?"
진화론자들은 계속해서 스케일링과 엔지니어링의 힘을 보여줄 것이다.
AI의 능력은 계속 확장될 것이다.
4화에서 본 인프라의 진화는 이를 뒷받침한다. GAA 트랜지스터가 무어의 법칙에 새로운 생명을 불어넣고, AI 공장이 계속 지어지며, 더 크고 더 강력한 모델들이 등장할 것이다. 그들은 멈추지 않을 것이다.
혁명론자들도 계속해서 현재 접근법의 한계를 지적하며, 새로운 패러다임의 필요성을 환기할 것이다.
5화에서 본 양자컴퓨팅은 그 가능성을 열어준다. 큐비트의 수가 늘어나고, 오류율이 낮아지며, 실용적 양자컴퓨터가 점점 현실에 가까워진다. 그들도 멈추지 않을 것이다.
두 진영의 경쟁은 AI를 더 빠르게 발전시킬 것이다. 진화론자들이 클래식 인프라의 한계를 극복하며 기존 접근법의 잠재력을 최대한 끌어내는 동안, 혁명론자들은 양자컴퓨팅과 새로운 아키텍처로 미래를 준비한다. 그리고 그 사이 어딘가에서, 아마도 우리가 예상하지 못한 방식으로, 두 접근법이 만나 융합될 것이다.
AGI는 어쩌면 도착지가 아니라 여정 자체일 수 있다. 이 여정의 과정에서 우리는 이미 많은 것을 얻었다. 의학에서 AlphaFold가 단백질 구조를 예측하며 신약 개발을 가속화했다. 과학에서 AI가 새로운 재료를 발견하고 있다. 예술에서 AI가 새로운 창작의 도구가 되고 있다. AGI를 향한 여정에서 탄생하는 수많은 기술들이 이미 세상을 바꾸고 있다.
그리고 가장 중요한 것은, 이 여정을 통해 우리 자신—인간의 지능—에 대해 더 깊이 이해하게 될 것이다.
AI를 만들려는 시도는 결국 거울이다. 그 안에서 우리는 우리 자신을 본다.
지능이란 무엇인가, 의식이란 무엇인가, 창의성이란 무엇인가?
AI를 정의하려는 노력은 결국 인간을 정의하려는 노력이다.
우리는 어떤 종류의 지능을 만들 것인가? 인류 지식의 총합을 복제하는 '진화의 산물'인가, 아니면 세상과 상호작용하며 새로운 지식을 창조하는 '혁명의 산물'인가? 어쩌면 둘 다일 수도 있다.
이 질문에 대한 답이 AGI의 미래를 결정할 것이다. 그리고 그 미래에서 인간의 역할은 무엇인가?
우리는 AI의 창조자인가, 협력자인가, 아니면 진화의 다음 단계를 위한 디딤돌인가?
이 질문들은 여전히 열려 있다. 그리고 그것이 좋다.
답이 정해진 미래보다, 우리가 함께 만들어가는 미래가 훨씬 더 흥미롭기 때문이다.
[시리즈를 마치며]
긴 여정이었다.
이 시리즈는 왜 AI 데이터센터의 규모는 계속 커지는데 알고리즘의 효율화, 데이터센터와 인프라의 발전과 관련된 진보에 대해서는 사람들이 관심을 가지지 않는지 문득 의문이 들어 리서치를 시작하면서 시작되었다.
결국 AI와 관련된 기술의 발전은 AGI를 향할 것이라는 생각이 들어 쉽지 않은 이 내용을 공부하며 이 시리즈를 어렵게 끌어 왔다. 개인적으로 나름 긴 여정이었다.
시리즈가 진행하면서 우리는 알고리즘의 진화를 탐사했고, 클래식 인프라의 한계 돌파를 목격했으며, 양자컴퓨팅의 가능성을 엿보았다. 그리고 AGI를 향한 두 개의 시선—진화론과 혁명론—의 치열한 논쟁을 들었다.
2030년에 무엇이 도착할지 우리는 정확히 알 수 없다. 하지만 한 가지는 확실하다. 그 여정 자체가 이미 세상을 바꾸고 있다는 것이다. 그리고 우리 모두가 그 여정의 일부라는 것이다.
AI의 미래를 만드는 것은 연구실의 과학자들만이 아니다. 이 기술을 어떻게 사용할지, 어떤 문제에 적용할지, 어떤 가치를 추구할지 결정하는 우리 모두이다.
진화론자들과 혁명론자들의 논쟁은 끝나지 않았다. 그들은 지금 이 순간에도 각자의 길을 향해 전진하고 있다. 그 경쟁이, 그 긴장이, AI를 더 빠르게, 더 멀리 나아가게 할 것이다.
우리는 역사의 목격자이자 참여자다. 2030년, 그리고 그 너머에서 무엇을 만날지 함께 지켜보자.