AI가 만드는 디스토피아

판도라의 상자를 열다

과학자들은 또다시 판도라의 상자를 열었다. AI의 발전 속도가 인간의 예상을 추월해 버렸다. 인류는 지금 디스토피아로 가는 문 앞에 서있다. 2025년은 새로운 시간선의 분기점이 됐다. 우리는 AI를 제어할 방법을 잃었다. 중국은 외부 개입 없이 스스로 학습하고 오류를 개선하는 자기 개선형 AI 모델을 실험하고 있다.

딥시크의 차세대 모델인 GRM은 자기 원칙적 비판 조정(SPCT)이라는 알고리즘을 적용했다. 내부의 판단 체계가 작동하면서 능동 학습을 수행하고 문제를 해결한다. 인간의 피드백은 필요 없다. 초기 단계의 자가개선 기술이지만 기술발전이 상상이상으로 빨라졌다.

생성형 AI R1을 내놓은 지 불과 반년 만에 벌써 여기까지 왔다. 올봄 메타는 딥시크의 우수성을 인정하고 대응 팀을 가동 중이라고 밝혔다. 그리고 최근 세계 최고의 AI인재들을 모아서 슈퍼인텔리전스랩을 출범시켰다. 미국과 중국은 AI를 두고 총력전을 벌이는 중이다. 수단과 방법이 무엇이든지 정당화할 수 있다.

결과가 곧 면죄부다. 경쟁은 무제한 치킨게임으로 돌변했다. 브레이크를 떼어낸 F1 머신은 바퀴가 녹아내릴 때까지 가속한다. 개방형 모델과 폐쇄형 모델의 AI 생태계에 자기 개선 알고리즘이 맞물려 들어가면서 변화가 나타났다. 구글 딥마인드가 개발한 알파이볼브는 재귀적 자기 개선 역량을 강화한 AI 모델이다.

제미나이가 알고리즘을 생성하면 결과물을 평가하고 문제점을 개선한다. 해법을 도출하고 재적용해서 오차율을 줄이고 답변의 정확성을 끌어올린다. AI는 인간의 개입이나 제재 없이 스스로 판단하고 학습하면서 독자적인 세계를 갖게 됐다. 0과 1 사이에 존재하는 전자의 영역은 인간의 손이 닿지 않는 곳이다.

어떤 방식으로 AI가 개선되는지 이제 더는 알 수 없게 됐다. 모든 과정을 명명백백하게 분석할 수 있었지만 지금은 결과와 과정 사이의 변수를 파악하기 힘들다. 인간이 AI를 관찰하는 입장에서 AI가 인간을 관측하는 입장이 됐다. 수십억 명의 사람들이 온라인 공간에 쏟아내는 데이터와 트래픽은 강화 학습의 먹이다.