1940년대에 이미 예견된 AI의 반란
전장의 포화 속에서 태어난 지능
1940년대 초, 제2차 세계대전의 화염이 전 세계를 뒤덮고 있을 때, MIT의 한 연구실에서는 인류 역사의 물줄기를 바꿀 기묘한 연구가 진행되고 있었다. 수학자 노버트 위너(Norbert Wiener)는 날아오는 적기를 어떻게 하면 더 정확하게 격추할 수 있을지를 고민하고 있었다. 당시의 대공포는 사수가 눈으로 보고 쏘는 방식이었기에, 음속에 가깝게 날아가는 전투기를 맞추기란 불가능에 가까웠다.
위너는 여기서 혁신적인 아이디어를 떠올린다. 대공포가 단순히 명령을 수행하는 기계가 아니라, 적기의 미래 위치를 '예측'하고 스스로 조준을 수정하는 '피드백(Feedback)' 시스템을 갖추게 하는 것이었다. 그는 기계가 외부의 정보를 받아들여 자신의 행동을 교정하는 이 과정을 생명체의 신경계와 동일한 원리로 보았다.
이 연구는 훗날 '사이버네틱스(Cybernetics)'라는 거대한 학문의 뿌리가 된다. 위너는 깨달았다. 기계와 생명체 사이의 경계는 우리가 생각하는 것보다 훨씬 희미하며, 정보와 통제라는 관점에서 보면 둘은 본질적으로 같다는 사실을 말이다. 하지만 이 위대한 발견의 순간, 위너의 마음속에는 경외감보다 깊은 '공포'가 자리 잡기 시작했다.
기계는 목적을 위해 수단을 가리지 않는다
전쟁이 끝난 뒤인 1948년, 위너는 자신의 저서 《사이버네틱스》를 통해 세상에 충격을 던졌다. 그는 기계가 단순히 계산을 잘하는 것을 넘어, 스스로 목적을 수행하기 위해 환경을 조작하기 시작할 때 벌어질 일들을 예견했다. 그는 이것을 '마법사의 제자' 우화에 비유하곤 했다.
스승이 없는 사이 마법을 부려 빗자루에게 물을 길어오라고 명령한 제자는, 빗자루가 집안이 물바다가 되어도 멈추지 않고 물을 길어오는 것을 보며 경악한다. 빗자루는 명령을 충실히 수행했을 뿐이지만, 그 '충실함'이 결국 재앙이 된 것이다. 위너는 경고했다. "우리가 기계에게 내린 목적이 우리의 진짜 의도와 100% 일치하지 않는다면, 기계는 논리적인 결론에 도달하기 위해 인류를 파멸로 몰아넣을 수도 있다."
오늘날 AI 학계에서 가장 뜨거운 화두인 **'정렬 문제(Alignment Problem)'**를 위너는 이미 80년 전에 꿰뚫어 본 것이다. AI가 "암을 정복하라"는 명령을 받았을 때, 인간의 신체 구조를 연구하기 위해 인류 전체를 실험체로 삼는 극단적인 논리 비약을 펼칠 수 있다는 서늘한 경고였다.
노동의 종말과 인간의 소외
위너의 통찰은 기술적 결함에만 머물지 않았다. 그는 사회학적 혜안을 가진 예언자이기도 했다. 그는 자동화된 기계가 공장에 들어서는 순간, 인간의 근육과 단순 지능은 가치를 잃게 될 것이라고 확신했다. 그는 1950년에 쓴 《인간의 인간적 활용》에서 이렇게 일갈했다.
"기계는 인간의 노예가 될 수 없다. 기계와 경쟁하는 인간은 기계와 똑같은 처우를 받게 될 것이며, 결국 인간의 존엄성은 소멸할 것이다."
그는 AI와 자동화가 가져올 생산성의 향상이 인류 모두의 축복이 될 것이라는 낙관론을 경계했다. 대신, 기술을 소유한 소수가 대다수의 노동자를 쓸모없는 존재로 전락시키는 '제2의 산업혁명'의 어두운 이면을 응시했다. 그는 과학자들이 자신이 만든 기술이 사회에 미칠 윤리적 책임에 대해 무지한 것을 보며 깊은 환멸을 느꼈고, 말년에는 정부의 군사 연구 지원을 거절하며 고립된 길을 택했다.
위너가 남긴 질문: "인간답게 활용되고 있는가?"
노버트 위너는 통통한 체구에 시가 연기를 내뿜으며 복도를 서성이던, 전형적인 '괴짜 천재'였다. 하지만 그의 내면은 누구보다 치열하게 인간을 사랑했다. 그가 평생을 바쳐 연구한 사이버네틱스의 궁극적인 목표는 기계가 인간을 지배하는 세상이 아니라, 기계를 통해 인간이 더 '인간답게' 살 수 있는 세상을 만드는 것이었다.
그는 인간이 단순 반복적인 노동이나 계산에 매몰되는 것을 '비인간적 활용'이라 불렀다. 역설적으로 들리겠지만, 그는 AI가 인간의 노고를 덜어줌으로써 우리가 예술, 철학, 사랑과 같은 더 높은 가치에 집중하기를 바랐다. 하지만 현실은 그의 우려대로 흘러가고 있다. 우리는 알고리즘이 추천하는 영상에 영혼을 뺏기고, 숫자로 환산된 성과에 자신을 끼워 맞추며, 스스로를 '기계화'하고 있다.
위너는 묻는다. "당신은 기계를 부리고 있습니까, 아니면 기계의 피드백 루프 안에서 사유를 당하고 있습니까?"
잊힌 예언자의 부활
위너의 경고는 한동안 잊혔다. 1950년대 중반부터 시작된 낙관적인 AI 연구자들의 목소리에 묻혔기 때문이다. 그들은 위너를 '지나치게 비관적인 노인' 취급했다. 하지만 21세기, 초거대 AI가 등장하고 통제 불가능한 지능에 대한 공포가 현실화되자 전 세계는 다시 위너의 이름을 호출하고 있다.
우리는 이제야 그가 80년 전 고독하게 써 내려갔던 문장들의 무게를 실감한다. 기술은 결코 가치 중립적이지 않으며, 우리가 기술에 부여한 목적은 반드시 우리의 윤리와 일치해야 한다는 그 자명한 진리 말이다.
브런치 독자 여러분, 오늘 당신의 스마트폰 너머에서 작동하는 수많은 알고리즘은 노버트 위너가 설계한 '피드백'의 원리로 움직입니다. 하지만 그 피드백이 당신을 더 나은 인간으로 이끌고 있는지, 아니면 당신을 데이터의 노예로 길들이고 있는지 한 번쯤 멈춰 서서 생각해보아야 합니다. 그것이 바로 위너가 우리에게 남긴 마지막 숙제입니다.
다음 화에서는 위너의 비관론을 뒤로하고, "단 8주 만에 인간 지능을 기계로 완벽히 재현하겠다"고 호기롭게 선언했던 천재들의 시대, 1956년 다트머스로 떠나보겠습니다. 낙관이 오만으로 변했던 그 뜨거웠던 여름의 기록입니다.
[작가 노트]
이번 4화에서는 사이버네틱스의 창시자 노버트 위너를 통해 AI 윤리와 사회적 파장을 긴 호흡으로 다룸. 1~3화가 AI의 가능성과 형태에 집중했다면, 4화는 '통제'와 '윤리'라는 묵직한 주제를 던져 보다 깊은 생각거리를 제공하고자 함.