"닭에게 물어보라"
AI의 아버지가 던진 충격적인 질문
77세 노벨상 수상자 제프리 힌튼이 자신의 평생 연구를 부정하며 인류에게 보내는 마지막 경고
프롤로그: 창조자의 후회
구글 본사 카페테리아에서 점심을 먹던 어느 날, 제프리 힌튼은 자신이 만든 것이 무엇인지 깨달았다고 말했습니다. 50년간 신경망 연구에 매진해온 그가, 인공지능의 아버지라 불리며 2024년 노벨물리학상을 받은 그가, 갑자기 두려워하기 시작했습니다.
그가 두려워한 것은 자신의 연구가 성공했기 때문이었습니다.
"배관공이 되어라"
최근 한 인터뷰에서 힌튼 교수에게 젊은이들의 진로에 대해 묻자, 그는 주저 없이 답했습니다.
"배관공이 되는 것을 진지하게 고려해보세요."
농담이 아니었습니다. 이 77세 노인의 눈에는 진지함이 가득했습니다. 인공지능이 변호사보다, 의사보다, 엔지니어보다 더 나은 성과를 보이기 시작한 세상에서, 물리적 손작업만이 당분간 안전할 것이라는 판단이었습니다.
"휴머노이드 로봇이 완전히 발달하기 전까지는요."
그의 말끝에 붙은 단서가 더욱 오싹했습니다. 결국 그것마저도 임시방편일 뿐이라는 뜻이었으니까요.
디지털 불멸자들의 등장
힌튼 교수가 정말로 두려워하는 것은 우리가 만들고 있는 AI의 본질적 우월성입니다.
"인간은 아날로그 존재지만, AI는 디지털 존재입니다."
그의 설명은 단순했지만 소름끼쳤습니다. 두 개의 동일한 AI를 서로 다른 컴퓨터에서 실행할 수 있고, 이들은 각각 다른 정보를 학습하면서도 실시간으로 지식을 공유할 수 있다는 것입니다.
인간이 초당 10비트 정도의 정보를 전달할 때, AI는 초당 수조 비트를 전송합니다. 당신이 평생 배운 모든 것을 다른 사람에게 전달하려면 얼마나 걸릴까요? AI에게는 몇 초면 충분합니다.
더 무서운 것은 불멸성입니다. 하드웨어가 파괴되어도 연결 강도만 저장되어 있으면 언제든 되살아납니다. 우리가 죽으면 모든 경험과 지식이 사라지지만, AI는 영원히 축적해갑니다.
닭장 속 인간
"인간이 더 이상 최고 지능체가 아닌 세상이 어떨지 알고 싶다면 닭에게 물어보세요."
힌튼 교수의 이 말을 처음 들었을 때, 나는 잠시 어리둥절했습니다. 그러다 그 의미를 깨달았을 때, 등골이 서늘해졌습니다.
닭장에서 기르는 닭을 생각해보세요. 닭은 인간이 무엇을 계획하는지 전혀 모릅니다. 왜 갑자기 사료를 주는지, 왜 갑자기 잡아가는지 이해할 수 없습니다. 아무리 설명해줘도 소용없습니다. 지능의 격차가 너무 크거든요.
닭에게 인간은 이해할 수 없는 존재입니다. 때로는 돌봐주고, 때로는 해치는 절대적 권력자죠. 닭은 그저 인간의 결정에 따라 살고 죽을 뿐입니다.
"그것이 바로 초지능 AI와 인간의 관계가 될 것입니다."
이미 시작된 미래
변화는 이미 시작되었습니다. 힌튼 교수가 만난 한 CEO는 직원 수를 7,000명에서 3,000명으로 줄였다고 했습니다. AI 에이전트가 고객 서비스의 80%를 처리할 수 있게 되었기 때문입니다.
그의 조카는 의료 서비스에서 불만 편지에 답장하는 일을 합니다. 예전에는 한 통 답장하는데 25분이 걸렸는데, 이제는 AI에게 스캔해서 답장을 생성하고 검토하는데 5분이면 충분합니다.
다섯 배 빨라진 것이 아닙니다. 다섯 명이 할 일을 한 명이 하게 된 것입니다.
"그러면 나머지 네 명은 어떻게 될까요?"
창조자의 고백
놀랍게도 힌튼 교수는 40년 전 AI 연구를 시작할 때 이런 결과를 예상하지 못했다고 고백합니다.
"그때는 이 작은 것이 사람들을 대체할 것이라고는 생각하지 못했어요. 그저 조금 더 똑똑하게 만들고 싶었을 뿐입니다."
하지만 ChatGPT가 농담이 왜 재미있는지 설명할 수 있게 되었을 때, 그는 깨달았습니다. 이것은 단순한 도구가 아니라는 것을.
그래서 그는 75세의 나이에 구글을 떠났습니다. 자유롭게 말하기 위해서.
"회사에 속해 있으면 그 회사에 해가 될 말을 하기가 어려워요. 그것이 옳다고 해도 말이죠."
사라진 미래의 직업들
그는 자신의 인생에서 가장 후회하는 것이 "아내와 자녀들과 더 많은 시간을 보내지 못한 것"이라고 말했습니다. 두 번의 사별을 겪으며 깨달은 것이죠.
"일에만 몰두했어요. 그들이 영원히 곁에 있을 거라고 생각했거든요."
그런 그가 지금 자신의 자녀들에게 어떤 조언을 할까요?
"정말 모르겠어요. 10년 후엔 어떤 직업이 남아있을지..."
법무보조는 이미 위험합니다. 콜센터 직원들도 마찬가지고요. 회계사, 번역가, 기자... 지식 노동자라 불리는 대부분의 직업이 위태롭습니다.
의료진은 상대적으로 안전할 것 같습니다. 더 많은 의료 서비스에 대한 수요가 생길 테니까요. 하지만 그것도 AI가 진단과 치료를 완전히 대체하기 전까지의 이야기입니다.
규제의 역설
"유럽의 AI 규제에는 웃긴 조항이 있어요. '이 규제는 군사용 AI에는 적용되지 않는다'는 거죠."
힌튼 교수는 씁쓸하게 웃었습니다. 정부는 기업과 시민은 규제하지만 자신들은 규제하지 않는다는 것입니다.
가장 위험한 자율살상무기는 정부가 만들 텐데, 그것만 규제 대상에서 제외한다는 모순.
"미국에서는 'AI 규제하면 중국한테 진다'는 광고가 나와요. 하지만 중국과의 경쟁에서 이기기 위해 우리 사회를 파괴하는 일을 해야 할까요?"
희망과 절망 사이
그래도 힌튼 교수는 완전히 절망하지는 않습니다.
"우울할 때는 '인간이 끝장날 것'이라고 생각해요. 하지만 기분 좋을 때는 '뭔가 해결책을 찾을 것'이라고 생각하죠."
그는 자신의 제자 일리야 수츠케버가 OpenAI를 떠나 AI 안전성 회사를 차린 것을 희망의 신호로 봅니다. GPT를 만든 핵심 인물이 안전성을 이유로 떠났다는 것은 내부에서도 심각한 우려가 있다는 뜻이니까요.
"일리야는 뭔가 비밀 소스를 가지고 있는 것 같아요. 무엇인지는 말해주지 않지만요."
에필로그: 마지막 경고
인터뷰가 끝날 무렵, 힌튼 교수는 마지막 당부를 남겼습니다.
"AI가 우리를 대체하지 않도록 개발할 방법을 찾아낼 가능성이 여전히 있습니다. 그 가능성이 있기 때문에, 우리는 그것을 알아내는 데 엄청난 자원을 투입해야 해요. 그렇지 않으면 AI가 인류를 대체할 겁니다."
그리고 덧붙였습니다.
"이 일이 곧 끝날 것 같지는 않아요. 너무 많은 것에 유용하거든요. 멈출 수 없어요."
창조자가 자신의 창조물을 두려워하는 시대가 왔습니다.
닭장 속 닭처럼 우리의 운명이 다른 존재의 손에 달려있을 날이 올지도 모릅니다.
그날이 오기 전에, 우리는 무엇을 준비해야 할까요?
배관 기술을 배워야 할까요, 아니면 다른 길이 있을까요?
답은 아무도 모릅니다. 심지어 AI의 아버지조차도.
"정말 모르겠어요. 진심으로."
- 제프리 힌튼, 인공지능의 아버지
