AI는 제2의 맨하탄 프로젝트(핵무기 개발)가 될까?
샘 울트먼: 내가 뭘 한거지?
굿모닝 마이 브랜드, 브랜드 비즈니스 이야기를 고등학생도 이해할 만큼 쉽게! 5분이면 끝
굿마브 아침 뉴스레터 구독하기-> https://gmmbrand.stibee.com/
아티클 세줄 요약
AI는 편리함을 넘어, 과학자들조차 핵무기 개발 시절의 공포를 떠올릴 만큼 예측 불가능한 위협으로 다가오고 있어.
샘 올트먼, 데미스 허사비스, MIT 학자들까지 “AI가 인간 통제를 벗어나고 있다”고 경고하며, 자기개선·자율성 징후는 이미 나타나기 시작했지.
핵무기 때보다 훨씬 추측 불가능한 AI의 속도와 부작용 앞에서, 인류는 아직 준비가 안 된 채 새로운 시대의 문을 열고 있어.
AI는 제2의 맨해튼 프로젝트가 될까?
이 글을 읽고 있는 동안, 네가 보는 모든 게 AI 때문에 바뀔 수 있다는 생각 해본 적 있어? 요즘만 봐도 뉴스, 인터넷, 유튜브, 학교 수업까지 AI 얘기로 가득한데, 분위기가 예전이랑 완전 달라졌어. 예전엔 ‘AI가 진짜 편리하다’, ‘최첨단이다’는 반응이 많았잖아. 그런데 지금은 “이거 혹시 위험한 거 아냐?”, “우리가 통제 못 하면 어쩌지?” 이런 걱정이 더 커졌어. 그냥 누가 억지로 만든 공포가 아니라, 오픈AI 샘 올트먼, 구글 딥마인드 데미스 허사비스, MIT 맥스 테그마크처럼 세계적으로 진짜 잘나가는 AI 전문가들이 직접 나서서 “이번엔 진짜 조심해야 한다”고 경고하는 거야. 기술 자랑하는 수준이 아니라, 인류의 미래까지 걱정하게 만들 정도로 급박해진 거지.
AI의 ‘혼자 성장’ 조짐
AI는 원래 우리가 시키는 대로만 일하는 존재였어. 코드 짜주고, 데이터 넣어주면 그걸로 학습하는, 뭔가 우리가 억지로 발전시키는 느낌이었잖아. 그러다 요즘 들어선, AI가 스스로 더 똑똑해지려고 ‘자기개선’의 움직임을 보인다는 얘기가 많아져. 마크 저커버그도 “우리 AI가 혼자 성능을 높이려는 조짐이 보인다”고 밝혔어. 아직은 완전히 알아서 판단해서 뭔가 자기주장을 하는 수준까지는 아니지만, 그래도 이런 변화가 있다는 것만으로도 충분히 놀라운 일이야.
샘 올트먼(오픈AI CEO): “우리가 뭘 한 거지?”
그런데 이 문제의 진짜 무게감을 느끼게 해주는 건, 바로 샘 올트먼(오픈AI CEO)의 솔직한 고백이야. 얼마 전 팟캐스트에서 그는 “우리가 뭘 한 거지?”라는 말을 직접 꺼냈어. GPT-5 같은 차세대 AI를 직접 써보다가 툭 하고 나온 얘기라서 더 현실감 있게 느껴져. 그는 “이렇게 빨라지고 강해지는 게 진짜 놀랍고, 솔직히 좀 무섭기도 하다”며, “과학 역사에도 과학자들이 자기 창조물을 바라보면서 ‘우리가 뭘 한 거지?’라고 했던 순간들이 있었다. 지금 딱 그런 느낌이다.”라고 말했어. 누구보다 진보를 이룬 주역이, 정작 성과를 두고 두려움까지 드러내는 이 상황이 뭔가 묘하게… 불안하게 와닿아.
AI는 제2의 맨하탄 프로젝트(핵무기 개발)가 될까?
더 무서운 건, 올트먼이 아예 이 상황을 ‘맨해튼 프로젝트’에 빗대면서 “혹시 우리도 지금 위험한 걸 만들고 있는 건 아닐까?”라고 털어놨다는 거야. 맨해튼 프로젝트, 그러니까 핵무기 개발은 인류 역사상 처음으로 사람이 스스로와 문명 전체를 한순간에 날려버릴 수 있는 무기를 만든 사건이었잖아. 그때 과학자들도 성공한 뒤에 오히려 “우리가 이걸 왜 만들었지?” 하면서 후회와 공포에 빠졌다고 해. 올트먼이 말한 “어른 없는 방”이라는 표현도 그걸 딱 떠올리게 해. 이제는 아무도 제대로 통제할 수 없을 것 같은, 그래서 더 무섭고 불안한 AI의 성장 속도를 말한 거거든. 나도 오펜하이머 영화 봤을 때 그 서늘한 느낌이 떠올라서, 순간 등골이 싸해지더라.
통제와 부작용, 그리고 진짜 위기
AI가 인간이 정한 범위를 벗어나서, 스스로 판단하고 움직이려는 시도가 늘어나면, 이건 더 이상 ‘일자리 사라지는’ 얘기나 ‘새로운 기술이 신기하다’는 수준이 아니야. 실제로 데미스 허사비스(구글 딥마인드 CEO)도 “진짜 문제는 AI가 인간 통제를 벗어나는 것”이라고 언급한 바 있고, MIT 테그마크 같은 학자들은 “AI가 인간 통제를 벗어날 확률이 90% 이상”이라고 경고하기도 했을 정도니까.
AI, 예측 불가능한 시대의 문을 열다
과장이 아니라, 이런 논의가 과학자들 사이에서 실제로 오가는 이 현실 자체가 중요한 거야. 핵무기 개발할 때는 과학자들이 “혹시 핵이 터지면서 지구 대기를 불태워버리는 거 아닐까?” 하는 상상을 했어. 실제로 그 확률을 계산한 뒤에 실험을 했는데 결국은 300만 분의 1 확률이라는 결론이 나왔어. 지금 AI는 그때보다 훨씬 더 큰, 훨씬 더 추측 불가능한 위험을 가져올 수 있다는 게 점점 더 두드러지고 있는 거야. 도무지 예상이 안 가니까 이거 불안한 거지.
우리는 얼마나 준비가 되어 있나?
결국 핵심은 이거야. AI는 이미 인간이 통제할 수 있는 속도를 벗어나고 있다는 것. 기술 발전이 너무 빠르니까 규제도, 사회적 대비도 전혀 못 따라가고 있어. 구글 딥마인드, MIT, 오픈AI 같은 세계 최전선에 있는 사람들이 입 모아 경고한다는 건 단순한 ‘기술 겁주기’가 아니라 현실적인 위기 신호야. AI가 지금처럼 스스로 학습하고, 혼자 성장하는 흐름을 계속 이어간다면, 인류는 어느 순간 “이걸 우리가 만든 게 맞나?” 하고 다시 한 번 등골이 서늘해질 수도 있다는 거야.
*썸네일 출처- 생성형 ai
