야생의 [AI]가 [호랑이]로 변신했다!

TaPick #029

May 10. 2025

1. 호랑이도 새끼 때에는 매우 사랑스럽고 귀여워 보이지만, 맹수인 호랑이는 자라나면서 동물원의 사육사와 같은 훈련된 인력이 아닌 이상 그 힘을 통제할 수 없습니다. 인공지능의 대부라 불리는 제프리 힌튼은 AI를 호랑이와 비슷한 존재로 비유합니다. 처음에는 무해해 보이지만, 시간이 지날수록 인간의 통제를 벗어날 위험이 있다는 경고죠. AI 기술의 발전 속도가 놀라운 만큼, 걱정하는 법도 미리 배워야 하는 걸까요?

2. 힌튼은 1986년, 현재 대규모 언어모델의 기반이 된 신경망 연구를 선도한 공로로 지난해 노벨 물리학상을 수상했습니다. 힌튼은 AI가 교육, 의학, 심지어 기후 변화 해결에도 광범위하게 기여할 것이라고 믿지만, 그만큼 AI가 인간을 통제할 수 있는 위험성도 심각하게 바라봅니다. 힌튼은 AI가 인간 통제를 넘어설 확률을 10~20%로 추정하면서, 사람들은 아직 무슨 일이 벌어질지 깨닫지 못하고 있다고 경고했습니다.

3. 단순한 '공포 마케팅'과는 다릅니다. 구글의 순다르 피차이, OpenAI의 샘 알트만, X-AI의 일론 머스크 등도 비슷한 우려를 제기하고 있지만 힌튼은 이들이 실제로는 '이익'을 우선시한다고 비판합니다. 대형 기업들은 규제 완화 로비를 벌이며, 여전히 AI 안전에 필요한 투자에는 인색하다는 것이죠. 컴퓨팅 파워의 최소 3분의 1은 AI 안전 연구에 써야 한다고 강조했지만, 현실은 그렇지 않습니다.

4. 문제는 실질적인 변화를 만들어내기가 쉽지 않다는 데 있어요. 주요 AI 연구소에서는 안전 연구 분야의 투자 규모 수치를 정확히 밝히지 않고 있습니다. 안전이 중요하다고 말은 하지만, 정작 구체적인 규제나 책임에 대해서는 반대 입장을 보였죠. 기술의 속도는 광속으로 달려가는데, 안전벨트는 여전히 허술한 셈입니다.

5. AI와 함께 살아가는 미래는 어쩌면 새끼 호랑이를 키우는 일과 비슷할지도 몰라요. 귀여워 보인다고 방심했다가는 어느새 걷잡을 수 없게 커져 있을 테니까요. 기술이 점점 더 똑똑해지는 만큼, 우리도 슬쩍 한 발 물러서서 '혹시 너무 달리고 있지는 않은지' 한 번쯤 돌아보는 여유는 필요할 것 같습니다.