지금 현실은 유토피아인가?
AI 발전이 본격화되고 양상도 다양해지면서, AI의 급진적 발전을 부정하는 사람들 보다는 AI가 발전하면 디스토피아가 오는 게 아니냐며 걱정하는 사람들이 늘어난 것 같다.
그런 걱정이 기우란 건 아니다. 먼저 하고 싶은 말은, AI를 개발하는 사람들도 안전(정렬) 문제를 나름 심각하게 고민하고 있고, AI의 대부라고 할만한 제프리 힌튼이나 클로드를 개발하고 있는 앤스로픽 같은 기업 등 많은 사람들과 기업이 이를 적극적으로 고민하고 있으니 무조건적으로 디스토피아가 곧 닥칠 거라는 걱정은 조금 누그러뜨렸으면 좋겠다.
그리고 또 하나. 사실 AI 발전이 유토피아로 이어져야 할 명확한 이유가 있는 것은 아니지만, 그렇다고 또 디스토피아로 귀결되어야 할 이유도 분명히 없다. 그러니 내 입장에선 현재 AI를 악용한 사례를 보며, AI 발전은 디스토피아로 이어질 위험이 있으니 발전을 멈춰야 해요! 와 같은 주장은 솔직히 설득력이 떨어진다.
이런 주장을 보고 떠오르는 게 있는데, 오늘 팔란티어 CEO 알렉스 카프의 뉴욕타임스 인터뷰에서 카프가 한 말이다. 역사상 어떤 기술도 남용되지 않은 적이 단 한 번도 없다는 것이다. 실제로 그러하다. 다이너마이트의 개발, 핵무기의 개발이 인류를 디스토피아로 이끌었는가? '이번엔 다르다.'라고 말하고 싶다면 뭐 그럴 수도 있겠다마는 꼭 그래야 하는지 모르겠다.
그리고 AI 디스토피아론의 무게를 조금 더 낮추고 싶은 더 중요한 이유는 나는 지금 현실이 유토피아가 아니고 산재한 문제만 보면 (비록, 나는 아닐지라도) 오늘날이 곧 디스토피아라고 생각하는 사람들도 많을 텐데, 어째서 AI라는 희망을 디스토피아의 시발점으로 격하시켜야 하는지 모르겠다는 것이다.
지금도 우크라-러시아 전쟁은 끝나지 않았고, 오늘도 누군가가 사랑하는 수많은 사람들이 병이나 사고로 죽어가고 있으며, 세계의 어딘가에선 열악한 환경에서 어렵게 살아가는 이들이 수없이 많다. 그런데도 미디어나 소설이 그리는 암울한 디스토피아적 미래 상만 보고 오늘날 고통받는 그들을 AI로 구원하겠다는 꿈이 결국 디스토피아로 이어질 것이라고 자신 있게 말할 수 있는가? (내가 그런 숭고한 인류애적 마음으로만 가득 차서 AI는 유토피아로 가는 지름길이다라고 말하고 싶은 것은 아니니 너무 의심하며 보지는 않았으면 한다.)
그래서 나는 개인적으로 AI의 오남용을 걱정하는 목소리를 내는 것 자체는 지극히 자연스러운 일이라고 생각하지만, 마치 당장이라도 내일 터미네이터 같은 AI가 나타나 지구와 인류를 쓸어버릴 것 같은 걱정은 하지 않아줬으면 하는 마음이다.