정치, AI 살아남기

정치, 그 씁쓸함에 대하여 4/4

Gangnam Style Series no.42 압구정 불토

2024/10/17

인류 문명이 기로에 놓여 있다고 합니다. AI 말입니다. 인류가 어떻게 하느냐에 따라 AI의 능력을 이용하여 지혜의 종이 더욱 지혜와 역량을 키워나갈 수도 있고 반대로 AI가 주인이 되고 인간이 보조적인 역할을 하는 존재로 전락될 수도 있다고 합니다. 심지어 인류 문명의 종말을 운운하기도 합니다.

인간이 국가 단위로, 혹은 국가 간에 무엇을 어떻게 하느냐 하는 것은 모두 정치적인 결정에 따르게 됩니다. 어떤 결정을 내리더라도 수많은 이해집단의 서로 상반되는 요구를 잘 조정해서 타협을 이끌어내는 고도의 정치적 기술이 필요합니다. 기후변화 문제나 AI와 같이 전 인류의 운명이 걸린 문제는 이해관계가 더욱 복잡하고 국가 단위뿐만 아니라 국가 간의 타협과 조정이 필요한 일입니다. 인류 역사상 경험하지 못한 도전과 시련이 될 것입니다.

왕권과 독재의 전제주의 정치에서 민주주의로의 발전은 불완전한 인간들이 지혜를 모으고 잘못을 바로잡아 갈 수 있는 정치 체제로의 크나큰 발전을 의미합니다. 그러나 민주 국가라고 해도 어느 나라 할 것 없이 정치 체제는 많은 모순과 문제점을 안고 있습니다. 지혜를 모으는 것도 어려울 뿐만 아니라 모은 지혜가  영웅 한 사람의 지혜보다 낫다는 보장도 없습니다.

독재나 전제 체제는 물론 민주 체제에서도 국가적, 나아가 인류적 도전에 지혜로운 결정을 내릴 것이라는 믿음이 없습니다. 기후변화와 AI 기술의 발전과 같은 엄청난 도전이 인류 문명의 종말과 같은 위협으로 느껴지는 이유입니다. 사람들은 미래를 대비하고 허리띠를 졸라매라고 하는 결정보다는 오늘 하루 무사안일 하도록 하는 결정을 선호합니다. 민주 국가에서는 포퓰리스트의 결정이, 독재 국가에서는 정권 연장에 모든 것을 거는 결정이 내려질 것입니다.

AI는 이미 정치에 큰 역할을 하고 영향을 미치고 있습니다. 그런데 지금까지 AI는 만든 사람의 목적에 충실히 봉사해 왔습니다. 기업이 만든 AI는 기업의 이익 극대화의 목적에 봉사해 왔습니다. AI가 정치적 대립을 부추기고 의견을 분열시킬수록 그것을 만든 기업의 이익이 증가합니다. 독재 정권이 만든 AI는 국민 한 사람 한 사람을 감시하고 반대자를 탄압하는 역할을 충실히 해 왔습니다.

AI 기술이 더욱 발전하게 되면 AI 가 스스로의 목적을 위해 결정을 내리는 가능성도 배제할 수 없습니다. 영화가 현실이 되는 것입니다. AI의 지적 능력을 자신을 위해 사용하면 인간이 대적할 수 없습니다. 그렇게 되면 인류는 지구의 주인 자리를 내놓아야 합니다.

오늘 소개하는 책은 AI 알파고의 창립자인 저자가 말하는 AI 경고입니다. AI의 지적 능력을 인간의 통제 아래 묶어둘 수 있는 방법을 제시하고 있습니다. 그러나 어떤 정책을 쓰더라도 지혜로운 정치적 결정이 없으면 불가능한 것이며 지금의 정치 시스템에서는 기대하기 어려운 것 같습니다.