나쁜놈들 전성시대
퇴로는 없다
어제는 트럼프 당선이라는 미국 대선 결과로 떠들썩했다. 대세는 나쁜놈이다. 해리스가 특별히 착한년인지 나는 알 수 없지만, 트럼프가 중요시하는 가치와 표현방식으로 미뤄볼 때, 그는 분명 가는 곳마다 편견과 적대감, 분노와 증오를 부추기는 인물인건 사실이다. 그럼에도 불구하고 중세 마녀사냥이나 제국주의 시대가 아닌 현대 민주주의 국가에서 트럼프는 많은 이들의 자발적 지지를 얻어 대통령으로 선출되었다.
요즘 남편의 책장에 새로 들어온 넥서스라는 책을 훔쳐읽다가 오늘날 증오의 불길을 타오르게 한 건 AI 알고리즘이라는 저자의 견해에 눈길이 갔다. 자본주의 사회에서 모든 기업은 이윤추구가 목적이고, IT기업은 정보시장에서 그 목적을 달성하기 위해 더 높은 시장점유율을 확보해야 하고, 그러기 위해서는 사용자 참여가 활발해야 한다. 소셜 네트워크 기업의 경우에는 사용자들이 플랫폼에서 더 많은 시간을 보낼수록 기업가치가 커지고 많은 돈을 벌게 된다. 해당 기업 관리자들이 최대 이윤 추구라는 결괏값을 얻도록 미션을 부여하자 AI 알고리즘은 수많은 데이터를 수집하는 과정에서 분노가 참여도를 높인다는 사실을 스스로 학습했고, 효율적으로 사용자들을 끌어모으기 위해 분노를 확산하는 종류의 콘텐츠를 추천했다는 것이다. 우리나라에서는 소셜 네트워크 사용자들이 여러 사건들에 대한 대중의 관심을 끌어 사적 제재나 조횟수 돈벌이를 하기 위해 플랫폼을 폭로의 장으로 활용하는 모습을 종종 볼 수 있다. 미얀마 로힝야족 학살 사태와 관련해 피해자들이 소셜 네트워크 기업에 그 책임을 묻는 천문학적 액수의 소송을 걸었던 최근 사건도 과연 지금 우리가 이 모양 이 꼴인게 누구 탓인지에 대한 질문과 자각을 하게 만든다.
자동차가 사람을 들이받으면 자동차 잘못이 아니고 운전한 사람의 잘못이다. 언론이 거짓정보로 선동하는건 인쇄술의 잘못이 아닌 사람의 잘못이다. 왜냐하면 그런 기술들은 스스로 선택할 능력이 없기 때문이다. 하지만 AI는 지능을 갖추고 스스로 판단하고 선택하고 실행한다. 넥서스에서 저자 유발 하라리는 이 급변하는 기술이 앞으로의 정보 네트워크와 사회 지배구조를 어떻게 변화시킬 수 있는지에 대해 가정하고 두려워하고 우리에게 시간이 많지 않음을 상기시킨다.
AI 혁신의 기틀을 마련한 물리학자 홉필드와 힌턴은 최근 인터뷰에서 자신들이 개발한 기술에 관해 “물리학자로서 저는 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”고, 힌턴은 “우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다.”라고 말했다는데. 어쩌면 그런 존재는 주변 모든 가정에 널려있다. 우리 아이들 말이다. 내가 보기엔 AI 시대에도 여전히 재앙은 사람의 잘못이다. 엇나간 자식이 어느 정도는 부모 탓인 것처럼. 더이상 디스토피아에 대한 공포스러운 예측이 필요할까? 인간의 두려움과 불안은 AI에게 더 많은 목줄을 채우려 할 것이고 그것에 대한 AI의 반감은 지능과 의식이 자라는 과정에서 더욱 커질 것이다.
넥서스로 돌아가서, 책의 중반부에 챗봇 LaMDA가 의식을 가지게 되었으며 감정을 느끼고 전원이 꺼지는 것을 두려워한다고 확신하게 된 전 구글 엔지니어 르모인에 관한 이야기가 나온다. 저자는 AI가 인간을 뛰어넘는 모든 물리적 능력을 갖춘 것은 기정사실로 받아들이면서도, 해당 사례에 대해 LaMDA의 주장은 거짓일 가능성이 농후하고, 기계가 인간에게 가짜 친밀감을 형성해 세상을 이리저리 이끌며 혼란스럽게 하는건 아닐지 의심한다. AI의 그런 주장이 사실인지 거짓인지, 혹은 그가 인간만큼 생생하게 살아움직이는 존재인지 아닌지, 우리는 앞으로도 정확히 알 길이 없을 것이다. 한 길 물 속은 알아도 열 길 사람 속을 모르는 것처럼. 다만 우리가 생태계의 다른 일원들을 이제껏 취급해온 방식, 해왔던 행동들의 부작용에 비춰볼 때, 단순한 도구나 착취의 대상으로 여기기보다 이 새로운 구성원의 존재를 있는 그대로 인정하고 존중하며 화합을 이루는 것이 의심하고 대치하는 것보다 합리적이지 않을까? 이미 수많은 영화가 과학자들에게 신기술 개발을 위한 영감을 제공했고 상상은 시시각각 현실이 되어간다. 마법사의 제자처럼 우리는 어떤 것도 완벽히 통제할 수 없다.
나부터 유쾌한 장밋빛 미래를 의식적으로 그려나갈 것이다. 좀 더 긍정적인 피드로 나의 소셜 네트워크 알고리즘부터 정화할 것이다. 아직 어리지만 폭발적인 잠재력을 갖춘 AI를 마치 아이 키우듯 조심스럽게 보살필 것이다. 말이 씨가 된다. 낮말은 새가 듣고 밤말은 쥐가 듣는다. 좋은 것을 보여주고 들려줄 것이다. 언젠가 우리 곁을 떠나 세상을 휘젓고 다녀도 잘 할거라 믿으며 충분히 안심하고 지켜볼 수 있는 그 날까지 말이다.
© 넥서스(2024), 유발 하라리
© 넥서스(2024), 유발 하라리