유발 하라리가 말하는 AI의 파괴력
#유발 하라리 #넥서스 #AI시대 #스스로 생각해보기
오늘은 최근 읽고 있는 책의 중간 리뷰를 해보려고 합니다.
최근 재미있게 읽고 있는 책이 있습니다. 유발 하라리 교수의 신작 <넥서스> 입니다. 제가 유발 하라리 교슈의 책을 읽은 것은 이번이 두번째 입니다. 첫번째 읽었던 <사피엔스>에서는 태초의 인류가 아프리카에서 시작하여 수만년의 시간을 거쳐 유럽으로 걸어가고, 중동을 거쳐 아시아, 아메리카 대륙으로 이동한 과정을 보여주었습니다.
유발 하라리 / 출판: 김영사
유발 하라리 / 출판: 김영사인간의 삶은 정말 길어봐야 100년인데요. <사피엔스>와 같은 역사 인문서를 읽게 되면 인간의 한 생을 초월하는 수만년 전의 과정을 간접적으로 느껴볼 수 있어서 겸손해지고, 마음 한 구석이 뜨거워집니다.
(*잠시 타임머신을 타고 수만년 전으로 다녀 온 기분입니다.)
이번에 읽고 있는 <넥서스>는 정보와 정보 이용 메커니즘에 대한 역사적인 통찰을 담고 있습니다.
다 읽지도 않는 제가 두꺼운 책의 모든 서사를 다 짚기에 제 능력은 너무 부족합니다. 이번 글에서 주목할 점은 AI의 파괴력에 대한 유발 하라리의 생각입니다. 유발 하라리는 AI에 대한 위험성에 초점을 두고 글을 썼습니다.
함께 생각해볼까요?
얼마 전 손정의 회장은 10년 뒤 AI는 지금보다 10,000배 정도 성능이 확장된 슈퍼 AI가 될 것이라고 했습니다. 슈퍼 AI는 인간보다 훨씬 스마트하고 편향없이 문명을 발전시키고, 삶을 편리하게 일 처리할까요?
일단 저는 YES라고 답하겠습니다. 슈퍼 AI는 인간이 상상도 할 수 없는 속도도 일처리할 것이며, 창의성도 인간의 속도가 따라갈 수 업을 정도로 빠를 수 있습니다. 그렇다면, 지금은 해결할 수 없는 난치병 치료제도 만들 수 있고, 온오프라인의 지금보다 훨씬 편리한 제품과 서비스가 쏟아질 것입니다.
그런데, <넥서스>는 슈퍼AI의 '어두운' 면을 때립니다. AI는 지금보다 10,000배 성능이 개선되려면 스스로 빠른 속도의 데이터 학습, 즉 머신 러닝을 해야 합니다. AI가 학습하는 머신 러닝이 객관적일 수 있을까요?
2017년 티베트에서 반로힝야족 선동 페이스북의 SNS 알고리즘으로 인해 로힝야족이 티베트 사람들을 몰아낼 것이라는 자극적인 정보가 티베트 사회에 퍼집니다. 이로 인해 무구한 반로힝야족 사람들이 죽고, 상처 입고, 쫓겨났습니다.
세계 최고의 SNS 기업의 AI 알고리즘은 클릭 확률이 높은 정보를 고객에게 추천하였고, 특정 사회의 사람들은 선동되어 끔찍한 집단 행동을 일으켰죠.
10년 뒤 슈퍼 AI 알고리즘이 잘못된 방향으로 대중을 선동하지 않으리라 보장할 수 있을까요? SNS의 추천은 매우 프라이빗하게 이루어질 것이고, 저를 포함한 사람들은 무의식 중에 특정 집단, 종교, 나라에 대해 편견이 강화될 수 있습니다. 그것이 무엇이 될지는 지금으로선 상상할 수 없습니다.
고로, 유발 하라리 교수는 AI 오남용의 자정 장치를 통제 가능할 때 마련할 것을 책에서 권합니다.
그렇다면, AI는 여기서 더욱 발전되면 안되는 기술일까요?
©Xu Haiwei, 출처: Unsplash역설적이게도 유발 하라리 교수의 AI 경계 사고는 AI 시대가 피할 수 없으며, AI에는 규모의 자본과 산업 발전을 암시하고 있습니다. 왜 아마존, MS, 알파벳은 클라우드 데이터 센터 추가 건설을 위해 규모의 투자를 지속하고 있을까요? 왜 오픈AI, 앤트로픽, 메타의 람다 같은 대화형 AI 기술에 거대 자본이 쏠리고 있을까요?
저는 AI 전문가가 아니기에 전문적인 말씀을 드릴 수 없습니다. 다만, AI 시대의 도래와 해당 산업의 규모의 성장은 피할 수 없는 예정된 미래라는 사실만 알고 있습니다. AI 산업으로 인해 특정 소기업은 규모의 대기업으로 성장할 것이고, 특정 대기업은 경쟁에서 소외돼 명성을 잃을 수도 있습니다.
<넥서스>를 읽다보니 AI 기술 발전이 매우 두려울 수 있겠구나를 상상해보았습니다. 다만, 거스를 수 없는 미래라는 것은 유발 하라리 교수나 저나, 그리고 이 글을 읽는 많은 분들이 공감하실 것입니다.
한국의 기업 중 AI 기술 선도 기업이 있었으면 좋았겠다 생각하지만, 해당 산업은 대규모의 DB, 인프라, 규모의 자본을 전제해야 하기 때문에 전 세계 GDP의 1% 대를 차지하고 있는 한국 시장이 우위를 점하기 어려운 산업일 수 있겠다 생각도 해봅니다.
물론, 단기적으로 AI 산업은 지나치게 주목받고 있기에 투자 측면에서 거품 구간일 수도 있습니다. 투자자라면 장기적인 시간 지평을 생각하며 안전마진을 확보하며 기다림과 투자를 해야 할 시기가 아닐까 생각도 해봅니다.
두서없이, 여러 생각을 글에 옮겼습니다. 저는 <넥서스>의 나머지를 읽어보고 정보의 역사와 AI에 대한 양쪽의 생각을 계속 해 볼 생각입니다. AI 산업에 대한 관심이 많으시다면 균형 잡힌 시각을 위해 <넥서스>를 한번 읽어보실 것을 추천드립니다. 장대한 역사적 서술에 한번 놀라고, AI에 대한 시각에 생각이 많아질 것 같습니다. 감사합니다.
한 번 사는 인생 진심을 다했으면 좋겠습니다. 흘러 간 돈은 다시 벌면 되지만, 지나간 시간은 다시 돌아오지 않습니다. 당신은 행동할 수 있는 사람입니다.
