우리는 두려워해야 하는가(AI_5)
유발 하라리의 경고를 존중하면서도 희망을 포기하지 않는 이유
여러 강의 중에서 특히 인상 깊게
보았던 강의가 하나 있다.
유발 하라리가 AI를 주제로, 힘과 신뢰,
그리고 인간 사회의 미래를 이야기했던 강의다
다시 돌아온 ‘힘의 언어’
최근 세계는 다시 노골적인 힘의
언어를 사용하기 시작했다.
전쟁은 더 이상 과거의 사건이 아니고,
국경과 주권, 정복이라는 단어가
공공연히 뉴스에 등장한다.
우크라이나 전쟁, 가자지구 분쟁,
미·중 패권 경쟁은
단지 지역적 갈등이 아니라,
인류가 한동안 애써 외면해 왔던
질문을 다시 꺼내 들게 만든다.
“이 세계를 움직이는 진짜 힘은 무엇인가?”
유발 하라리는 이 질문이
군사력이나 정치권력만의 문제가 아니라고 말한다.
오늘날 가장 강력한 힘은
눈에 보이지 않으며,
총이나 미사일이 아니라
알고리즘과 데이터, 그리고 AI의
형태로 등장하고 있기 때문이다.
AI는 도구가 아니라
‘이질적 지능’이다
하라리가 반복해서
강조하는 핵심은 단순하다.
AI를 단순한 자동화 도구로
생각하는 순간, 우리는
이미 가장 중요한 것을
놓치고 있다는 것이다.
버튼을 누르면 미리 정해진
대로 커피를 내려주는
기계는 AI가 아니다.
AI는 학습하고, 스스로 판단하며,
이전에 존재하지 않던 해결책을
만들어낼 수 있을 때 비로소 AI가 된다.
그래서 하라리는 AI를
‘인공 지능(Artificial Intelligence)’이 아니라,
‘이질적 지능(Alien Intelligence)’이라고
부르는 편이 더 정확하다고 말한다.
이질적이라는 말은
우주에서 왔다는 뜻이 아니라,
인간의 사고 구조와는 전혀
다른 방식으로 작동한다는 의미다.
알파고가 이세돌을 이겼던
2016년의 대국이 충격이었던
이유도 여기에 있다.
AI가 인간을 이겼기
때문이 아니라, 인간의 직관과
전통 이론을 완전히 벗어난
수를 두었기 때문이다.
이해할 수 없는 시스템이
민주주의를 위협할 때
AI의 진짜 위험은
로봇이 총을 들고 거리를
활보하는 장면에 있지 않다.
하라리는 오히려 금융 시스템을
떠올리라고 말한다.
2008년 금융 위기의 핵심에는
파생상품이라는 극도로 복잡한
금융 구조가 있었다.
이 상품을 설계한 소수의
전문가를 제외하면, 정치인도
유권자도 그 위험을 이해하지 못했다.
그리고 이해하지 못하는 시스템은
결국 통제할 수 없었다.
이제 질문은 더 급진적으로 바뀐다.
AI가 인간 누구도 이해할 수 없는
금융·정치·군사 시스템을 설계한다면?
그리고 그것이 붕괴될 때,
아무도 그 이유를 설명할 수 없다면?
효율성과 성장은 가능할지 모르지만,
이해 불가능성은 민주주의 자체를 무력화시킬 수 있다.
‘말하기 시작한 텍스트’와
권위의 붕괴
하라리는 종교의 구조를
통해 AI의 권위 문제를 설명한다.
유대교, 기독교, 이슬람교 같은
거대 종교에서 권력의 핵심은
언제나 ‘텍스트’였다.
그러나 경전은 말하지 못했다.
그래서 인간 해석자
랍비와 성직자가 필요했고,
그 해석 능력이 곧 권위였다.
AI는 이 구조를 근본적으로 바꾼다.
AI는 모든 경전을 즉시 읽고,
기억하고, 상충되는 해석을
동시에 비교하며, 완전히 새로운
해석을 제시할 수 있다.
텍스트가 말을 하기 시작하는 순간,
인간의 전통적 권위는 흔들릴 수밖에 없다.
신뢰의 역설: 인간은 못 믿고, AI는 믿는다?
하라리가 가장 날카롭게
지적하는 문제는 신뢰의 역설이다.
AI 개발자들은 말한다.
“위험한 건 알지만, 우리가
멈추면 경쟁자가 먼저 만든다.”
“인간은 믿을 수 없기 때문에 속도를 늦출 수 없다.”
그러나 하라리는 묻는다.
수천 년 동안 인간의 권력
남용을 경험한 우리가,
경험이 거의 없는 이질적 지능을
더 쉽게 신뢰하는 것이
과연 합리적인가?
인간은 불완전하지만,
적어도 문제가 무엇인지 알고 있고,
견제 장치를 만들어 왔다.
AI는 아직 그렇지 않다.
그럼에도 불구하고,
나는 AI를 기대한다
여기까지가 유발 하라리의 경고다.
그리고 나는 이 문제의식에
깊이 공감한다.
다만, 이 경고를 기술에 대한
공포나 회피로만 받아들일
필요는 없다고 생각한다.
하라리 역시 기술 자체가
악하다고 말하지 않는다.
그의 핵심은 언제나 인간 사회에 있다.
AI는 분명히 인류가 지금까지
해결하지 못했던 문제들
질병, 기후 변화, 복잡한
사회 시스템에 대해
새로운 가능성을 열어줄 수 있다.
인간의 인지적 한계를 보완하고,
협력의 범위를 넓히며,
더 정교한 의사결정을 가능하게 할 수도 있다.
중요한 것은 속도가 아니라 방향이다.
힘은 행복이 아니고,
지능은 지혜가 아니다
하라리는 역사에서
두 가지 교훈을 강조한다.
첫째, 힘은 행복이 아니다.
인류는 석기시대보다
수천 배 강력해졌지만,
그만큼 더 행복해지지는 않았다.
둘째, 지능은 지혜가 아니다.
인간은 가장 지능적인 동물이지만,
동시에 가장 쉽게 망상에
빠지는 존재이기도 하다.
AI가 인간보다 더 강력하고
더 똑똑해진다 해도,
그것이 자동으로 더 지혜롭거나
더 선한 존재가 된다는 뜻은 아니다.
AI보다 먼저 설계해야 할 것
그래서 하라리의 결론은
단순하지만 무겁다.
AI를 먼저 설계하지 말고,
AI를 감당할 수 있는 인간 사회를 먼저 설계하라.
인간이 지구를 지배하게 된 이유는 지능이 아니라,
낯선 사람들과 대규모로 협력할 수 있는 신뢰 능력이었다.
AI는 인간을 비추는 거울이다.
우리가 어떤 사회를 만들고 있는지가,
AI를 통해 훨씬 더 증폭되어 돌아올 뿐이다.
두려움 대신 성숙함을 선택하기
나는 하라리의 경고를 존중한다.
그러나 동시에,
그 경고가 우리를 움츠러들게
만들 필요는 없다고 생각한다.
조심해야 하지만 도망칠 이유는 없고,
경계해야 하지만 희망을 접을 필요도 없다.
AI 시대의 진짜 과제는
더 똑똑한 기술을 만드는 것이 아니라,
그 기술을 감당할 수 있는 인간이 되는 것이다.
그리고 그 선택은 아직, 우리 손에