누가 AI를 두려워하랴?

AI와 함께 2/4

Gangnam Style Series no.45 테헤란로

2025/3/4

우리 시대의 사람들은 이전의 사람들과 생물학적으로는 차이가 없지만 지능면에서는 서로 같은 종(specie)이라고 할 수 없을 정도로 다릅니다. 세상 모든 정보를 모으고 추려서 24시간 우리 개개인과 한 몸처럼 도와주는 스마트폰이 있으니 이전 기준으로는 우리는 모두 천재요 초능력자들입니다. 스마트폰에서 우리가 사용하는 기능의 가장 중요한 작동 원리가 AI이니 우리는 AI 덕택에 천재요 초능력자가 된 셈입니다.

그만큼 혜택을 받았으면 항상 감사의 마음을 잃지 않아야 할 터인데 AI 기술의 발전이 인류의 미래에서 가장 큰 위험요인이라고 걱정하고 있습니다. AI나 기후변화 아니더라도 미래는 모든 것이 불확실하고 어떤 재앙이 닥치더라도 이상할 것이 없습니다. 그 반면에 시련과 재앙이 닥치더라도 인류의 지식과 지혜로 해결하고 과거보다 더 나은 미래가 될 수도 있을 것입니다. AI는 인류의 미래에 어떤 위험과 어떤 가능성을 가진 것일까요?

산업혁명을 가져올만한 큰 기술이 등장하면 언제나 이전 기술에 바탕을 둔 일자리가 사라지고 그에 따른 저항이 거셉니다. 그러나 새로운 기술에 바탕을 둔 새로운 형태의 일자리가 생겨나고 생산성이 높아져 생활수준이 크게 향상되었습니다. 지금까지 몇 차례 산업혁명에는 이러한 패턴이 반복되었습니다.

AI기술은 그것이 인간 지능을 크게 능가한다는 사실 때문에 이번에는 다를 것이라는 걱정이 있지만 그 기술이 인간이 통제를 벗어날 확률은 아주 낮습니다. 이미 AI에 기반을 둔 많은 새로운 직업이 생겨났고 기존의 직업에서는 인간의 조력자가 되어 생산성을 크게 높여주고 있습니다. 그러니 우리에게 당면한 문제는 각자가 어떻게 새로운 기술 환경에 적응하고 살아남느냐 하는 것입니다.

AI가 가져올 미래라고 하면 초능력자 로봇에게 인류가 복종하고 인류 문명이 파괴되는 세상을 떠올립니다. SF영화에 너무 몰입한 때문입니다. 인간을 너무 과소평가한 것입니다. 설사 의식을 가진 AI, 즉 AGI(Artificial General Intelligence)가 개발된다고 해도 인간이 통제를 상실하는 일은 생각하기 어렵습니다.

그러나 미래는 미래입니다. AI가 인간을 지배하는 세상이 오더라도 절대로 일어날 수 없는 일이 일어난 것은 아닙니다. 사실 AI가 문제라기보다는 AI를 사용하는 사람이 문제입니다. 강력한 AI가 악인의 손에 들어갈 때 재앙이 일어나게 됩니다. 그리고 세상에는 악인이 넘쳐납니다.

오늘 소개하는 책의 저자는 AI로 단백질 구조를 규명하는 획기적 기술을 개발하여 2024년 노벨생리학상을 수상한 하사비스와 함께 Deep Mind를 공동 창업한 사람입니다. AI로 인해서 세상의 질서가 무너지게 되는 것을 경고하고 있습니다.