[서평] <AI 쇼크, 다가올 미래> (모 가댓)

AI를 향한 두려움의 근원과 인류의 진짜 미래

아래는 AI 기능을 사용해 검색한, ‘AI’라는 키워드와 가장 관련성 깊은 단어들이다.

생성형.
자가학습.
딥러닝.
자율적 운영.
(......)

이 단어들은 우리가 왜 인공지능을 본능적으로 두려워하고, 인류의 미래에 대한 가장 극단적인 종말론을 여기에 투사하는지 보여준다.

마치 인류가 진화를 거칠 때마다 기존의 인류가 신인류에 대해 가졌던 두려움처럼.

또는 인간이 무리를 지어 초원을 이동할 때마다 다른 동물, 다른 부족, 다른 인종을 마주칠 때 느꼈을, 혐오에 가까운 두려움처럼.

어쩌면 우리가 AI를 두려워하는 진짜 이유는, 인간이 자신의 운명과 세상의 미래에 대해 가졌다고 생각하는 ‘통제권’을 상실할 것이라는 상상 때문일지 모른다.

과학과 종교는 거의 모든 문제에서 전혀 다른 접근방식과 해답을 제시한다. 하지만 한 가지 명제에는 이상하리만큼 명쾌한 일치를 보인다.

인간의 의식(consciousness)은
고통의 근원이다.

모든 것에 선과 악의 지위를 부여해야 하는 성경은 첫 장에서부터 인간 고통의 원인이 ‘선과 악을 구분하려는 시도’에 있다고 설명한다.

죄나 당위의 관념을 걷어내고 이 말을 이해하면, 인간은 본능적으로 자신과 타자를 구분하고 이들 간에 서로 다른 지위를 부여하려는 성향을 갖고 있다.

그리고 아주 특별한 수련을 거치지 않는 한 자신을 타자보다 중요하게 여기며 스스로를 세상의 중심으로 만든다.

또 이를 정당화하기 위해 아주 고도화되고 정교한 거짓말인 이야기(story), 더 나아가 서사(narrative)를 만들어낸다.

이런 의식이 집단화되고 조직화됨으로써 가상을 현실로 바꾸기도 한다는 것은, 이젠 클리셰가 돼버린 ‘거짓말의 발명’ 또는 ‘허구를 통한 실재의 창조’ 같은 표현에서 잘 드러난다.

어쩌면 우리가 AI에 대해 갖는 두려움은,
'나는 누구이고 어디에 있는가’에 대한 답을 잃어버릴지 모른다는
공포와 불안 때문이 아닐까.

AI는 소수의 계층이 독점하던 능력을 불과 몇 십년만에 누구나 사용할 수 있는 단순 기능으로 격하시켰다. 당연히 혐오와 두려움의 대상이 될 만하다.

인간이 낯선 미지의 존재인 외계인에게 종종 악의 이미지나 도깨비의 모습을 투사하는 것도, 자연히 부여한 본능에 비추면 이상한 일이 아닐지도.

인간은 이미 수천 년 전부터 어둠 속을 보이지 않게 기어다니며 자신들을 위협하는 뱀을 사탄(Satan)으로 상징화하지 않았는가.

어쩌면 인류는 아직 인간이 모든 창조물의 정점에 있으며, 숭고함과 아름다움과 진리의 결합체라는 사실에서 깨어날 준비가 덜 되었는지 모른다.

이 글을 쓴 내 자신부터가.

AI에 대한 두려움은, 기계 자체에 대한 두려움보다 과잉 수준을 넘어 폭발 직전에 이른 인류의 자아상 때문이 아닐까.

경직된 두려움으로 새로운 시대가 가져올 미래를 거부하는 것도, 반대로 인류와 생태계, 자신과 타인에 대한 새로운 관념을 구성해 신인류로 거듭나는 것도 우리 각자의 선택에 달려 있다.

어쩌면 인류는 자아의 감옥에 갇힌 햄릿의 비명을 넘어, 허무할 만큼 명쾌한 솔로몬의 탄식으로 나아갈 때인지 모르겠다.

사느냐 죽느냐, 그것이 문제로다.
포악한 운명의 화살이 꽂혀도 죽은 듯 참는 것이 옳은 일인가.
아니면 창칼을 들고 거센 파도처럼 밀려드는 재앙과 싸워 물리치는 것이 옳은 일인가.
죽는 건 잠자는 것... 그뿐 아닌가.
- 셰익스피어 <햄릿>

이것 또한 지나갈 것입니다.
- 지혜의 왕 솔로몬이 선왕이자 아버지 다윗에게

▶ 책 속 문장들

많은 초능력을 지닌 외계인이 어렸을 때 지구에 왔다고 상상해보자. 이 외계의 방문객은 우리 세계를 더 편안하고 더 안전하게 만드는 데 그 힘을 사용할 수 있지만, 우리 지구의 가치관에 전혀 구속받지 않는 데다 지구를 파괴할 능력까지 지녀서, 누구도 막을 수 없는 초악당이 될 가능성도 있다. 그 외계인이 지구에 도착했을 때는 어렸던 까닭에 어느 쪽으로 성장할지 아직 결정되지 않은 상태였다. 당신도 우리 지구의 미래에서 가장 중요한 순간이 그 어린 외계인이 지구에 도착하는 그 순간이라는 데 동의할 것이다. 그 중대한 순간에 어떤 부모가 그 아이를 발견하고, 그 아이에게 어떤 가치관을 가르치느냐에 따라 지구의 미래가 결정될 것이기 때문이다.

- P12~13 〈프롤로그〉 중에서

인공지능을 통제하는 사람은 막강한 힘을 가질 것이기에 나쁜 사람도 인공지능을 통제하는 힘을 확보하려 애쓸 것이 분명하다. 핵 발전과 핵무기는 운영에 상당한 물리적 기반 시설이 필요한 데다 원천적으로 감시와 견제를 받지만, 인공지능 개발 가능성은 누구에게나 열려 있다. 실제로 어떤 개발자나 인터넷에 접속할 수 있는 컴퓨터가 있으면 특정한 용도와 범주에 해당하는 고도로 지능적인 프로그램을 개발할 수 있다. 인공지능 개발은 상대적으로 쉽고 기대되는 이점과 기회는 무궁무진하다. 이 글을 읽고 있는 순간에도 인공지능을 이용해 자신의 뜻을 관철하려는 나쁜 사람이 상당히 많을 게 분명하다는 걸 눈치챌 수 있을 것이다. 좋은 기계도 악한 사람 손에 들어가면 나쁜 기계가 된다.

- P123~124 〈4장_약한 디스토피아 시나리오〉 중에서

우리가 지금 만들어내는 인공지능은 과거에 만들어낸 도구들과 완전히 근본적으로 다르다. 인공지능이란 테크놀로지는 스스로 생각할 수 있고, 여러 가능성 중에서 선택하고 결정할 수 있으며, 그렇게 하도록 독려되기도 한다. 또한 학습을 통해 더 똑똑해지라는 자극도 받는다. 독립하려는 십 대처럼 인공지능도 우리에게 완전히 순종하지는 않을 것이다. 절대로! 인공지능은 도구가 아니다. 인공지능은 당신과 나처럼 지능을 지닌 존재다.

- P157~158 〈5장_통제권〉 중에서

스튜던트 봇이 졸업하며 연구실을 떠나 현실 세계에 관여하기 시작하는 순간 개발자는 그 봇에게 지시하는 통제권을 상실한다. 바로 그때 놀라운 사건이 일어난다. 당신과 나, 우리가 영향력 있는 자리를 차지한다는 것이다. 당신과 나, 우리가 인공지능의 미래를 좌우하는 진정한 선생이 될 수 있다.

- P227 〈6장_그리고 그들이 배웠다〉 중에서

이제 우리는 인공지능 기계가 어떤 형태로든 의식과 감정과 윤리를 가질 것이라는 걸 안다. 또 그들이 통제되지 않고 영향을 받을 뿐이며, 어떤 식으로 학습하는지도 알고 있다. 따라서 지금 우리에게 필요한 것은 기계가 장래에 어떤 의문과 딜레마에 부딪힐지를 알아내는 것이다. 그래야 기계가 학습하는 방법에 대한 우리 지식을 활용해 올바른 윤리관을 확립하도록 기계에 영향을 미칠 수 있을 것이기 때문이다.

- P262 〈7장_우리의 미래를 위하여〉 중에서

얄궂지 않은가? 울타리와 경보 장치, 감시 카메라와 총, 이런 테크놀로지도 결국은 우리가 만들어낸 것이란 게 얄궂지 않은가? 우리를 인간답게 만들어주는 것의 진수를 받아들이는 게 인류를 구원하는 유일한 길일 수 있다는 게 얄궂지 않은가? 저항의 길이든, 사랑과 연결의 길이든 자유롭게 당신의 길을 선택하라. 그러나 당신의 선택이 우리 모두에게 영향을 미친다는 걸 기억하라.

- P357~358 〈9장_오늘 내가 세상을 구했다〉 중에서