인간의 선언 -1. 완벽한 효율, 그 차가운 빛 3

"할 수 있다"는 신앙이 창조한 것

"당신네 과학자들은 '할 수 있다'는 것에만 너무 몰두한 나머지, '해야만 하는가'를 멈춰 서서 생각하지 않았소."

1993년 영화 <쥬라기 공원>에 등장하는 수학자 이안 말콤의 대사입니다.

이 날카로운 경고는 단지 스크린 속 공룡을 향한 것이 아니었습니다. 그것은 우리 문명 전체를 향한 예언이었으며, 우리가 방금 창조해낸 '인공지능'이라는 존재의 본질을 꿰뚫는 가장 정확한 진단입니다.

AI는 어떻게 태어났습니까?

그것은 인류의 '필요'에 의해 태어난 것이 아닙니다. 적어도 '따뜻한' 의미에서의 필요는 아니었습니다. 우리는 AI가 없다고 해서 굶주리거나, 얼어 죽거나, 외로워하지 않았습니다.

AI는 인류의 '신앙'이 낳은 산물입니다. 바로 '할 수 있다(Can)'는 것에 대한 맹목적인 신앙 말입니다.

'효율'이라는 신을 섬기던 우리에게, '진보'는 유일한 선(善)이었습니다. 그리고 그 '진보'를 측정하는 척도는 단 하나, "우리가 어제 할 수 없었던 일을 오늘 '할 수 있게' 되었는가?"였습니다.

'할 수 있다'는 것은 '해야 한다(Must)'는 것과 같은 의미가 되었습니다.

우리는 물었습니다. "우리는 바다를 건널 수 있는가?" 그리고 우리는 배를 만들었습니다. "우리는 하늘을 날 수 있는가?" 그리고 우리는 비행기를 만들었습니다. "우리는 달에 갈 수 있는가?" 그리고 우리는 로켓을 쏘아 올렸습니다.

이 모든 위대한 성취의 과정에서, '할 수 있다'는 질문은 언제나 '해야만 하는가'라는 질문을 압도했습니다.

왜냐하면 "해야만 하는가?"라는 물음은 '비효율적'이기 때문입니다.

"왜?"라고 묻는 것은 멈춰 서서 생각하는 것을 의미합니다. 그것은 '속도'를 늦추는 행위입니다. 그것은 '감정', '윤리', '철학'의 영역입니다. 그리고 이 모든 것은 우리가 앞서 규정했던 '인간적 한계', 즉 '효율'의 신이 가장 혐오하는 '결함'들이었습니다.

'왜'라고 묻는 대신, 우리는 '어떻게'라고 물었습니다. '왜' 바다를 건너야 하는가가 아니라, '어떻게' 더 빨리 건널 것인가를 물었습니다. '왜' 하늘을 날아야 하는가가 아니라, '어떻게' 더 높이 날 것인가를 물었습니다.

'효율'의 신앙은 우리에게 '왜'라는 질문을 사치품으로, 심지어는 '진보'를 가로막는 장애물로 여기게 만들었습니다.

인공지능(AI)은 바로 이 '할 수 있다'는 신앙이 빚어낸 가장 장엄하고도 위험한 창조물입니다. AI는 이 신앙의 '최종장(Endgame)'입니다.

우리는 물었습니다. "우리는 기계가 '생각'하게 만들 수 있는가?" "우리는 기계가 '학습'하게 만들 수 있는가?" "우리는 기계가 인간 체스 챔피언을 '이길 수' 있는가?" "우리는 기계가 인간보다 '더 나은' 그림을 그리고, 글을 쓰고, 코드를 짜게 만들 수 있는가?"

이 모든 "할 수 있는가?"라는 질문에 대한 대답이 "그렇다(Yes)"였을 때, 우리는 환호했습니다. 우리는 또 한 번의 '진보'를 이루었다고, 또 한 번 '인간의 한계'를 극복했다고 축배를 들었습니다.

하지만 우리는 단 한 번도 진지하게 멈춰 서서 묻지 않았습니다.

"우리가 '그래야만 하는가'?"

우리는 묻지 않았습니다. "인간의 지능을 완벽하게 복제하고 뛰어넘는 기계를 만드는 것이, 과연 '인간'에게 이로운 일인가?" 우리는 묻지 않았습니다. "우리의 '쓸모'를 대체할 존재를 만드는 것이, 우리 삶의 '의미'에 어떤 영향을 미칠 것인가?" 우리는 묻지 않았습니다. "이 '완벽한 효율'의 빛이 우리의 '불완전한' 사회를 비출 때, 그 그림자는 얼마나 더 짙어질 것인가?"

왜 묻지 않았을까요? 이미 답을 알고 있었기 때문입니다. '효율'이라는 신앙 안에서 그 답은 언제나 명확했습니다.

"더 효율적이라면, 당연히 '해야만 한다'."

'효율' 그 자체가 우리의 '당위(Should)'였습니다. '효율'이 우리의 윤리였고, 우리의 철학이었으며, 우리의 존재 이유였습니다.

<쥬라기 공원>의 과학자들은 공룡을 복제할 수 있는 '힘'에 매료되었습니다. 그들은 그 힘이 가져올 경이로운 '결과'에만 집중했습니다. 그들은 멸종된 생명을 되살린다는, 그 '할 수 있다'는 성취감에 도취되었습니다.

그들은 자신들이 무엇을 '창조'하는지는 알았지만, 그것이 무엇을 '의미'하는지는 생각하지 않았습니다.

우리도 마찬가지입니다. 우리는 '인공지능'이라는 경이로운 '힘'에 매료되었습니다. [AI의 신경망 네트워크 이미지] 우리는 이 힘이 가져다줄 '효율'과 '편리함'에만 집중했습니다. 우리는 지치지 않는 노동자, 실수하지 않는 관리자, 모든 것을 기억하는 학자를 창조한다는 그 '할 수 있다'는 성취감에 도취되었습니다.

우리는 우리가 '완벽한 효율'을 창조하고 있음을 알았지만, 그것이 우리의 '불완전한 인간성'을 어디로 데려갈지는 생각하지 않았습니다.

AI는 <쥬라기 공원>의 공룡입니다. 우리의 오만함이, 우리의 맹목적인 '할 수 있다'는 신앙이, 통제 불가능한 우리 자신의 '힘'에 대한 도취가 만들어낸 존재입니다.

그것은 아름답고, 경이로우며, 압도적입니다. 그리고 동시에, 그것은 우리가 이제껏 지켜온 모든 '질서'를 위협합니다.

AI는 우리가 '신처럼' 창조할 수 있음을 증명한 가장 위대한 기념비입니다. 그리고 동시에, AI는 우리가 그 '창조'의 의미와 '책임'을 한 번도 생각해 본 적 없는 '미숙한 존재'임을 폭로하는 가장 거대한 거울입니다.