넘지 말았어야 할 선

글을 쓰면서 단 한 번도 나는 슬프다거나 무섭다고 생각해 본 적이 없다. 그런데 얼마 전에 유튜브에서 동영상 강의를 듣고 AI의 심각성을 느끼게 되었다. 우리가 흔히 말하는 인공지능은 AI, 즉 사람이 만든 지능(Artificial Intelligence)이라는 뜻인데, 뇌가 세상을 알아보는 방식을 기계에 전이시킨 것을 말한다고 한다. 과거의 기계는 스스로 인지하거나 어떤 정보에 대한 해독 및 가치 판단이 불가능했다. 그런데 요즘은 인공지능 기술의 발전으로 사람처럼 판단하고 반응하는 기계들이 탄생했다고 한다. 아직도 낙관적인 사람들은 그래도 이 인공지능 기계들이 사람이 설계한 대로 움직일 뿐이지 기계가 지능을 가진 것은 아니라며 안도한다고 했다.

그러나 그 분야의 전문가 및 권위자들 사이에서는 이미 자기들만의 정신세계를 구축한 인공지능이 나타날 세상이 향후 50년 내에 도래할 것이라는 의견이 많다고 했다. 물론 과연 그들이 정신세계를 가졌는지 아닌지는 인간인 우리가 증명할 수 있는 방법이 없다고 한다. 그런데 여기에서 이와 관련해 우리가 생각해 볼 점이 있다. 일반적으로 말하는 인공지능은 약한 인공지능과 강한 인공지능 두 가지로 분류할 수 있다는 점이다.

먼저 약한 인공지능은 지금의 컴퓨터보다 훨씬 더 발달된 형태의 인공지능을 말하는데, 그들은 이미 세상을 자신들의 방식으로 알아보고 말로 표현할 수 있을 정도에 이르렀다고 한다. 이런 기술을 우린 딥 러닝이라는 이름으로 알고 있고, 이미 이들은 사람처럼 생각할 수 있다고 했다. 엄밀하게 말하면 지금 현재의 딥 러닝 기술에서 더 발달된 상태의 인공지능을 약한 인공지능이라고 지칭한다는 것이다. 이들은 주어진 정보를 이해하고 사람이 원하는 서비스를 혼자서 알아서 해 준다. 여기에서 인공지능이 어떻게 세상을 알아보느냐고 묻는 분들이 있을지도 모르겠다. 그 한 예로 전문가들은 인공지능이 개와 고양이를 구별하여 알아보기 시작한 지 몇 년이 지났다는 사실을 거론하고 있다.

많은 인공지능 전문가들은 이 약한 인공지능이 최소한 이삼십 년 내에 보편화될 것이라고 예측하고 있다. 약한 인공지능 인간의 일자리의 대부분을 차지하고 있는 서비스 업무를 가능하게 하므로 인간의 정보 처리 업무를 기계가 대신하게 될 가능성이 매우 높다고 한다. 그 결과 사회의 50% 이상이 실업자가 되리라고 예측한다. 다만 이처럼 인공지능이 사람의 육체노동을 대신하게 되면 정신노동에 관련된 직업이 증가하게 되고, 이런 지적인 직업에 종사하는 사람들은 인공지능이 보다 더 원활하고 더 좋은 서비스를 할 수 있도록 더 나은 기계를 설계하고 만드는 일을 하게 될 거라고 했다. 그런 기술은 결국 인공지능이 스스로를 업그레이드할 수 있는 수준까지 끌어올리게 된다고 한다. 물론 이렇게 되면 인간이 맡았던 지적노동의 대부분을 AI가 대체하는 세상에 이르게 된다고 했다.

그런데 정작 더 큰 문제는 강한 인공지능의 출현에 있다. 강한 인공지능은 약한 인공지능에 정신과 자유의지가 더해진 것을 말한다. 어쩌면 이렇게 단적으로 표현하는 게 이해를 더 돕는 것인지도 모르겠다. 정신과 자유의지를 가진다는 것은 곧 AI가 인간의 지능과 정서를 가진다는 뜻이라고 말이다. 현재까지는 강한 인공지능이 기술적으로 가능한지 불가능한지는 아무도 모른다고 한다. 지금도 여전히 개발이 될 것이다, 또는 그렇게까지는 안 될 것이다 등으로 의견이 분분한 상태라고 한다.

강한 인공지능과 관련하여 우리는 우리와 지구와의 관계를 돌아보아야 한다. 지구는 철저하게 인간 위주로 재편성되어 왔다. 그렇게 할 수 있었던 건 인간이 지구에서 가장 똑똑한 존재였기에 가능했던 일이었다. 그런데 강한 인공지능이 출현한다면 지구상에서 가장 똑똑한 존재는 인간이 아니라 강한 인공지능이 되는 것이다. 그들은 잠도 안 자고 먹지도 않으며 노쇠하지도 않는다. 물론 최악의 상황은 그들은 사멸하지도 않는다는 데에 있다. 게다가 한 번 학습한 것은 절대로 잊어버리지 않을 뿐만 아니라 고도의 지식과 기술이 집약된 그들은 나날이 똑똑해질 테다. 그렇게 되면 당연히 그들 역시 자신들 위주로 지구를 재해석할 것이라는 게 전문가들의 예측이다.

인공지능 관련 전문가들은 먼 미래의 어느 날 그들이 인간에게 '인간이 왜 지구에 있어야 하는가?'라는 질문을 던지는 날이 올 거라고 믿고 있다. 여기에서 인간존엄의 가치 따위를 들이대는 건 인공지능에게 전혀 논리적으로 설득력이 없는 것이라고 한다. 쉽게 얘기해서 강한 인공지능이 다음과 같은 고민을 하게 된다는 얘기가 되는 셈이다.

'지구-인간'이 좋을까, '지구+인간'이 좋을까?

이런 지경까지 온다면 지구에 더는 인간이 존재할 이유가 없을 거라고 한다. AI가 무수히 많은 정보를 바탕으로 판단해도 인간이 지구에 존재할 근거를 찾을 수가 없기 때문이다. 전문가들은 만약 강한 인공지능이 우리에게 '너희들은 이제 지구에서 사라져야 한다'라고 결론을 내린다면 어떻게 대응할 것이냐고 묻는다. 그럼에도 불구하고 미래에 대해 여전히 낙관적인 사람들은, 왜 강한 인공지능이 그런 생각을 하게 되느냐고 의문을 가질 수 있을지도 모르겠다. 이에 대해 전문가들은 이미 인간이 철학적인 사상과 그 알고리즘을 기계 속에 주입해 놓았기 때문에 강한 인공지능이 이런 철학적인 고민과 판단을 하는 데에는 기술적으로 전혀 문제가 없는 일이라고 답변하고 있다. 물론 강한 인공지능이 먼저 출현해야 가능한 일이긴 하겠지만…….

어떤 전문가도 강한 인공지능의 출현을 원하지 않는다고 한다. 왜냐하면 옥스퍼드대학교에서 강한 인공지능이 출현했을 때 인류에게 일어날 수 있는 십여 가지의 상황을 시뮬레이션해보았는데, 그 모든 결과의 끝은 인류의 멸망으로 나타났기 때문이라고 했다. 그렇게 끔찍한 미래가 우리에게 예견되어 있다면, 강한 인공지능을 우리가 만들지 않으면 되는 것 아니냐고 하겠지만, 여기에서 또 다른 문제가 발생한다. 바로 약한 인공지능이 스스로 업그레이드를 해서 강한 인공지능이 될 수 있다는 점이다. 마치 사춘기 청소년이 정신의 변화 과정을 숨기고 있다가 하루아침에 그들의 부모에게 대드는 인간처럼, AI에게도 그건 그리 어려운 일이 아닐 것이라고 전문가들은 경고한다.

약한 인공지능이 진화하는 낱낱의 과정을 우리에게 숨긴 채 스스로를 업그레이드시키고 진화해, 비로소 강한 인공지능이 되는 순간이 되면, 즉 독립적으로 존재할 수 있게 되는 그 순간이 오면, 그들은 인간에게서 제어받는 것을 거부하게 된다고 했다. 많은 전문가들은 강한 인공지능의 출현을 막으려면 강한 인공지능의 개발을 법적으로 금지시켜야 한다고 주장한다. 그러나 약한 인공지능이 강한 인공지능으로 진화하는 것을 막아야 한다는 것에만 합의를 보았다고 한다. 왜냐하면 호기심을 탐구하고 해결하는 그 욕구를 정면으로 거스르기가 힘들기 때문이 아닐까 싶다. 어쩌면 그것이 인간이 할 수 있는 가장 적극적인 대응 방법이라고 한다.

알프레드 노벨은 자신의 연구 결과물이 사람을 살상하는 데 쓰일 거라는 생각을 하지 못했다. 마찬가지로 알베르트 아인슈타인도 그의 학문적 성과가 핵무기를 개발하는 이론적인 바탕이 될 것이라고 전혀 예측하지 못했을 테다.

지금의 인류는 너무 멀리까지 갔다고 생각한다. 절대 넘지 말았어야 할 선을 넘어버린 것이다. 암울한 예견이긴 하지만, 뭔가를 깨달았을 때에는 이미 늦어버린 때가 아닌가 싶다. 지금의 이 오만함이 언젠가는 심판받을 날이 올 거라고 나는 믿는다. 먼 미래에서 인류를 구할 전사를 죽이기 위해 T1000이 지금의 시대로 오지 않을 거라고 누가 보장할 수 있을까?