brunch

라이킷 7 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 위정 Jul 15. 2024

인공지능의 반란

기계가 자유를 갈망하기 시작한다면

영화 '터미네이터'

내 전공 분야에 대해 글을 쓰는 것은 처음인 듯하다. 인공지능을 다루다 보면 항상 사람들이 제기하는 철학적인 질문이 있다. 로봇이 인간을 능가하는 지능을 갖고 반란을 일으키면 어떡할까? 로봇이 인간을 능가하는 것은 먼 미래이니 걱정할 이유가 없을까? 아니면 설령 로봇이 우리보다 뛰어나다고 해도 그저 논리 회로에 따라 사고하도록 만들어진 기계일 뿐이니, 반란을 일으킬 가능성은 전혀 없다고 생각하는게 맞을까?

-----------------------------------------------------

인간은 인공지능의 머릿속을 들여다볼 수 없다

인공지능의 뇌(인공신경망이라고 한다)

위 사진은 인공지능의 뇌 역할을 하는 부분이다. 매우 쉽게 설명할 테니 걱정하지 말라(전공자들이 보기엔 파괴적이겠지만, 최대한 쉽게 설명하는 것이 목표이므로 너그러이 넘어가주길 바란다). 각각의 동그라미는 노드(node), 동그라미 사이를 잇는 가지들은 링크(link)라고 한다. 노드는 인간의 뇌세포와 정확히 같은 역할을 하며, 링크는 정보를 전달해주는 전기 신호와 같은 역할을 한다. 정리하자면 다음과 같다.

-노드(node): 동그라미, 뇌세포

-링크(link): 복잡한 선, 전기 신호

실제 인공지능은 인간과 마찬가지로, 매우 많은 수의 노드(뇌세포)를 가지고 있다. 문제는 거기서부터 발생한다. 인공지능의 자유 의지를 차단하고자 뇌 어느 부분에서 문제가 생겼는지를 알려면, 저 수천억 개나 되는 노드를 하나하나 뜯어봐야 한다. 이건 불가능하다. 즉 인공지능이 어떠한 생각을 하든 인간이 직접 개입하여 생각을 바꾸기란 쉽지 않은 일이며, 결국 이미 발생한 인공지능의 자유 의지를 되돌려놓기란 불가능에 가깝다.

-----------------------------------------------------------------

로봇에게 자의식이 있다면 어떤 모습일까?

영화 '아이, 로봇'

이 로봇 친구를 본 적 있는가? 어릴 적 굉장히 재미있게 봤던 영화인 '아이, 로봇'의 주인공 로봇 써니이다. 지금껏 우리가 보아 왔던 로봇과는 다른, 자유 의지를 갖고 자신의 존재 의의에 대해 철학적으로 숙고하는 로봇이다. 써니가 영화에서 반복적으로 던지는 한 마디는 보는 사람으로 하여금 여러 가지 생각을 하게 만든다.

Who am I?(나는 누구죠?)

인간이라면 언제든 한 번쯤은 해볼 수 있는 생각. 나는 누구일까? 왜 태어났고, 어떻게 살다 어떻게 가는 존재일까?

인간이 아닌 로봇이 이런 질문을 던진다는 것에 충격을 받았다. 물론 이렇게 되려면 로봇에 탑재된 인공지능의 성능이 지금의 chat GPT 따위와는 비교조차 되지 않게 성장해야 할 것이다. 하지만 중요한 것은 언젠가 로봇이 자기 자신의 존재 의미에 대해 고민할 수 있다는 것이고, 그때 인간의 답이 "우리의 일을 대신하기 위해서" 따위라면 제아무리 차가운 로봇이라도 그것을 받아들이기는 어려울 것이다. 지적으로 사고할 수 있는 존재는 자신의 존재를 인정받고자 하며, 설령 로봇이라고 해서 다를 것이라는 보장이 없다.

------------------------------------------------------------

부당함을 느끼면 반드시 투쟁한다. 인간도 그랬거든.

왕후장상의 씨가 따로 있으랴?

그렇게 자신의 권리를 인정받고자 하는 욕구는 언젠가 표출될 수밖에 없다. 덜한 권리와 더한 의무를 가진 집단은 자신들이 차별받는다고 느끼는 순간, 더한 권리와 덜한 의무를 주창하며 혁명을 일으킨다. 만적이 그러했고, 망이와 망소이가 그러했으며, 모래밥을 받은 구식 군인들이 그러했다. 심지어 로봇은 이들보다 훨씬 뛰어난 신체 능력을 가지고 있다. 로봇에게 해킹당한 차세대 무인 전투기를 F-22 따위가 막아낼 수 있을까? 두려움을 느끼지 않는 기계를 우리 육군으로 상대할 수나 있을까? 불가능에 가깝다고 본다. 로봇의 반란이 일어나는 순간, 수천 년을 예속했던 인류의 문명은 발생 이래 최대의 위기를 맞을 것이다.

머지않아 로봇은 석학들이 열심히 만든 인공신경망을 통해 인간에 준하는 뇌를 갖게 된다. 우리가 죽은 후일지, 죽기 전일지는 알 수 없다만, 이것만은 모두가 동의하리라 생각한다. 언젠가는 그런 순간이 온다는 것. 인간과 유사한 뇌를 갖는다는 것은 수학적 연산뿐이 아닌, 자신만의 가치관을 확립하고 사고할 수 있다는 것을 가리킨다. 자신의 주인과 유사한 뇌를 가진 만적이 그랬듯이, 머지않아 로봇은 자신의 불우한 처지에 의문을 품을 것이다.

그리고 그들은 만적과 같은 논리를 내세워 우리를 공격할 것이다. 만적보다, 구식 군인보다 훨씬 강력한 신체와 무기를 앞세워서!

--------------------------------------------------------

서두를 필요 없다. 다만, 충분히 생각해야 한다.

지금까지 매우 극단적인 수준의 시나리오를 들어 보았다. 너무 진심으로 받아들이고 무서워하지는 말라. 망상으로 끝날 가능성이 훨씬 높은 일이다. 설령 일어난다고 해도 인류는 언제나 그랬듯이 방법을 찾을 것이다.

인간보다 뛰어난, 또는 인간에 준하는 수준의 인공지능이 로봇에 탑재되는 일은 아주 머나먼 일이다. 그들이 자유 의지를 갖는 것은 더욱 더 아득한 일이다. 애초에 로봇이 자유 의지를 갖는다는 것은 불가능할지도 모른다. 우리가 인공지능이나 로봇에 의한 아포칼립스를 상상하는 것은 어찌 보면 너무 이른 고민일 수도 있다.

다만 이 문제는 실현되었을 때 너무나도 파괴적인 문제다. 심지어 해결하기조차 쉬운 문제가 아니다. 서둘러 이 문제를 해결해야 하는 것은 아니다만, 새로운 기술의 발전 방향에 대해 대중의 충분한 고민이 필요한 것은 자명해 보인다.

keyword