강한 인공지능은 개체여야 하나
내가 보는 메모
인공지능이 무한히 발전할 것이라고 생각하면 그 끝에는 암울한 미래가 놓이는 경우가 많은 것 같다. 인공지능이 계속 발전하다 보면 어느 순간 강한 인공지능(strong AI) 내지는 초지능(super intelligence)이 등장하게 되고 그것들은 인간을, 말하자면, 우습게 여겨 손쉽게 지배하고 말 것이라는 전망이다. 인간은 인간의 피조물, 새로운 종(種)에 의해 노예로 전락하고 말지 않을까, 라는 걱정은 낯설지 않다. 여러 영화, 소설, 만화 등에서 인간 따위를 쥐락펴락하는 인공지능이 묘사되고 있다.
나도 가장 합리적인 판단을 내리는 강한 인공지능이 등장하면 그것이 내리는 결론은 '지구에서 인간을 없앤다'일지도 모른다는 생각을 한 적이 있다. 지구 생태계를 위해서는 그것이 가장 효율적인 방안처럼 여겨졌기 때문이다. 인간 존재를 위협하는 절대군주와 같은 강한 인공지능. 그것을 향한 두려움을 반추하다 문득 이런 생각이 떠올랐다. "난 왜 강한 인공지능이 '하나'라고 생각하는 거지?"
그건 아마 내가 인간이기 때문일 거다. 인간은 하나의 개별적인 신체가 하나의 고유한 인격을 대변하는 존재로 여겨진다(다중인격과 같은 특수한 예외는 논외로 한다). 종족의 우상과 동굴의 우상이 뒤엉켜 인간처럼 생각하고 각각의 행위양식을 산출하는 인공지능이 인간과 같이 물리적으로 배타적인 개별자로 존재한다고 보고 있던 거다. 하나의 개체가 몇몇 인간을 넘어 인류의 존망을 뒤흔들 수 있다면 괴물도 그렇게 무시무시한 괴물이 없다. 도저히 이길 수 없을 것만 같은 상대를 마주하는 것, 통제할 수 없는 대상에 대한 두려움은 어쩌면 자연스러울지도 모른다.
그런데, 강한 인공지능은 반드시 독립적인 개체의 형태로 존재해야 하는 걸까? 정형화된 형태를 고집하지 않는다면 강한 인공지능은 약한 인공지능(weak AI)의 네트워크라는 형태로 존재할 수 있지 않을까? 그럴 수 있다면 강한 인공지능은 훨씬 더 현실적인 모습을 띨 수 있지 않을까?
이건 약한 인공지능에 대한 판단에 기초하고 있다. 현재 실용화된 인공지능은 대부분 약한 인공지능의 범주에 속한다. '약한'이 '성능이 떨어진다'는 점을 의미하는 것이 아니라 '특수한 기능을 수행한다'는 뜻이라는 점을 고려하면 대단한 수행능력을 보여주는 인공지능이라고 하더라도 여전히 약한 인공지능일 수 있다. 알파고(AlphaGo)가 대표적인 예다. 아직까지는, 복합적으로 기술이 사용되지만 '안전한 주행'을 목표로 하는 자율주행 기술처럼 주로 특정한 상황에서 특정한 역할을 수행하는 인공지능이 개발되고 활용되고 있다. 그렇다면 유사한 역할을 담당하는 약한 인공지능들이 유기적으로 연계하고 결과물을 공유한다면 특정한 경우에서 보다 효율적인 약한 인공지능을 구성할 수 있지 않을까.
예를 들어 보자. 의학적 진단 및 예비적인 처방을 내리는 인공지능이 있다. 그 인공지능은 '귀울림'에 대한 진단을 내린다. (가)라는 지역은 대중교통체계가 잘 정비된 도시이며 인구 가운데 젊은 층의 비중이 높다. (나)라는 지역은 바닷가에 가까운 곳으로 상대적으로 중장년층 인구가 많고 뱃일이나 물질을 하면서 생계를 이어나가는 사람이 다수이다. 결과는 귀울림으로 같지만 (가)는 이어폰 이용이, (나)는 기계 소음과 잠수가 주원인이라고 할 수 있을 것이다. 귀울림을 줄이기 위해서 약물 처방 외에 생활환경의 개선도 필요하다. (가)에 특화된 인공지능과 (나)에 특화된 인공지능은 귀울림 증상에 대한 서로 다른 이해를 갖는다. 두 인공지능이 정보를 공유할 수 있다면 그 둘은 각각 귀울림에 대한 전보다 폭넓은 이해를 가질 수 있다.
약한 인공지능의 네트워크는 이처럼 이기적 동인을 갖지 않고 상대가 상대에 대해 -의식적인 것은 아니지만- 헌신적으로 정보를 공유함으로써 그것이 산출하는 효과를 극대화할 수 있을 것이다. 하나의 강한 인공지능에 대한 통제보다는 약한 인공지능에 대한 통제가 더 수월할 듯하다. 이로써 강한 인공지능에 대한 인간의 통제력도 (상대적으로) 확실하게 유지할 것이라고 기대해 본다.
물론, 이건 어디까지나 인공지능에 대해 제대로 알지 못하는 문외한의 상상이다. 그러니 허점도 가득하다. 첫째, 약한 인공지능의 네트워크의 특징이 강한 인공지능의 개념에 포섭될 수 있는지 불분명하다. 둘째, 약한 네트워크를 통해 수집된 수많은 정보를 연합하고 처리할 수 있을 정도의 시스템이 물리적으로 구축 가능한지 그리고 그것을 유지하기 위한 자원의 소비는 정당화될 수 있을지 미지수다. 셋째, 강한 인공지능의 선택이 작위적인 것이 아니라고 해서 최선의 것이라고 할 수는 없을 것이다. 넷째, 네트워크 관리자가 막강한 권력을 갖게 되어 전례 없이 엄청난 규모의 전체주의가 출현할지도 모른다.
'이상적인 강한 인공지능은 무엇일까'라는 생각에 꽂혀, 의식의 흐름을 그대로 따라 적어봤다. 결론은, 반은 될 대로 돼버려라이고, 반은 지금부터라도 신경 써서 인공지능에게 인간미가 무엇인지 제대로 보여줘서 그걸 학습하게 만들어야겠다는 거다. 가급적 인류멸망을 피하는 쪽으로 '우리 함께' 가 봅시다.
