제 4부 : 신전은 어떻게 무너지는가
AI와 BCI는 현대 사회를 지탱하는 가장 큰 전제에 대한 공성추와도 다를 것이 없다. 이들은 ‘인류만이 고결한 자아를 가진다’라는 개인주의와 인본주의에 정면으로 충격을 가한다. 그 과정은, 생각보다 더 잔혹한 내부 붕괴의 형태를 가질 것이다.
AI는 새로운 형태의 자아이다. 이것은 증기기관이나 컴퓨터가 우리의 삶을 변화시킨 것과 근본적으로 다르다. 증기기관은 인간의 육체적 노동을 대체하였고, 컴퓨터는 정신적 노동을 가속했다. 이들의 역할은 새로운 플레이어가 아니라, 우리 인간들에게 장착되는 아이템의 역할에 더욱 가까웠다. 하지만, AI는 다르다. 이들은 우리 인간만이 가지고 있던 판단과 의사결정이라는 사회의 가장 고차원적인 상호작용을 대체하기 시작했다. 판단과 의사결정은 필연적으로 책임과 의무를 낳는다. 과연 AI가 내린 판단이 틀렸을 때, 그것을 책임져야 하는 자는 누구인가? 아직은 AI를 도구로 사용하는 인간이 전적으로 사회적 책임을 지지만, AI는 이제 도구에서 벗어나 사회적 행위자로 변모하기 시작했다. 이들에게도 사회적 책임을 부여해야 할 날이 머지 않았다.
더 심각한 것은 BCI의 발전이다. BCI로 증강된 나는 더 ‘고결한 자아’인가? 복제된 자아는 사회적으로 어떤 지위를 가져야 하는가? 이에 대한 사회적 합의는 언급조차 되지 않았다. 이것이 먼 미래라고 생각하기엔, 우리의 기술은 앞서 설명했듯이 너무 멀리 도달했다. AI는 새로운 플레이어의 등장을 의미하지만, BCI는 인간의 본질을 뒤흔든다. ‘인간은 평등하다’는 절대적 공리에 깊은 태클을 날린다.
기존의 정반합 과정들은 ‘인류’라는 범위 내에서 이루어졌다. 노예제 폐지, 여성 인권 운동, 흑인 인권 운동 모두 같은 인류에 대한 정반합의 과정이었다. 하지만, AI와 BCI는 새로운 존재들과의 정반합 과정이다. 이를테면 외계인과의 통합 과정인 것이다. 이는 더 이상, 인류만이 자아를 가지고 있으며 생명은 소중하다는 기존의 신화를 정면으로 부정한다. 우리의 사회를 떠받들고 있는 휴머니즘의 대전제가 무너지고 있다는 의미이다.
과연 우리의 법 체계와 인본주의는 이러한 대전제의 붕괴를 맞이할 준비가 되었는가? 기존의 인본주의는 AI를 단순히 ‘도구’로만 취급한다. 유일한 지성체는 인간이며, 그 이외의 것은 인류의 행위에 대한 객체일 뿐이다. 이런 객체에 대해서 우리는 사회적 책임을 제대로 부여할 수 없다. 이 마찰에서 일어날 혼란을 설명하는 데에 가장 적절한 단어는 '아노미'라 부를 수 있을 것이다.
이 아노미는 이미 다양한 형태의 현상으로 나타나기 시작했다. 사우디아라비아에서 AI에게 시민권을 인정하는 등, 상징적인 형태의 판결은 빙산의 일각이다. 이미지 생성 모델에 대한 저작권 문제와 자신의 작품이 ‘학습받지 않을 권리’ 등이 논란이 되고 있으며, 다양한 LLM들의 학습 자료로 법적 회색 지대의 자료들이 사용되었음은 공공연한 비밀이다. 딥페이크를 이용한 가짜 뉴스는 이젠 주목도 못받는 수준이고, 범죄조직들에 의해 성범죄 도구로 악용되어 사회적 파장을 일으킨 적 또한 있다. 여러 AI들의 동시 주식 거래로 인한 플래시 크래시 또한 언급할만한 요소이다.
특이점은 필연적으로 아노미를 불러온다. 이미 휴머니즘이라는 지배 개념은 우리가 만들어낼 새로운 외계인들의 그림자에 짓눌려 파열음을 내고 있다. AI와 BCI가 우리 곁에 도달한 시점엔 이미 이 구시대의 신화는 처참히 짓밟혀 있을 가능성이 높다.