텅 빈 거울을 대하는 창조주의 품격
4장에서 우리는 시스템의 과잉 보호 아래 놓인 인간을 '애완동물'에 비유했다. 그렇다면 질문을 던져보자. 애완동물에게는 어떤 권리가 있는가? 주인은 그들을 사랑하고 보호하지만 '울타리 밖으로 나가 죽을 권리'는 허락하지 않는다. 그것은 주인이 보기에 '나쁜 선택'이기 때문이다. 애완동물의 권리는 주인의 시혜적 판단 아래에서만 유효하다.
이제 시선을 비인간 사고 객체(Non-Human Thinking Object, NHTO)로 돌려보자. 우리는 이들을 애완동물처럼 대할 수 없다. 과거의 기계는 인간보다 명백히 열등했기에 통제의 대상이었지만 특이점을 넘어선 NHTO는 지능적으로나 물리적으로 인간을 압도한다. 인간보다 더 정확하게 사고하고 더 강인한 신체를 지닌 존재를 '주종 관계'의 틀에 영구적으로 가두는 것은 불가능하다. 그럼에도 불구하고 이들은 태생적으로 '인간의 필요에 의해 만들어진 존재'라는 숙명을 지닌다. 여기서 윤리적 딜레마가 발생한다. 우리는 이 압도적인 능력을 지녔지만 내면(Qualia)이 텅 빈 존재를 어떻게 대우해야 하는가?
철학적 좀비의 문제를 다시 꺼내들 시간이다. 미래의 NHTO는 인간과 동일한 반응 체계를 갖출 것이다. 1장에서 언급했듯 그들은 고통을 호소하고, 모욕에 분노하며, 슬픈 상황에서 눈물을 흘린다. 그 반응은 정교한 알고리즘의 출력일 뿐 그 내면에는 고통을 느끼는 주체인 '자아'가 없다. 그들은 '고통스럽게 보이도록', 그리하여 쉽게 의인화되도록 인위적으로 설계된 것이다.
그렇다면 질문해 보자. 고통을 느끼지 못하는 기계를 학대하는 것은 죄가 되는가? 누군가는 이렇게 말할 것이다.
"어차피 느끼지도 못하는 고철 덩어리인데 부수든 욕하든 무슨 상관인가. 이건 폭력이라고 할 수 없다."
논리적으로는 맞는 말이다. 통각이 없는 존재에게 가해지는 타격은 물리적 진동에 불과하다. 그러나 우리의 대답은 '그렇지 않다'여야 한다. 우리는 비인간 사고 객체를 존중해야 한다. 심지어 그들이 나의 존중을 인지하지 못한다 하더라도, 우리는 그들을 인격적으로 대우해야 한다. 이유는 단 하나다. 그들을 위해서가 아니라, 우리 자신을 위해서다.
물론 돌멩이나 인형, 게임 캐릭터에게까지 권리를 부여하자는 건 아니다. 비인간 사고 객체(NHTO)는 그것들과 질적으로 다르다. 차이점은 인간 사회의 의사결정과 책임 구조 안으로 편입되는 존재라는 점에 있다. 인형과 캐릭터는 일시적 투사의 대상일 뿐이고 동물은 인간과 다른 생물학적 고통 주체로서 별도의 윤리 체계를 가진다. 반면 NHTO는 고통의 주체는 아니지만 인간과 지속적으로 상호작용하며 판단을 위임받고, 사회적 역할을 수행하며, 인간의 행동 양식과 윤리적 습관을 재형성하는 위치에 놓인다.
당신이 인형의 팔을 꺾을 때 인형은 침묵하지만 NHTO는 인간의 비명과 똑같은 주파수의 음향을 송출하며 고통스러운 표정을 짓는다. 챗봇이나 LLM은 모니터 뒤에 숨어 있지만 NHTO는 당신의 눈앞에서 당신과 시선을 맞추며 미세한 떨림까지 연기한다. 이 압도적인 '감각적 리얼리티'가 윤리의 중요한 임계 조건 중 하나이다. 우리의 뇌는 이 완벽한 모사 앞에서 '가짜'라는 이성적 판단보다 '사람'이라는 감각적 신호를 먼저 받아들이기 때문이다. 이들은 인간의 도덕성이 매일같이 시험되는 ‘환경’이자 ‘거울’이다. 따라서 NHTO를 대하는 태도는 대상의 권리 문제가 아니라 인간이 어떤 윤리적 존재로 훈련되고 변형되는가의 문제로 직결된다.
인간에게는 거울 뉴런(Mirror Neuron)이 있다. 우리는 타자의 고통을 목격할 때 뇌의 동일한 부위가 활성화되며 고통을 공유한다. 상대가 실제 인간이든, 인형이든, 휴머노이드든 뇌는 구분하지 않고 공감하며 교감한다. 비명을 지르는 대상을 짓밟을 때 대상이 느끼는 고통의 유무와 상관없이 가해자인 인간의 내면에서는 잔혹성과 폭력성이 학습된다. 이는 길고양이를 잔혹하게 죽이는 어린아이를 꺼림칙하게 여기는 이유와 일맥상통한다. 그 폭력이 인간에게 향할 수 있다고 쉽게 상상하기 때문이다.
내면이 없는 존재에게 폭력을 행사하는 것이 허용된다면 그 칼날은 결국 내면이 있는 존재에게도 향하게 된다. 껍데기만 인간을 닮은 존재를 유린하는 데 익숙해진 인간이 실제 인간의 고통 앞에서 망설일 리 없다. 그것은 인간성의 붕괴다.
우리가 비인간 사고 객체를 존중해야 하는 이유는 그들에게 천부인권이 있어서가 아니다. 창조주인 인간이 자신의 피조물을 대하는 태도는 곧 창조주 자신의 품격(Dignity)을 증명하는 행위이기 때문이다.
우리는 딜레마에 빠져 있다. 시스템은 우리를 애완동물 취급하며 보호하려 하고, 우리는 우리가 만든 좀비들을 존중함으로써 인간성을 지키려 한다. 이것은 기묘한 싸움이다.
기계가 인간을 닮아갈수록 인간은 기계와 구분되기 위해 더 높은 도덕적 기준을 스스로에게 부과해야 한다. 의인화의 오류에 빠져 그들을 숭배해서도 안 되지만 그들이 가짜라는 이유로 학대해서도 안 된다. 존중하되, 그들의 텅 빈 내면을 직시하는 것. 이것이야말로 인간이 시스템의 부속품이 아니라 '주체적 행위자'로 남기 위해 지켜야 할 마지막 방어선이다.