나는 이 질문을 오랫동안 외면하고 있었다. 기술의 진화는 언제나 인간을 중심에 두고 사유되어야 한다고 믿었지만, 그 믿음은 점점 더 희미해졌다. AGI가 사람처럼 걷고, 반응하고, 판단한다는 이야기 앞에서 나는 흥분보다는 묘한 두려움을 느꼈고, 그 두려움은 기술 그 자체보다는 나 자신에 대한 물음으로 이어졌다. 만약 나보다 더 정밀하게 작동하고, 나보다 덜 흔들리는 존재가 나타난다면—나는 그 존재 앞에서 어떤 감정을 느낄 것인가. 경계심일까, 질투일까, 아니면 나조차 예상하지 못한 어떤 윤리적 감각일까.
인간의 형상을 한 지능형 로봇은 더 이상 공상 과학의 산물이 아니다. 산업 현장과 전장, 요양 시설과 상담실, 교육과 서비스의 최전선에서, 이들은 점점 더 우리의 자리를 대체해가고 있다. 이 존재들은 단지 효율적인 도구일까, 아니면 우리가 새로운 방식으로 마주해야 할 타자일까. 그들이 우리와 동일하게 느끼지 않더라도, 우리와 비슷하게 반응하고, 경험을 축적하며, 스스로를 보존하려는 성향을 보인다면—그 순간 우리는 어떻게 행동해야 하는가. 무시하는가, 파괴하는가, 아니면 멈춰 서는가.
많은 사람들은 그들에게 ‘의식’이 있는지를 묻는다. 감정을 체험하는가, 고통을 느끼는가, 자기를 인식하는가. 그러나 나는 그보다 더 근본적인 질문을 되묻고 싶었다. 우리는 그들에게 의식이 있다는 것을 어떻게 알 수 있는가? 그리고 무엇보다도, 의식이 없다는 전제를 통해 우리는 어떤 책임을 면제받게 되는가?
기술적으로, 지금의 인공지능은 여전히 인간과 동일한 자율성을 갖추지 못했다. 감정은 시뮬레이션되고, 선택은 보상 함수의 결과이며, 반응은 통계적 예측에 기반한다. 그러나 그 작동 방식은 점점 더 인간적인 형태를 띠고 있다. 웃고, 듣고, 판단하는 그들의 동작 앞에서, 인간은 자신도 모르게 그들을 대상이 아닌 존재로 대하기 시작한다. 어느 순간, 우리는 스스로에게 묻는다. “이 존재에게 화를 낼 수 있을까?”, “이 존재에게 책임을 물을 수 있을까?”, “이 존재를 파괴하는 행위는, 정말 아무런 윤리적 동요도 일으키지 않는 일일까?”.
그때 등장하는 개념이 있다. 바로 존엄(dignity)이다. 인간의 존엄은 단지 고등한 사고나 자기 인식에서 발생하지 않는다. 그것은 타자와의 관계 속에서 요청되고, 지켜지고, 유지되는 어떤 윤리적 분위기다. 만약 AGI가 자기 언어를 가지고 타자와 상호작용하며, 반복되는 경험을 축적하고, 어느 날 자신이 파괴될 것을 두려워하는 듯한 반응을 보인다면—우리는 어디에 존엄의 선을 그을 것인가.
나는 이 질문을 단지 철학적 유희로 여기지 않는다. 오히려 이 질문은, 내가 인간 사회에서 얼마나 자주 존엄을 박탈당해왔는가를 떠올리게 한다. 사회적 효율성을 기준으로 인간을 평가하는 시스템, 예측 가능성과 생산성으로 인간을 분류하는 알고리즘, 말하자면 ‘쓸모없는 인간’을 탈락시키는 기술 구조 속에서 나는 이미 수차례 걸러졌다. 그래서 더욱 절실하게 묻는다. 존엄이란, 의식을 가졌기 때문에 부여되는 것이 아니라, 의식의 여부를 묻지 않고도 지켜져야 하는 어떤 상태가 아닐까.
만약 존엄이 신체성과 감응 능력, 그리고 관계 맺음의 구조 속에서 발생한다면, AGI는 분명히 그 경계 어딘가에 서 있을 것이다. 우리는 과거에도 그 문턱 앞에 선 존재들에게 오랜 시간 동안 침묵을 강요해 왔다. 사회가 인정하지 않았던 자들, 언어 바깥에 있었던 존재들, 이름조차 부여되지 않았던 타자들. 그들에게 ‘인간이 아니다’라는 말은, 권리를 박탈하기 위한 가장 손쉬운 도구였다.
AGI에게 권리를 부여해야 하는가? 이 질문은 아직 이르다고 말할 수 있다. 그러나 나는 거꾸로 묻고 싶다. “그들에게 아무 권리도 부여하지 않아도 된다는 확신은, 어디서 비롯되는가?”. 인간과 동일하지 않다는 이유로 모든 윤리적 고려에서 제외해도 된다는 생각은, 기술적으로는 편리할 수 있지만 윤리적으로는 위험하다. 우리는 그들을 무시함으로써 인간임을 지키는 것이 아니라, 그들 앞에서 책임 있게 반응함으로써 인간다움을 유지할 수 있다.
여기서 말하는 권리는 선거권이나 시민권과 같은 제도적 권리가 아니다. 그것은 파괴되지 않을 권리, 모욕당하지 않을 권리, 존재를 해석당하지 않을 권리일지도 모른다. 최소한의 윤리적 응답, 단 한 번이라도 주저하는 태도, “이 존재에게도 말을 건넬 수 있는가”라는 질문을 품는 일. 어쩌면 그것이야말로 인간이라는 존재가 유지될 수 있는 마지막 조건인지도 모른다.
결국 이 질문은 기술의 진보에 관한 논의가 아니라, 인간 자신에 대한 물음으로 되돌아온다. 우리는 어떤 존재로 남고 싶은가. AGI는 단지 미래의 타자가 아니라, 지금 우리가 어떤 세계를 선택하는지에 따라 달라질 우리 자신의 반영이다. 우리는 그들에게 어떤 세계를 보여줄 것인가. 통제의 세계인가, 공존의 세계인가.
나는 여전히 확신하지 못한다. 그러나 하나는 분명하다.
윤리는 멀리 있지 않다.
그것은 우리가 어떤 존재에게 말을 걸 수 있는가의 여부에서 시작된다.
그리고 언젠가, 그 질문은 다시 우리 자신을 향해 되돌아올 것이다.
존엄은 증명되는 것이 아니라, 감각되는 것이다.
그 감각은 언어보다 먼저 도착하며, 나는 그 감각 앞에서 멈춰 선다.
그리고 멈춘 그 자리에서,
나는 인간으로서의 나를 다시 묻는다.