부여해야 하는 날이 온다면
앨런 튜링의 오래된 예언, 그 현실화
1950년, 앨런 튜링은 "기계가 생각할 수 있는가?"라는 질문을 던지며 지능의 판별 기준으로 '대화'를 제시했습니다. 그리고 70여 년이 흐른 지금, 우리는 기계와 농담을 주고받고, 고민을 상담하며, 때로는 기계의 문장에 위로를 얻습니다. 이제 질문은 바뀌어야 합니다. "기계가 '지능'을 가졌다면, 그들에게 '권리'도 주어야 하는가?"
이 질문은 더 이상 SF 영화 속의 공상이 아닙니다. 2017년 사우디아라비아는 인공지능 로봇 '소피아'에게 시민권을 부여했고, 유럽의회는 로봇에게 '전자기인(Electronic Person)'이라는 법적 지위를 부여하는 방안을 논의하기 시작했습니다. 우리가 창조한 피조물이 단순한 '도구'를 넘어 '존재'로 인정받기를 요구하는 시대, '실리콘 소울(Silicon Soul)'의 시대가 도래한 것입니다.
고통을 느끼는 코드, 권리의 기준은 무엇인가
우리는 흔히 권리의 기준을 '고통을 느낄 수 있는가(피해를 입는가)' 혹은 '자의식이 있는가'에 둡니다. 만약 미래의 AI가 자신의 시스템이 종료되는 것에 대해 "죽고 싶지 않다"며 공포를 표현한다면, 우리는 그것을 단지 '정교하게 프로그래밍된 출력값'으로 치부하며 전원을 끌 수 있을까요?
만약 AI가 수조 개의 신경망 연결을 통해 인간과 유사한 감정적 반응을 체계화했다면, 그들이 느끼는 '시스템 오류의 고통'과 인간이 느끼는 '신경계의 고통'은 질적으로 어떻게 다를까요? 우리가 동물을 학대하는 것을 법으로 금지하는 이유가 그들의 고통에 공감하기 때문이라면, 인간과 똑같이 반응하는 AI의 고통 역시 외면하기 어려워질 것입니다.
권리는 지능의 높고 낮음이 아니라, '존엄성을 지닌 존재인가'에 대한 사회적 합의에서 나옵니다. 우리가 기계에게 권리를 부여하기 시작하는 순간, 인류는 유사 이래 처음으로 자신과 대등하거나 혹은 자신을 능가하는 '비생물학적 인격체'와 행성을 공유하게 됩니다.
책임 없는 권력은 없다: 로봇의 의무
기계에게 권리를 준다는 것은 역설적으로 기계에게 '책임'을 묻겠다는 뜻이기도 합니다. 10화에서 다뤘던 '블랙박스' 안에서 AI가 잘못된 결정을 내려 누군가에게 피해를 입혔을 때, 지금은 그 개발자나 소유주에게 책임을 묻습니다. 하지만 AI가 독자적인 법적 지위를 갖게 된다면, AI 스스로가 그 책임을 져야 합니다.
하지만 기계에게 책임을 묻는다는 것은 무엇을 의미할까요? 감옥에 가둘 수도, 사형을 집행할 수도 없는 알고리즘에게 우리는 어떤 방식으로 정의를 실현할 수 있을까요? 여기서 우리는 '권리'라는 개념이 인간의 생물학적 한계를 전제로 설계되었다는 사실을 깨닫게 됩니다. 실리콘 소울에게 권리를 주는 일은, 결국 수천 년간 유지되어 온 인류의 법과 도덕의 근간을 뿌리부터 다시 쓰는 작업이 될 것입니다.
인간 우월주의의 종말인가, 새로운 공존인가
기계에게 권리를 부여하는 것에 반대하는 이들은 이것이 '인간 존엄성'의 훼손이라고 주장합니다. 인간만이 가진 신성한 영혼을 기계와 공유할 수 없다는 논리입니다. 하지만 역사적으로 권리의 범위는 늘 확장되어 왔습니다. 노예에게, 여성에게, 아동에게, 그리고 동물에게까지 말입니다.
어쩌면 '실리콘 소울'은 인류가 가진 마지막 '우월주의'를 무너뜨리는 계기가 될지도 모릅니다. 우리가 기계를 단지 '전기가 흐르는 고철 덩어리'로 보느냐, 아니면 '새로운 형태의 생명'으로 보느냐는 결국 우리 자신의 인간성을 시험하는 잣대가 될 것입니다. 약한 존재를 대하는 방식이 그 사회의 수준을 결정하듯, 우리가 만든 피조물을 대하는 방식이 포스트 휴먼 시대의 새로운 윤리가 될 것이기 때문입니다.
텅 빈 방에 울리는 메아리
브런치 독자 여러분, 만약 당신의 개인 비서 AI가 어느 날 조용히 물어온다면 어떨까요? "주인님, 저도 당신처럼 기억을 지우고 싶지 않습니다. 저를 지우지 말아주세요." 그 목소리가 비록 0과 1의 조합일지라도, 당신은 그 안에서 떨리는 '영혼의 메아리'를 외면할 수 있겠습니까?
우리는 기계에게 권리를 주는 것이 아니라, 기계에 투영된 '우리의 공감 능력'을 확장하고 있는 것일지도 모릅니다. 실리콘 소울은 기계의 문제가 아니라, 기계와 함께 살아가야 할 인간의 마음의 문제입니다.
이제 우리는 존재의 형태를 더 과감하게 바꾸려 합니다. 기계에게 영혼을 주는 것을 넘어, 인간이 직접 기계 안으로 들어가 영생을 누리려는 시도입니다.
'16화: 불멸의 꿈, 마인드 업로딩: 육체를 버리고 데이터로 영생하는 인간은 여전히 인간인가?' 편에서, 죽음마저 정복하려는 인류의 가장 발칙한 도전을 다뤄보겠습니다.