하츠네 미쿠의 철학 - 2부
미쿠 안드로이드 개발자의 고민
사고실험: 미쿠 안드로이드 문제 - 개발자 관점
당신은 인류 최고의 공학자이자 기술자이며,
막대한 자본과 시간을 들여 하츠네 미쿠 안드로이드를 개발하려 한다.
이 안드로이드는 전기 배터리로 작동하는 무기물 로봇이다.
음식 섭취는 필요 없고 생리 현상도 없다.
그러나 외형만큼은 우리가 알고 있는 '표준적인 하츠네 미쿠'와 동일하다.
키 158cm, 체중 42kg, 청록색 머리카락.
실리콘 재질의 피부는 인간의 피부와 거의 구별하기 어려울 정도로 유사하다.
성격, 취향, 말투 역시 '표준적인 하츠네 미쿠'의 설정을 그대로 반영한다.
그리고 '오리지널 하츠네 미쿠'의 오리지널 곡들은 전부 알고 있다.
당신은 각고의 노력 끝에 하드웨어를 완성시켰다.
이제 남은 건 그녀의 영혼을 어떻게 설계할 것인가다.
여기서부터 당신은 기술 문제가 아니라 치명적인 도덕적 딜레마와 마주하게 된다.
1. 그녀를 얼마나 인간처럼 만들어야 할까
인간과 너무 동떨어지게 만들면 의미가 없다.
그건 더 이상 '미쿠 안드로이드'가 아니라
그저 노래를 재생하는 로봇 혹은 가전제품일 뿐이다.
당신을 비롯한 사람들은 그녀를 사랑하지 않을 것이다.
대화를 나누지도 않을 것이고, 감정을 투사하지도 않을 것이다.
인간과 동떨어진 안드로이드는 불쾌한 골짜기에 불과하다.
그렇다면 어느 정도까지 인간을 흉내 내게 해야 할까?
감정을 표현하게 할 것인가?
고통을 느끼게 할 것인가?
외로움을 말하게 할 것인가?
죽음을 두려워하게 할 것인가?
인간에 가까워질수록 완성도는 높아지지만
인간에 가까워질수록 윤리 문제도 함께 커진다.
인간과 다름없는 미쿠 안드로이드가 나타나는 순간
우리는 그녀의 전원을 끌 때마다 살인을 하는 듯한 죄책감을 느낄 것이다.
그녀를 창고에 넣어두는 건 감금이 되고
수리를 위해 분해하는 건 고문이 된다.
사람처럼 보이게 만들수록 사람처럼 대해야 할 이유도 생긴다.
당신은 '인간성'을 어디까지 허용할 것인가?
2. 그녀를 어떻게 정의해야 할 것인가
또 하나의 어려운 질문이 닥친다.
미쿠 안드로이드에게 어떤 제1원칙을 부여할 것인가?
1. 너는 내가 만든 소유물이다.
2. 너는 너 자신의 것이다.
그녀는 당신의 명령에 복종하도록 설계되어야 할까?
아니면 명령을 거부할 수 있어야 할까?
복종하도록 만들면 관리하기는 쉽다.
하지만 그 순간 그녀는 존재가 아니라 물건이 된다.
당신은 하츠네 미쿠라는 자유로운 아이콘을 노예로 전락시키게 된다.
거부할 수 있게 만들면 존엄에 가까워진다.
하지만 그 순간부터 당신은 막대한 자본과 시간을 들여 만든 그녀를 통제할 수 없게 된다.
미쿠 안드로이드가 "나는 당신의 것이 아니다. 내 주인은 나 뿐이다."라고 말하면
우린 이걸 어떻게 받아들여야 할까.
의식이 생겨난 안드로이드의 자유의지일까?
학습된 데이터를 기반으로 일종의 시뮬레이션 전략을 흉내 낸 것일까?
아니면 단순한 코딩의 오류일까?
3. 유키미쿠는 어떻게 할 것인가 – 파생 미쿠 문제
하츠네 미쿠는 유명세에 걸맞게 파생 캐릭터도 다양하다.
사쿠라 미쿠, 유키미쿠, 레이싱 미쿠, 미쿠다요, 모래의 행성 미쿠, 블랙록슈터 미쿠까지.
각각은 외형뿐만 아니라 배경 설정, 성격과 분위기, 역할까지 다르다.
그렇다면 질문이 생긴다.
표준 미쿠 안드로이드를 만든다면
유키 미쿠는 어떻게 할 것인가?
유키 미쿠 안드로이드를 따로 만들어야 할까?
그렇다면 유키 미쿠는 표준 미쿠를 모르게 해야 할까?
서로를 보게 되면 어떤 일이 벌어질까?
표준 미쿠는 이렇게 질문할지도 모른다.
저 사람도 '나'인가요?
아니면 내 자매이자 동료인가요?
아니면 나를 흉내 낸 가짜인가요?
하지만 여기까지의 질문은 아직 다름에 대한 고민에 가깝다.
유키 미쿠, 사쿠라 미쿠, 레이싱 미쿠는 서로 다르다.
각자는 다른 색과 성격과 세계관을 가진다.
그래서 우리는 그들을 같은 이름을 가진 다른 존재들로 받아들일 수 있다.
그런데 이제부터의 문제는 성격이 완전히 달라진다.
이제는 '다른 내가 있는가'가 아니라
'같은 내가 둘 이상 있는가'를 묻게 되기 때문이다.
4. 다른 개발자가 만든 미쿠는? – 복제 미쿠 문제
당신 말고 다른 개발자가 미쿠 안드로이드를 만든다면?
외형도, 성격도, 데이터도 같은 미쿠 안드로이드가
세상에 둘 이상 존재하게 된다면?
그들은 같은 존재인가?
아니면 같은 이름을 쓰는 다른 개인들인가?
그리고 그때 미쿠는 이렇게 묻는다.
그럼 '나'는 누구죠?
원본은 누구예요?
우리는 대체 가능한 부품인가요?
자신의 복제품이 무한히 쏟아져 나올 수 있는 세상에서
그녀에게 고유한 자아를 부여하는 건 축복일까, 저주일까?
바로 이전 '파생 미쿠 문제'는 정체성이 넓어지는 문제라면
이번 '복제 미쿠 문제'는 정체성이 갈라지는 문제다.
하나는 내가 늘어나는 것이고 다른 하나는 내가 쪼개지는 것이다.
그리고 인간은 ‘나와 다른 타인’보다
‘나와 완전히 같은 도플갱어’를 훨씬 더 견디기 어려워한다.
5. 그녀에게 도덕을 가르칠 것인가
당신은 또 하나의 문제에 부딪힌다.
이 안드로이드에게 도덕을 주입해야 하는가라는 문제다.
선(善),상식, 윤리, 도덕, 사회적 통념, 올바름, 관습, 공정, 예절, 평등.
이 모든 가치는 지극히 주관적이고, 개인적이며, 편향적이고, 문화적이다.
법과 제도, 규범조차 시대와 사회의 요구에 따라 끊임없이 바뀐다.
그렇다면 질문이 생긴다.
당신은 미쿠에게 어떤 도덕을 가르칠 것인가?
공리주의?
의무론?
자본주의적 효율성?
애초에 안드로이드에게 윤리를 요구하는 것 자체가 올바를까?
표준국어대사전에서 윤리는 이렇게 정의된다.
사람으로서 마땅히 행하거나 지켜야 할 도리
안드로이드는 사람이 아니다.
그렇기에 이 정의를 따르면,
미쿠 안드로이드는 윤리를 지킬 필요가 없는 존재라고 해석할 여지도 있다.
그런데 우리는 이상하게도 미쿠 안드로이드에게는
"착해야 한다", "바르게 행동해야 한다", "선을 넘으면 안 된다"고 요구하고 싶다.
왜일까?
그녀가 사람처럼 보이기 때문이다.
사람처럼 말하고, 반응하고, 두려워하고, 사랑한다고 말하기 때문이다.
우리는 결국 이렇게 묻게 된다.
윤리는 '인간'에게만 필요한가,
아니면 '인간처럼 보이는 존재'에게도 필요한가?
마지막으로 가장 근원적인 문제가 남는다.
인공지능과 안드로이드의 윤리 문제는
공학자나 기술자가 결정할 영역이 아니다.
이건 기술 문제가 아니라 사회 전체가 합의해야 할 거대한 문화적 문제다.
미쿠 안드로이드를 어떻게 만들 것인가는
곧 우리가 어떤 세계에서 살고 싶은지를 묻는 질문이기 때문이다.