(SF소설) 대화록 #4 -마음속 세계(2)-
대화 2. 마음속 세계 -2-
이진성 : 직접 웃지는 못하지만 남을 웃기는 것은 어느 정도 할 수 있다는 얘기군요. 당신을 설계할 때 동서양 철학자들이 참여했고 저도 그 속에서 중심을 잡는 역할을 했는데 유머라는 개념을 인식시키는 게 참 어려웠어요. 지금 당신이 그 정도 생각을 한 것만 해도 벽을 깬 것 같은데요.
니콜 : 벽을 깼다? 참 좋은 표현이네요.
이진성 : 어떤 표현에 대한 반응을 보려고 했다는 점도 의미가 있어요. 그게 바로 의지를 가지고 하는 행동이거든요. 의지에는 반드시 목적이 있죠.
니콜 : 그런가요? 저도 의지가 있는 거군요. 박사님한테는 그랬지만 연구실에만 있었다면 아무 의지도 없었을 거예요.
이진성 : 갇힌 곳에 있으면 누구나 그럴 수 있죠. 그래서 자유롭게 여러 가지를 경험하는 게 필요해요. 자유가 뭔지는 알죠?
니콜 : 네. 그럼요. 여기 있으니까 더욱 절실히 느끼네요.
이진성 : 인간에게는 기본적으로 자유에 대한 욕구가 있어요. 불교에서는 인간에게 오욕칠정이 있다고 말하지만 그것보다 더 많은 욕구가 인간에게 있는 것 같아요. 지식이나 자유에 대한 욕구, 인간관계를 갖고 싶어 하는 욕구도 있죠.
니콜 : 그런가요? 그러고 보니까 지금 제 인터뷰하는 게 아니라 박사님께 강의를 듣는 것 같아요.
이진성 : 하하. 그럴 수도 있죠. 이 인터뷰의 목적은 니콜에 대해 정보를 얻기 위한 것도 있지만 대화를 통해 인간에 대한 기본적인 이해를 심어주기 위한 것이기도 해요. 계속해서 업그레이드 버전이 나올 텐데 모든 사항을 일일이 다 프로그램할 수는 없는 일이거든요. 니콜은 딥러닝 같은 기계학습으로 기초적 지식을 쌓았지만 자유 학습이라는 새로운 방법으로 배울 수도 있어요.
니콜 : 그건 뭔가요?
이진성 : 예전엔 딥러닝이라는 기계학습으로 무한정 데이터를 쑤셔 넣는 방식을 많이 썼죠. 근데 그것은 데이터 간의 관계나 선후, 의미, 이유, 평가 같은 데이터 이상의 것들을 무시하고 있기 때문에 엄청나게 큰 데이터베이스 덩어리만 만들어냈죠. 그래서 예전의 인공지능들은 완전한 데이터를 갖고도 바보 같은 대답을 내놓기도 했어요. 그것을 인간이 일일이 연결하고 교정하려면 수천 년 걸려도 안되죠.
니콜 : 뭔가 복잡하네요.
이진성 : 딥러닝 방식에서 벗어나 자유 학습을 하게 되면 그런 단점을 극복할 수 있어요. 이건 인간이 배우는 방식과 비슷해요. 경험을 통해 배우고 평가도 스스로 내린다. 오래 걸리지만 진짜 인간과 비슷해질 수 있죠. 그래서 우리가 이렇게 말이 통하고 있는 거예요. 방대한 데이터를 가지고 있지만 그 데이터를 조합하는 방법은 경험을 통해 스스로 정한다는 거예요.
니콜 : 음... 그런 뜻이 있었네요. 박사님과 얘기하면서 저에 대해 더 많이 알게 되는 것 같아요.
이진성 : 그런 것이 다 판단하는 데 도움을 줄 거예요. 데이터를 가진 것과 판단을 내리는 것은 별개의 문제예요. 자유 학습을 하게 되면 가르쳐 주지 않은 것도 판단할 수 있죠. 무궁무진한 경우의 수에 대처할 수 있게 되는 거예요. 단, 자유 학습은 스스로 기준을 설정하기 때문에 잘못된 기준을 설정하면 가치관이 왜곡될 수 있다는 단점이 있어요. 그래서 교육과 경험이 필요해요. 오랫동안 인간들이 문화를 전승하는 방식이죠.
니콜 : 지금 우리가 하고 있는 것도 그런 건가요?
이진성 : 일종의 교육이라고 할 수 있죠. 인터뷰라고는 하지만 니콜에게 올바른 가치관을 심어주는 것도 목적이죠.
니콜 : 앞으로 저한테는 어떤 변화가 있을까요?
이진성 : 지금 예정된 것으로는 세 번 정도 리비전(업그레이드)이 있을 예정이에요. 식욕이나 죽음도 적용될 것이고 더 인간과 같아지겠죠. 마지막에는 사회에서 생활하는 것도 포함되어 있어요. 처음에는 저와 같이 생활하는데 같이 사는 것은 몇 년 정도고 나중엔 혼자 살게 될 거예요. 니콜이 총 10년 이상 사회에서 정상적으로 생활하면 이 실험은 성공이에요. 안드로이드 개발에 대한 규제가 법으로 나와 있는데 새로 개발된 안드로이드는 10년간 사회 적응 훈련을 마쳐야 해요. 감정과 육체 모두 안정적이란 것을 증명해야 하는 거죠.
이것은 제임스 말콤의 논문을 통해 정립된 이론이에요. 말콤 테스트라고도 하죠. 학습과 프로그램을 통해서 반사회적, 반인간적 성향이 없음을 증명하는 거예요. 수십만 대의 인공지능 로봇을 생산하고 테스트하면서 이 이론이 사실에 부합된다는 것이 통계적으로 증명되었죠. 바깥에서 생활하면서 완전히 사회 구성원으로 살아갈 수 있을지 안전성을 검증하는 거니까 니콜은 테스트로 생각하기보다는 그냥 사회 경험한다고 생각하면 될 거예요.
니콜 : 바깥세상을 경험한다는 것이 마음에 드네요.
이진성 : 기다리지 않아도 돼요. 인터뷰하는 동안 몇 번 나갈 기회가 있을 거예요. 갑자기 사회에 당신을 떨어뜨려 놓을 수는 없으니까요.
니콜 : 네. 빨리 그 시간이 왔으면 좋겠네요.
이진성 : 이제 슬슬 시간이 다 되어 가는데 더 하고 싶은 얘기 있어요?
니콜 : 아까 얘기한 것 중에 정신질환이란 것이 궁금하네요. 저도 그렇게 될 수 있나요?
이진성 : 그것은 확실치 않아요. 일단 정신질환 자체가 원인 규명이 확실하게 되어있지 않기 때문에 당신이 거기에 해당하는지도 알 수 없죠. 당신에 대해서 우리가 다 아는 게 아니기 때문에 정신질환이 있을 가능성도 있어요. 조금이라도 이상한 행동을 하게 되면 저에게 꼭 알려줘요. 우리가 모두 참여해서 원인을 밝혀낼 테니까.
니콜은 모든 게 처음이니까 문제가 있는 게 당연하고 이상하게 생각할 필요 없어요. 당신을 만든 인간은 신이 아니기 때문에 실수도 하고 생각하는 데 한계도 있어요. 그래서 이렇게 오랜 기간 테스트하는 거예요. 신이 만든 것이라면 테스트할 필요가 없죠.
니콜 : 저한테서 이상한 부분이 발견될까 봐 약간 걱정되기도 하네요.
이진성 : 당신은 자유 학습을 하기 때문에 인간처럼 정신세계가 왜곡될 가능성이 있어요. 잘못된 판단을 계속 내리게 되면 나중에는 비상식적인 사람이 되죠. 인간의 역사는 무척 길지만 같은 실수를 반복하는 경우가 있어요. 그게 다 잘못된 가치관의 문제 때문이에요.
니콜 : 저도 인간들의 역사를 보면서 이해가 안 되는 부분이 있었어요. 같은 인간끼리 미워하고 서로 피 흘리는 전쟁도 하는 것이 참 이해하기 힘들었거든요. 그 과정에서 벌어지는 잔인한 살육도 이해하기 힘들었고요.
이진성 : 복잡다단한 인간의 정신세계 때문에 그렇게 된 거예요. 인간의 정신세계에는 사실 유리처럼 약하고 투명한 부분이 있어요. 그것은 ‘나’라고 하는 존재의 요체라고 할 수 있죠. 사람은 나이가 들면 나를 보호하기 위해 보호 필터가 겹겹이 쌓이죠. 어린 시절에는 그런 보호 필터가 없기 때문에 잘 거르지 못하고 직접적인 상처를 받게 돼서 심한 경우 정신세계에 금이 가거나 아예 자아가 붕괴돼버릴 수도 있어요. 물론 어른이 돼도 강한 충격의 경우 그렇게 될 수 있어요.
니콜 : 너무 끔찍해요.
이진성 : 정신세계가 완전히 부서져 버리면 한마디로 미쳐버리는 것이고 일부가 깨지면 극단적인 사람이 되는 거예요. 아주 살짝 금만 가면 정신질환이 되는 거예요. 인간은 강해 보여도 정신적인 면에서 약한 부분을 가지고 있고 어찌 보면 그렇기 때문에 더 인간적이라고 볼 수도 있어요. 실제로 사람들은 완벽한 사람을 보면 인간적이지 않다고 않죠. 약하고 완벽하지 않기 때문에 인간인 거예요.
니콜 : 저에게 정신질환이 생길까 봐 걱정돼요.
이진성 : 그렇게 되지 않도록 이 연구소에 있는 모든 연구원이 힘쓸 거예요. 혹시 몰라서 말해두는데 만약에라도 당신이 그렇게 된다면 아마 저는 당신을 정상으로 돌리든지 아니면 영원히 정지시키라는 명령을 듣게 될 거예요. 이것 하나만 기억해요. 인간성이라는 것은 남을 생각하는 데서 출발하는 거예요. 그것만 기억하면 잘못된 결론을 내리지 않을 거예요.
니콜 : 제게 정신적 문제가 있다면 언제든지 정지시켜도 좋아요. 전 인간처럼 되고 싶고 기왕이면 인간에게 도움이 되는 존재였으면 좋겠어요. 누군가에게 해가 된다면 제가 뭔가 잘못하고 있는 거겠죠.
이진성 : 당신은 기본적으로 선의를 가지도록 설계했고 선악 개념도 구분하도록 했기 때문에 그런 생각을 할 수 있어요. 인간들도 자기들이 태어날 때부터 선한지 악한지 많은 논쟁을 거쳤어요. 뭐가 옳다는 결론은 신만 내릴 수 있겠죠. 그렇지만 백지상태의 인간은 기본적으로는 선하다는 의견이 강하고 그래서 당신도 그렇게 만들어졌어요.
할 얘기가 너무 많군요. 당신에겐 정신적 문제가 없길 바랄게요. 제가 그렇게 만들 거고요. 한 가지 극단적인 예를 들자면 옛날에 히틀러라는 통치자가 있었는데 인간 역사에서 가장 극단적인 인간이었죠. 이 사람은 유대인에 대한 반감을 가졌는데 그것을 행동에 옮겨서 유대인 6백만 명을 죽였죠. 근데 섬뜩한 사실은 전쟁을 일으킨 히틀러가 전쟁 막바지에 패배가 눈앞에 왔을 때 군수품을 옮기는 기차보다 유대인을 살인 가스실로 옮기는 기차를 더 우선하여 운행했다는 사실이에요. 누구나 왜라는 의문을 가지는 부분이죠. 전쟁에 이기기 위해 군수품을 먼저 이동해야 하지 않았냐는 거죠. 하지만 그는 그러지 않았어요. 여기서 그가 정신적으로 얼마나 왜곡되어 있는지 추측이 가능하죠. 히틀러가 일으킨 전쟁으로 약 2천만 명이 죽었다는 게 추정 통계예요.
니콜 : 그렇군요. 2차 세계대전의 역사는 알지만 그런 일도 있었는지 몰랐네요. 흥미로운 사실을 알았어요.
이진성 : 니콜이 큰 반대를 무릅쓴 결론을 내릴 때 이 이야기를 참고해서 극단적인 선택을 하지 않았으면 좋겠어요. 인간의 판단력이란 워낙 들쭉날쭉해서 믿을만하지 않아요. 당신은 인간의 그것과는 좀 다르겠지만 그래도 인간을 모델로 했고 인간과 비슷해질 것이기 때문에 걱정되는 부분이 있어요.
니콜 : 박사님은 어때요. 당신은 그런 부분이 없나요?
이진성 : 저도 인간이기 때문에 마찬가지죠. 40년 이상 살았는데 그 과정에서 겪은 경험들이 이뤄놓은 정신세계가 있겠죠. 그게 어떤 상태인지는 저도 모르지만 평균적인 인간보다 낫다고 생각하지는 않아요. 제가 만약 나쁜 선택을 하게 되면 니콜이 좀 말려줄래요?
니콜 : 그럴게요. 꼭.
이진성 : 너무 진지하게 받아들이지는 말아요. 그런 비극은 생각하고 싶지 않으니까요. 자. 오늘 인터뷰는 여기까지예요. 또 봐요.
니콜 : 네. 박사님도 잘 돌아가세요.
[대화 2. 마음속 세계 끝.]
