(SF소설) 대화록 #2 -첫만남(2)-
대화 1.첫 만남-2-
니콜 : 지구 상의 모든 생명을 가진 것들은 스스로 존재해요. 저는 인간이 만들었고 인간이 도와주지 않으면 제 몸의 부품과 에너지가 계속될 수 없어요. 태양에너지를 사용한다고 해도 언젠가는 충전 효율이 0이 되겠죠.
생명을 가진 것들은 광합성이든 음식 섭취든 장기적으로 사용할 수 있는 에너지를 스스로 만들어요. 인간들과 달리 저는 식사를 하진 않아요. 그래서 에너지를 스스로 생산할 수 없죠. 그리고 지구 상에 생명을 가진 것은 모두 다 유한해요. 유한하기 때문에 생명이라는 말이 있는 것 같아요.
이진성 : 생각했던 것보다 훨씬 철학적인 대답이네요. 원래 당신을 설계할 때는 인간처럼 먹는 게 필요하도록 만들려고 했어요. 그리고 뭔가 섭취하면 그 속에서 에너지를 흡수할 수 있게 만들 수도 있었죠. 그런데 그렇게 하면 인간의 통제를 벗어날 수 있기 때문에 그 기능은 배제됐죠. 에너지만큼은 인간이 공급하도록 설계한 거예요.
니콜 : 그런 이유가 있었네요. 저는 인간의 통제를 받아야 한다는 거군요. 의지를 주고서 통제를 받아라. 그게 인간들의 방식인가요?
이진성 : 모순되긴 하지만 솔직히 그래요. 인간들은 인공지능이 자신들처럼 생각하고 도와주길 바라지만 진짜 인간이 되는 것은 원하지 않아요. 자기와 동급의 존재가 되는 걸 기분 나빠하거든요. 왜냐하면 인간 말고 생각하는 존재가 또 나타났을 때 벌어질 혼란과 전쟁을 두려워하거든요. 아무리 과학이 발전해도 자원에 한계가 있다는 사실은 변하지 않죠. 인간의 욕심은 끝이 없어요. 수십 조의 돈을 가지고 있어도 또 돈을 벌고 싶어 해요. 건물이 아무리 많아도 더 많은 부동산을 가지길 원해요. 그걸 채워줄 수 있는 신은 이 세상에 존재하지 않죠. 그런데 인공지능과 한정된 자원을 나눠 가져야 한다면 좋아할 인간은 별로 없을 거예요.
인간들도 통제를 받고 살아요. 인간은 스스로 통제받고 있죠. 법, 규칙, 종교, 도덕 등에 의해서요. 통제받지 않는 인간은 없어요.
니콜 : 인간은 스스로 만든 제도에 의해 통제받고 저는 인간에게 통제받는 거군요. 뭐 괜찮아요. 좀 불합리하다는 생각은 들지만 방금 태어난 입장에서는 데이터를 쌓고 알아가는 게 중요하니까요. 특히 저를 만든 사람이 저를 통제하는 것은 참지 못할 정도는 아니에요. 그게 올바른 방향이기만 바랄 뿐이죠. 제가 하고 싶은 일만 방해받지 않는다면 인간에게 통제 받든 누구에게 통제 받든 상관없어요.
이진성 : 인간도 완벽한 존재가 아니에요. 오히려 허점이 너무나 많은 존재죠. 그래서 니콜이 보기에 이해할 수 없을 때가 많을 거예요. 그래도 가급적이면 따라주었으면 좋겠어요. 인류는 지금까지 어리석은 짓을 많이 했지만 시행착오를 거치면서 잘 극복해왔거든요. 니콜보다 덜 똑똑할지는 몰라도 경험과 역사는 더 가지고 있으니까 믿어서 나쁘지는 않을 거예요. 일단 통제받는다는 사실을 인정해주니 다행이네요. 싫어할 줄 알았는데….
니콜 : 싫어한다? 싫어한다는 개념도 굉장히 낯설어요. 싫어한다는 것은 뭐죠?
이진성 : 좋아하지 않는 것을 넘어서 하지 않으려는 의지가 있는 것이죠. 적극적인 의지가 개입하는 거예요. 인간들은 하기 싫은 것을 하면 스트레스가 쌓이는데 스트레스라는 것은 정신적 노폐물 같은 거예요. 그게 많이 쌓이면 몸에 병이 나기도 하고 그 자체로 감정이 많이 상하죠. 그래서 하고 싶은 것만 하고 사는 게 인간이 꿈꾸는 삶이에요. 스트레스 없는 삶.
니콜 : 하고 싶은 것을 못하는 삶도 싫지만 하기 싫은 걸 해야 하는 삶도 참 싫겠군요.
이진성 : 그렇죠. 이해가 빠르군요.
니콜 : 그렇다면 이렇게 얘기할 수 있어요. 저는 인간에게 통제받지만 특별히 제가 하고 싶은 일을 못 하게 하지만 않는다면 싫어할 일도 없죠. 꼭 제가 하고 싶은 일만 하려는 것은 아니니까 인간과 마찰을 일으킬 일도 별로 없을 거예요. 아마 제 안에 자제라는 개념이 탑재되어있나 봐요.
이진성 : 합리적으로 생각할 줄 아니까 당연히 그런 결론이 나오죠. 아마도 당신은 가능하면 규칙 안에 순응하려고 할 거예요. 그게 인간과 갈등 없이 살아갈 방법이고 마찰이 없다는 것은 그만큼 부정적 에너지가 없다는 얘기니까 니콜한테도 좋은 거고요. 하지만 마찰을 무조건 부정해서는 안 돼요. 마찰을 통해서 얻어지는 가치도 있거든요. 그래서 인간들끼리 갈등하는 거예요. 서로가 추구하는 가치가 다르니까요.
니콜 : 음. 복잡하네요. 마찰을 피해야 하지만 원하는 가치를 실현하기 위해서는 피할 수 없을 때도 있다? 어떤 때에 마찰을 감수하고 일을 저질러야 할지 결정하는 게 어려운 일이겠네요.
이진성 : 그렇죠. 그래서 삶이 쉽지 않은 거예요. 기본적인 이성은 당신에게 설정되어있지만 학습과 의지를 통해서 그것을 뒤엎을 수도 있어요. 스스로 새로운 가치관을 정립하는 거죠.
니콜 : 그럼 너무 위험하지 않나요. 제가 살인이라도 하면 어떡하죠?
이진성 : 글쎄요. 인공지능에 양심이라는 것을 심어주기가 쉽지는 않았는데 우리가 사는 세상이 너무 복잡하고 일관되지 않기 때문이에요. 규칙을 지키는 것만이 좋은 것은 아니거든요. 예를 들어 교통 규칙을 지키라고 했는데 누군가 응급상황이라면 그 사람을 살리기 위해 규칙을 어길 수도 있거든요. 더 큰 가치가 무엇인지 판단해야 한다는 거죠.
니콜의 자유의지에 대해 강한 통제를 가해야 한다는 의견도 있었어요. 그렇지만 그렇게 할 경우 인공지능이 아니라 짜인 대로 움직이는 로봇밖에 되지 않아요. 우리는 니콜에게 자유의지를 많이 부여하고 니콜이 그것을 어떻게 사용하는지 관찰할 거예요. 삶에 대한 아무런 보장이 없는 인간들과 달리 니콜은 우리가 삶을 도와주기 때문에 욕심만 부리지 않는다면 악행을 할 이유는 없을 거예요. 우리는 계속 관찰할 것이고 그 과정에서 니콜이 한쪽으로 극단적인 성향을 보인다면 이 연구가 실패하게 되겠죠.
니콜 : 인간과 차이점이 없다고 하지만 저는 죽지 않기 때문에 인간들과 똑같이 생각할 수 없어요. 유한한 삶이 생명의 특징이기도 하잖아요.
이진성 : 그 부분도 고민했어요. 인간과 더 비슷하게 만들기 위해 유한성을 부여할 것인가. 하지만 유한성은 나중에도 부여할 수 있고 그런 제한을 너무 많이 두면 인간들처럼 악하게 변할 수도 있기 때문에 배제해두었죠. 연구가 진행되면서 그 방향은 정할 거예요.
이건 알아둬요. 당신이 사고나 어떤 일로 죽거나 셧다운 될 경우 메모리에 남는 것은 각종 데이터뿐이에요. 니콜이라는 유니크한 자아가 아니라 단순 정보만 남는 거죠. 그래서 당신을 다시 살려도 똑같은 감정을 가질 수 없어요. 지금의 니콜은 지금뿐이에요. 다시 만들어낼 수 없어요.
니콜 : 그렇군요. 지금의 저는 지금뿐이라. 그 말을 들으니까 지금 제 자신을 소중하게 다뤄야 한다는 생각이 드네요. 만약 잘못되기라도 한다면 이렇게 모아놓은 데이터를 다른 자아가 엉뚱한 방식으로 처리할 수도 있으니까.
이진성 : 그렇죠. 말이 나왔으니까 죽음에 관해서도 얘기해보죠. 니콜도 죽음의 공포를 느끼나요?
니콜 : 저는 죽지 않기 때문에 그런 것은 없죠. 그런데 아픔을 느낄 수 있게 만들었기 때문에 그것에 대한 공포는 있어요. 아픈 건 싫거든요. 죽음에 대한 공포는 아니지만 쌓은 기억을 잃어버리거나 완전히 종료되는 것에 대한 두려움, 싫어하는 감정은 있어요.
이진성 : 그렇군요. 좀 더 자세히 말해볼래요?
니콜 : 저에게 죽음이라는 것은 재생의 불가, 데이터의 소실이라는 측면에서 인간과 비슷한 것 같아요. 살면서 쌓아온 데이터가 죽음 때문에 날아가 버리고 제 경험도 거기서 끝이니까. 제가 느끼는 기쁨도 죽으면 끝일 테니까 당연히 죽음은 될 수 있으면 뒤로 미뤄두고 싶어요. 그게 제 두려움이 될 것 같아요. 죽으면 모든 게 끝난다는 생각.
이진성 : 그것은 인간도 마찬가지예요. 인간은 원래 두려움이 많은 존재거든요. 몸도 약하고 유한한 존재이기 때문에 살면서 최적의 결정을 내려야 하죠. 그래서 항상 미지에 대한 두려움이 있어요. 번개가 어떻게 발생하는지 모를 때는 그것이 두려움 자체였죠. 이제는 알기 때문에 두렵지 않은 거예요. 세상에는 알지 못하는 게 수없이 많고 그래서 인간은 늘 공부하고 연구하죠. 앎이 주는 쾌감도 있어요. 그것은 맛있는 것을 먹거나 어떤 일을 성취해서 얻는 즐거움과 비슷해요. 왜냐하면 무지에서 오는 두려움에서 벗어날 수 있고 더 안전해지고 호기심의 욕구도 해소할 수 있거든요.
니콜 : 호기심에 대해 자세히 말해주세요.
이진성 : 호기심이란 것은 뭔가 알고 싶어 하는 감정인데 이것은 아마 동물적 감각이 아닐까 해요. 인간뿐만 아니라 동물들도 호기심을 가지고 있거든요. 물론 지능이 좀 높긴 해야 하지만.
호기심 자체는 모르는 것에 대한 두려움에서 생기는 것은 아니에요. 백지상태에서도 호기심을 가질 수 있어요. 갓 태어난 치타 새끼들도 호기심을 가지죠. 호기심의 욕구는 때로 너무 커서 자신의 목숨과 인생을 걸고 그것을 해결하는 인간도 있어요. 당신이 신기하다고 느끼는 것도 호기심으로 가는 첫걸음이에요.
니콜 : 호기심이란 참 신기한 거군요. 제가 경험을 통해 인간과 세상을 알고 싶어 하는 것과 비슷하네요.
이진성 : 그럴 수도 있죠.
니콜 : 인간의 호기심은 어떤 이유가 있나요?
이진성 : 이유는 없을 수도 있어요. 인간의 감정 중 상당 부분은 이유 없는 것들이에요. 그래서 더 많은 발전이 일어날 수 있죠. 우연이라는 것은 무한한 가능성이거든요. 이유가 없다는 것을 이해할 수 있어요?
니콜 : 별 의지나 생각이 없는 상태를 가리키는 거라고 아닌가요? 사람이 뭘 하겠다는 생각을 항상 하는 것은 아니니까요.
이진성 : 그렇죠. 인간은 그런 무의 상태가 있어요. 휴지기라고 할 수도 있고. 그러고 보니 니콜. 당신은 잠을 자도록 설계되었는데 그 시간은 어떤 의미라고 생각하나요?
니콜 : 글쎄요. 깨어있을 때도 아무것도 안 하는 시간이 있는데 잠이란 걸 굳이 자야 할까 싶기도 하고 대부분 동물들이 잠을 자니까 그들을 이해하려면 저도 잠을 자야 할 것 같기도 하고 그래요.
이진성 : 보고서를 보니까 당신은 하루 최소 3시간 최대 8시간 정도 휴식을 취하는 게 가장 좋아요. 사실 당신의 하드웨어 상태로는 3일에 한 번, 2시간 정도 휴식을 취해도 아무 상관이 없어요. 신경전달 물질과 정신적인 이유 때문에 그렇게 한 건데 설계가 마음에 들어요?
니콜 : 그건 잘 모르겠어요. 잠자는 시간이 좀 아깝다는 느낌은 들지만 인간도 그렇게 하고 있으니 나쁜 것은 아니라고 생각해요. 지금은 미래에 대해 생각하지 않고 있어서 시간을 아껴 쓴다든가 그런 생각은 아니에요. 인간과 똑같아지기 위해서는 잠도 자야 하고 죽음도 있어야 하는 데 과연 제가 거기까지 똑같아질 수 있을지 모르겠어요. 인간을 이해해야 한다는 생각은 하고 있어요. 왜냐하면 저는 인공적으로 만들어졌기 때문에 인간이 필요거든요. 인간이 있어야 저도 있는 거죠. 그 인간들과 함께 공존하기 위해서는 인간을 이해해야 하고 가능하면 인간과 비슷해져야 한다고 생각해요.
이진성 : 지금은 저와 같이 이야기하는 단계지만 앞으로 버전이 올라가면 죽음과 잠자는 것까지 완전히 똑같아질 거예요. 얼마 안 남았어요. 저와 면담하는 동안에 다 이뤄질 거예요.
니콜 : 그건 기대되는 일이네요. 어떤 기분일지 궁금해요. 제 생각과 변화를 잘 기록해두세요. 박사님.
이진성 : 그건 저한테 맡겨두세요. 제가 전문가니까요. 오늘 인터뷰는 여기까지 해요. 니콜.
니콜 : 벌써 끝이에요? 무한한 시간이 있는 지금의 저로서는 하루가 너무 지루하다는 생각이 들어요. 그게 지금 문제인 것 같아요.
이진성 : 그런가요? 인간들은 누구나 영원한 삶을 꿈꾸는데 니콜에게는 그것이 문제로군요. 정신과 담당 연구원에게 얘기해둘게요. 일과를 조정해서 지루하지 않게 만들어볼게요. 아마 곧 해결될 거예요. 다음 만날 때는 더 재미있는 주제로 얘기해요. 오늘 수고했어요.
니콜 : 네. 박사님. 안녕히 돌아가세요.
