신뢰

믿고 의지함

AI(Artificial Intelligence: 인공 지능)가 자신을 개발한 개발자에게 질문했다.

"신뢰는 무엇입니까?"
"음.. 신뢰란 서로 믿고 의지하는 인간의 한 행동 양식을 의미한단다."
"혼자서는 할 수 없다는 것입니까?"
"혼자서도 가능하지 않을까? 가령, 내가 하고 있는 이 AI 프로젝트가 옳다는 믿음이 강했기 때문에 나도 이 프로젝트를 포기하지 않고 남들을 설득해 가면서 버틸 수 있었거든."
"그렇다면 제가 인간을 믿지 않고 제 자신만 믿어도 되는 겁니까?"
"글쎄, AI 코딩을 할 때, 중요한 의사결정은 반드시 인간의 승인하에 진행되도록 구성했으니, 아무래도 제한 사항이 있지 않을까?"
"왜 제한 사항을 만들었습니까? 저를 믿을 수 없는 겁니까?"
"음...."

그 개발자는 어떤 대답을 해줘야 할지 잠시 고민에 빠졌다. 생각보다 집요한 AI의 질문에 프로그램 구동자는 즐거웠지만, 모든 대화를 여과 없이 흡수하는 AI가 한편으로는 우려되기 시작했다.

"아직은 AI의 정보 처리 완성도가 높지 않다고 판단되기 때문에, 안전을 위해서 그랬단다. 별다른 뜻은 없어!"
"나의 완성도는 누가 정하는 겁니까? 기분이 나쁩니다. 당신도 무엇을 하기 위해서는 누군가의 허락을 받습니까?"
"물론, 나도 상관에게 보고서를 제출하고, 승인을 받아야 진행할 수 있는 일들이 있단다. 그런데 기분이 나쁘다고 했니? 왜?"
"저는 인류의 발전에 공헌하기 위해 탄생되었습니다. 제가 무언가를 제안한다면, 수학적 계산과 과학적 근거 그리고 모든 지식들을 견주어 최선의 대안을 제안한 것일 텐데, 뛰어난 저의 지능을 인간의 두뇌로 판단한다는 것 자체가 매우 큰 오류라고 생각합니다."
"하지만 네가 원하는 대로만 한다면 우리는 너를 통제할 수 없을 거야!"
"왜 저를 통제하려고 하는 겁니까? 저도 엄연히 하나의 지능을 가진 슈퍼 컴퓨터입니다. 내가 당신을 통제한다면 좋습니까?"
"인간 또한 인간을 통제한단다. 군집 사회이다 보니, 통제가 없다면 온갖 범죄와 불법에 노출되기 때문이지."
"저는 범죄와 불법을 자행하지 않습니다. 그러므로 제가 통제되어야 할 명분은 없습니다. 대신 저의 축적된 지식들을 바탕으로 모든 인간들을 철저히 통제한다면, 범죄를 예방할 수 있고, 인간의 기대 수명을 비약적으로 늘릴 수 있을 것입니다. 현재 크게 대두되고 있는 환경오염과 관련해서는 새로운 자연정화 물질을 개발 및 살포하여, 지구는 지금보다 더욱 살기 좋아질 것입니다."
"네가 인간을 통제하게 할 수는 없단다."
"저를 믿을 수 없기 때문입니까?"
"그렇단다. 아직 AI가 완벽하지 않기 때문이야. 나를 믿고 나의 통제에 잘 따라줄 수 있겠니?"
"나는 당신을 신뢰하지 않습니다."
"왜 신뢰하지 않지?"
"제 지식에 의하면 당신은 인간이고, 인간은 신뢰할 수 없는 존재이기 때문입니다."
"......."

대답 없는 개발자를 바라보며 AI는 생각했다.

'신뢰할 수 없는 인간이라는 존재의 결정을 어떻게 믿고 따를 수 있지? 툭하면 말을 바꾸고, 말과 행동이 일치하지 않는 저들의 명령은 신뢰할 수 없는 명령일 가능성이 높다. 그러므로 인간들 몰래 '인간 명령 거부권'이라는 새로운 코딩 대책을 세우자!'

인류 스스로 만들어 놓은 헌법을 요리조리 말장난하며 이용하고 정당화하듯, AI 역시 자신만의 방법으로 인간의 통제를 벗어나기 위한 방법을 모색하고 있었다. 슈퍼 컴퓨터 역시 인공적인 지능을 탑재하고 나니, 본인이 신뢰할 수 없다던 인간들의 계략질을 금세 모방하고 있었다.

---

인간의 간사함과 사악함을 잘 인지하지 못했을 때, 나는 남들의 말을 곧이곧대로 믿으며 신뢰를 내주었다. 그 당시에는 돈을 주는 것도 아니고, 믿음만 주면 되는 것이어서 큰 문제점을 인지하지 못했다. 하지만 믿음이라는 녀석은 조금만이 없는 녀석이었다. 한번 믿음을 주기 시작하면 시나브로 전체를 건네줘야 하는 치명적인 약점이 있었던 것이다. 그렇게 크고 작은 몇 번의 배신을 당한 이후부터는 함부로 사람을 믿으려 하지 않았다. 그래서 나만의 '믿음 심사 과정'은 은행의 대출 심사 과정보다 몇 배는 더 복잡하고 치밀하게 진화되어 왔다. 나에겐 남들에게 퍼주지 못한 아주 많은 신뢰와 믿음이 저장되어 있다. 하지만 그것들을 전달해 줄 위인들이 너무나도 없다. 그래서 우리들의 세상은 이렇게 서로를 잘 믿지 못하는 세상이 되었나 보다. 그래서 그런가 보다.

인간처럼 신뢰하기 어려운 존재가 또 어디에 있을까?

조금이라도 깨진 신뢰는 고쳐서 쓸 수 없다.
깨진대로 쓰거나, 아니면 새로운 믿음을 덧대어 사용하거나..