가치의 가치
우리에겐 왜 가치가 필요한가?
얼마 전 즐겨보는 유튜브 채널 보다(BODA)에서 인공지능에 관한 이야기를 나누는 것을 보았다. 이런저런 이야기 속에서 인공지능이 인간의 지시를 이행하지 않는 상황, 그러니까 인공지능이 인간의 통제를 벗어날 수 있는 상황들에 대해서 참여하신 과학자 분들이 흥미로운 이야기를 나누는 것을 들을 수 있었다.
사실 처음 듣는 내용은 거의 없었는데 그중에서 딱 하나 기억이 남은 문구가 있다. 그것은 바로 우주먼지라는 아이디를 쓰는 분이 한 말인데, 그분은 그동안 우리 인류가 막연히 각자마다 다르게 그 중요도를 판정했던 '추상적인 것들의 가치'를 AI라는 기계에게 명확히 전달하기 위해서 어쩔 수 없이 체계화된 점수로 순위를 정해야 할지도 모른다는, 나름대로의 해결책일 수는 있지만 그 자체는 매우 걱정스럽다는 말을 했다.
이것은 AI는 특정 목표를 이루기 위해서 인간과 달리 거의 맹목적으로 접근해 가는 특징을 가지고 있기 때문에, 예를 들어 '화장지를 만들어라'라는 목표를 이루기 위해서 지구를 파괴할 수도 있다는 가정에서 출발한다.
만약 AI가 화장지를 최대한 효율적으로 만들기 위해서, 오직 그 목표만을 위해서만을 위해서 움직일 경우 지구에 사용가능한 모든 자원을 - 인간이라는 자원까지 포함해서 - 화장지를 만드는데만 쓸지도 모른다. 이때 우리 인간이 그동안 추구해 왔던 수많은 인간다운 가치들은 모두 다 무시될 수도 있다.
우리 인간은 어떤 중대한 목표를 갖고 있더라도 그것이 인류 보편적 가치를 파괴할 경우 포기하거나 우회를 하려고 애쓴다. 그러다 보니 갈등도 많이 일어나고 꽤나 비효율적으로 작동하기도 하지만 그럼에도 최소한 화장지를 만들기 위해서 지구를 파괴하는 행동은 하지 않는다.
하지만 AI는 그렇지 않다. 만약 AI에게 인류의 장기적 지속이라는 목표를 실현하라고 명령을 내리면 타노스처럼 인류의 절반을 죽일지도 모른다. AI에게 개인의 생명이란 가치는 무의미하기 때문이다.
AI는 일반적으로 사람이라면 갖고 있는 암묵적인 '다양한 보편적 가치'들에 대한 정해진 입장이 없다. 그저 자신이 정한 목표만 달성해 내면 끝나는 것이다. 그런 AI에게 치명적 실수를 하지 않도록 하려면 어떤 식으로든 해결책이 필요하다.
이때 우주먼지님의 말대로 가치의 순위화시키는 것은 나름대로의 해결책이 될 수 있다. 물론 그 자체도 과학자의 입장에서 말해지는 것이라서, 인문학자들이 들으면 뒤로 나자빠질 생각이지만, 그럼에도 생각해 볼 여지는 있다. 그리고 그보다 더 중요한 말은 그것이 비록 해결책이 될 수는 있지만 매우 조심해야 한다는 말이다. 그렇다. 가치를 순서화시키는 것은 정말로 매우 조심스러워야 한다. 그래서 내 개인적으로는 '조심'이란 말이 가장 기억에 남았다.
사실 인류의 역사를 보면 지금껏 일어난 대규모 학살의 많은 원인이 바로 서로가 추구하는 가치의 충돌이었다. 그러니까 내가 추구하는 가치와 네가 추구하는 가치가 충돌할 때마다 거대한 폭력들이 일어나 왔던 것이다.
종교에 대한 가치, 가족에 대한 가치, 사람에 대한 가치, 평화에 대한 가치, 도전에 대한 가치, 공동체에 대한 가치, 인간다움에 대한 가치, 자연의 가치, 건강에 대한 가치, 행복에 대한 가치, 사람 목숨에 대한 가치, 이득에 대한 가치, 돈에 대한 가치, 성공에 대한 가치, 땅에 대한 가치 등등등 정말로 수많은 가치 있는 것들이 있으며, 그에 따른 사람들 사이의 가치 기준점의 차이로 인해서 서로 갈등을 겪거나 싸우고 심지어는 가치 기준이 다르다는 이유로 상대방을 죽이기도 해 왔다.
그런데 이렇게 혼란스러운 상황에 아무리 AI의 잘못된 판단을 막기 위한 목적이라도 우리 스스로가 가치들의 순위를 정하게 되면 어떻게 될까?
사실 가치의 순위를 정하는 것만으로도 수십 년, 아니 수천 년이 걸릴지도 모른다. 그리고 정했다고 해도 얼마나 많은 사람들이 그것을 받아들일까? 그 자체로도 이미 갈등의 씨앗이 되며, 정해지고 나면 그 정한 내용은 그 순위에 따라 나와 다른 타인의 가치를 무시할 수 있는 아주 합리적이고 명확한 근거가 될 수 있다. 이것은 매우 위험하다.
사람의 목숨과 개의 목숨 중에서는 당연히 사람의 목숨이 더 귀하다고 말할 수 있지만, 내가 10년간 정성스럽게 키운 개와 내가 전혀 알지 못하는 아이 중에서 과연 아이를 살리기 위해서 아무런 죄가 없는 개를 죽여야 한다는 것에 동의할 수 있는 사람은 얼마나 될까? 다른 누군가에게는 개가 돈일 수 있고, 명예일 수 있고, 다수의 행복일 수 있고, 집일 수도 있고, 평생 모아 온 돌일 수도 있다.
원래 소중하다는 것은 온전히 개인의 영역이다.
하지만 공식적으로 가치 순위를 만들게 되면 내가 추구하는 가치가 네가 추구하는 가치보다 순위가 높을 때 공식적으로 너의 가치를 무시할 수 있게 된다. 내가 모르는 아이를 살리기 위해서 내 동의 없이 내 개를 죽이고, 내 집을 팔고, 내 돈을 가져가게 될 것이다. 아무리 AI의 폭주를 막기 위해서 해야 할 작업이라고 해도 그 부작용이 너무 크다. 우주먼지님은 거기에 대한 염려를 말한 것이다.
이쯤에서 가치라는 것이 가진 진짜 의미에 대해서 좀 더 깊게 생각해 보자. 도대체 가치라는 무엇이길래 그동안 그 수많은 갈등의 주체였으며 그동안 일어났던 수많은 폭력과 전쟁의 원인이 되어 왔을까? 우리가 알고 있는 것과 달리 가치가 원래 그리 좋지 않은 것이라서 그런 것일까?
당연히 그건 아닐 것이다. 가치 그 자체는 당연히 좋은 것이다. 처음부터 좋으니까 가치가 된 것이다. 그런데도 왜 그렇게 가치는 그런 치명적인 부작용을 갖게 되는 것일까?
사실 가치가 그런 부작용을 가지게 된 이유는, 그동안 우리가 믿어왔던 것과 달리 가치가 그렇게 좋거나, 긍정적이거나, 선하거나, 정의로운 것이 아니기 때문이다. 사실 가치는 전혀 이성적인 개념이 아니다. 오히려 매우 본능적인 개념이다.
아주 단순히 말하면, 가치는 '내가 살 수 있는 가능성을 높여주는 어떤 것'이다.
그러니까 우리는 우리들 자신이 무엇인가를 통해 좀 더 오래 살고, 잘 살게 될 가능성이 높아질수록 그것이 가치 있다고 느끼고 가능하면 그 가치를 추구하고 지키려고 애쓰게 된다. 내 생명줄이니 당연하다.
돈도 그렇고, 명예도, 친구도, 가족도, 평화도, 심지어 자연도 그렇다. 그 어떤 가치도 이 정의에서 벗어날 수는 없다. 그렇기에 갈등이 일어나고 폭력이 발생할 수밖에 없다. 우리는 흔히 가치의 충돌을 생각과 생각, 사상과 사상, 논리와 논리의 충돌로 보고 있지만 사실은 그것은 생존과 생존의 충돌 현장이다. 그러니 그렇게 폭력적인 것이다. 물러서는 순간 죽음의 공포를 느끼게 되기 때문에 서로 싸울 수밖에 없다.
가치가 그냥 좋기만 한 것이라면 사실 딱히 남과 싸울 필요가 없다. 하지만 가치 자체가 내 생존과 관련된 것이기 때문에 우리는 내가 추구하는 가치가 실현될 수 있도록 최선을 다하게 되고 그러다가 다른 가치와 충돌이 나면 갈등이 생기고 그 정도가 심해지면 싸움으로 번진다.
가치의 충돌은 공포의 충돌이며, 두려움의 충돌이다. 그렇기 때문에 물러설 수가 없다. 실제로 물러섰다고 해서 내가 죽는 것은 아니지만 물러서는 순간만큼은 죽음의 공포를 느끼게 된다. 이것의 가장 흔한 예가 바로 정치와 종교이다.
사람들은 정치나 종교에 대해 자신의 견해나 입장에 대해 말할 때 꽤나 사실을 근거로 한 논리적 표현을 한다. 그 사실을 신뢰할 수 있느냐 여부와 상관없이 대부분 방식 자체는 그렇다. 하지만 다들 알 것이다. 아무리 설명하려고 애써도 상대방의 생각은 전혀 바뀌지 않는다. 왜냐하면 그것은 분명히 아주 중요한 가치이며, 그 가치는 바로 가장 본질적 두려움을 기반으로 해서 만들어진 것이기 때문이다.
어떤 사람에게 기존에 가진 정치나 종교에 관련한 입장을 바꾸라고 하는 것은 마치 높은 절벽에서 떨어지라고 말하는 것과 같다. 아무리 밑에 안전한 그물망이 쳐있다고 해도 한 번도 떨어져 보지 못한 사람은 쉽게 떨어질 수 없다. 그 상황에서는 아무리 그물망이 튼튼하고 아무리 지금껏 아무도 다치지 않았다고 설명해도 소용이 없다. 사실상 어떤 논리도, 어떤 설득도 먹히지 않는다.
그럼에도 우리는 끝없이 나와 다른 가치를 가진 타인을 설득하려고 애쓴다. 자신은 결코 설득되지 못하면서 타인은 설득한다. 가치가 두려움을 해결하기 위한 자신만의 고유한 생존활동임을 자각하지 못하고 마치 그것이 옳고 정당하다고 믿어 의심하지 않는다. 이런 가치에 관한 착각이 폭력이 만들어지는 아주 흔한 원인이 된다.
가치는 어떠한 경우에도 순위를 매길 수 없다. 더해서 매겨서도 안된다. 그것은 그저 각자마다는 생존 전략이며 각자마다의 고유한 순위가 있다. 가족이, 평화가, 돈이, 인간의 생명이 중요하다고 여길 수는 있지만 그 순위가 모두에게 동일하게 적용되는 것은 애초부터 불가능하다.
그것은 단순히 남들이 가치 있다고 해서 믿을 수 있는 것도 아니고, 설령 본인이 그렇다고 믿더라도 꼭 얻을 수 있는 것도 아니다. 그렇기에 삶의 경험 속에서 우연히 정해진 가치의 순서는 좀처럼 바뀌지 않고 거의 평생 동일하게 유지된다.
물론 오랜 시간 걸쳐 경험이 쌓이면서 바뀌는 경우는 있다. 하지만 그것은 외부에서 설득해서 바꾸는 것이 아니라, 세상을 좀 더 살아가면서 자연스럽게 얻어진 추가적인 경험을 통해 생존에 더 유리한 것이 무엇인지를 알게 되거나 혹은 자신이 남들보다 조금 더 잘할 수 있는 것들을 찾게 되면서 생겨나는 변화이다.
원래 사회적으로 가치 있다고 여겨진 것들과 내가 그것을 제대로 잘 추구할 수 있느냐는 별도의 문제이다. 그래서 대부분의 사람들은 자신이 조금이라도 더 잘하는 것들 중에서 사회적으로 어느 정도 가치가 있다고 평가되는 것들을 추구하기 마련이다. 혹은 남들은 다 별 것 아니라고 해도 혼자 꿋꿋이 그 길을 가는 경우도 있다.
여기에서 우리가 흔히 하는 실수가 바로 타인의 가치를 내 입장에서 재단한 후 그 사람을 설득하려고 하거나, 내가 추구하는 가치를 너도 추구해야 한다고 강요하는 경우이다. 사실 이런 일들은 정말로 흔하고 자주 일어나며, 그것으로 인해 많은 사람들이 싸우게 되거나 혹은 큰 스트레스를 겪게 된다.
남들에게 자신이 추구하는 가치를 퍼트리려고 할 때마다 스스로 깨달아야 한다. 누군가 내게 내가 가장 중요하게 여기는 가치를 버려야 한다고 했을 때 내가 과연 그것을 순수하게 받아들일 수 있는지에 대해서 말이다.
인간 사회의 평화나 AI의 폭주를 막기 위해서는 어느 정도 공용화 된 가치 체계가 필요하긴 할 것이다. 마약을 하거나 음주 운전을 하면 안 된다는 것 정도는 말이다. 하지만 그 정도에서 멈춰야 한다.
우리 모두가 스스로 사실 가치는 가치 있는 것이 아님을 깨닫기 전까지는 그래야 한다. 하지만 슬프게도 그런 날은 오지 않을 것이다. 그러기엔 우리 인간은 너무 두려움이 크다.
