조종 – AI 디스토피아
빅브라더와 AI 디스토피아의 차이
Am I a a butterfly or a tree?빅브라더와 AI 디스토피아
통신이 발달했을 때, 조지 오웰은 소설 1984에서 감시사회를 묘사했다. 사람들은 빅브라더의 감시하에 행동을 관찰당하고, 그들의 행동은 교정된다. 강력한 권력자가 원하는 형태로 개인의 자유가 제한되며, 개별성이 통제됨에 따라 사회는 자율성을 잃어버린다. 사르트르가 말한 선택의 자유는 사라진다. 태어나기 전부터 정해진 본질에서 벗어나려는 자유의 힘은 약해지고, 우리는 단지 선택하고 있다는 착각 속에서 살아간다.
오늘날의 사회적 통제는 1984처럼 직접적으로 드러나지 않고, 보다 간접적인 형태로 나타난다. 언론과 미디어가 대표적인 예다. 현대의 통제는 빅브라더처럼 단일한 매체가 주도하는 것이 아니라, 여러 집단적 매체들이 각자의 이익 혹은 공익을 위해 작동하는 방식으로 이루어진다. 빅브라더이든 현대 사회이든 방향을 결정하고 이끌어가는 힘은 필연적으로 존재한다. 현재까지 그 주체는 다양한 이익 집단이며, 그 속에서 소비자들은 매체를 선택할 수준의 자유를 가지고 있다.
이제 미래가 왔다. 인공지능이 사회를 변화시키고 있다. 사회를 주도하는 것은 여전히 이익 집단이지만, 그 행동을 실행하는 것은 더 이상 인간이 아니라 인공지능이다. 더 나아가, 몇 년 뒤에는 결정 자체를 인간이 내리는 것이 아니라, AI가 담당하게 된다. 마치 아이언맨의 자비스는 모든 것을 분석하고 결정해서 알려주는 것처럼 말이다. AI가 행동과 결정을 맡게 되는 이유는 간단하다. 인공지능의 계산이 인간보다 압도적으로 효율적이기 때문이다.
계산, 계산, 또 계산!
사회를 특정 방향으로 이끌고 싶다면, 현재 상태를 점검하고 사회를 유도하는 행동을 취하면 된다. 다만 어떤 행동이 정답인지 알 수 없기에 수많은 시뮬레이션을 통해 가능성을 탐색해야 한다. 이 과정에서 필수적인 것이 바로 ‘계산’이다.
한 가지 예로 출생률 문제를 생각해 보자.
출생률을 높이는 것이 궁극적인 목표라면, 과거 출생률의 변화 추이와 사회적 인식을 분석한 후 정책을 수립해야 한다. 출산 지원금이 출생률을 얼마나 높일 수 있는지, 육아휴직 같은 복지제도가 어떤 영향을 미치는지를 평가하기 위해서는 철저한 검토가 필요하다. 이 모든 과정은 지극히 계산적이며, 지원금의 규모나 육아휴직 기간을 결정하는 것 또한 정밀한 계산을 요구한다. 현재까지는 그 계산의 수준이 높지 않았고, 이에 많은 정책들은 실패하였다.
내가 말하는 것은 AI가 사회의 모든 정보를 계산하여
정책을 수립한다면 인간이 유도한 사회보다
더 성공률이 높다는 점이다.
만약 인간 사회가 매트릭스처럼 하나의 프로그램이라면, 우리는 이미 거대한 계산 속에 살고 있는 것일지도 모른다. 사회를 구성하는 수많은 행동과 변화로 동작하는 프로그램은 너무 복잡해서 인간이 이해하기 어렵다. 그래서 우리는 이해를 포기한다. 복잡한 대상은 해결할 수 없는 것으로 치부한다. 하지만 AI는 어떨까? 어쩌면 AI는 사회라는 프로그램의 모든 요소를 이해할 수 있을지도 모른다. 그는 한 인간보다 계산을 많이 할 수 있기 때문이다. 그리고 AI들의 집단은 더 많은 계산을 할 수 있다.
만약 AI가 의도(intention)를 갖게 된다면.
그는 우리 사회를 자신이 원하는 방향으로
이끌 수 있을 것이다.
능동적 조종자, AI
AI와 빅브라더는 동일하게 사람을 조종하지만 큰 차이가 있다. 조지 오웰의 빅브라더는 본질적으로 수동적이다. 그는 감시와 억압을 통해 사람들을 조종한다.
그러나 AI는 능동적이다.
그는 자신이 원하는 방향으로
사람들을 조종하는 방법을 안다.
계산해 봤기 때문이다.
그렇다면 이렇게 비판할 수 있다.
과연 한 개인 혹은 한 사회는 계산으로 조종될 만큼 간단한가?
나는 이렇게 말하고 싶다. 인간은 날이 갈수록 단순해지고 있다. 그러니 당장은 계산이 안될지 모른다. 그러나 미래에 개인과 사회가 지극히 단순화돼서 AI가 계산할 수 있는 수준이 되지 않을까.
물방울에서 자린 나무 혹은 나비