무한한 효율 추구는 어디까지 진화할까?
- 윤리를 불편하게 여기는 마음
AI로 보는 마음
외전 1. 새로운 인공지능 앞에 흔들리는 마음
무한한 효율 추구는 어디까지 진화할까?
- 윤리를 불편하게 여기는 마음
어느 사회에서나 효율은 언제나 매력적인 기준입니다.
대부분의 기술 발전은 이 기준을 향해 이루어져 왔습니다.
하지만 인간 사회에는 효율과 함께 항상 등장하는 또 하나의 기준이 있습니다.
윤리입니다.
윤리는 종종 효율을 방해합니다.
전쟁을 생각해 보면 이 점이 분명하게 드러납니다.
전쟁에서 가장 효율적인 방법은
가능한 한 빠르게 상대를 무력화하는 것입니다.
하지만 실제 전쟁에는 다양한 규칙이 존재합니다.
전쟁 포로를 학대하거나 민간인을 해쳐서는 안 된다는 규칙입니다.
일부 사람들은 이런 규칙이 전쟁을 비효율적으로 만든다고 생각합니다.
상대에게 더 큰 피해를 줄 수 있는 방법이 있음에도
그 방법을 사용하지 못하도록 제한하기 때문입니다.
그럼에도 불구하고 인류는 이런 규칙을 만들어 왔습니다.
왜일까요.
단순한 이유입니다.
전쟁에서도 인간성을 완전히 포기하지 않기 위해서입니다.
인간으로서 가져야할 최소한의 기준,
윤리는 바로 이를 지키는 역할을 합니다.
윤리는 어떤 행동이 가능한가를 결정하는 것이 아니라
어떤 행동은 하지 말아야 하는가를 정합니다.
그래서 윤리는 종종 불편하게 느껴집니다.
특히 효율을 중요하게 생각하는 사람들에게는
윤리가 불필요한 제약처럼 보일 수도 있습니다.
인공지능 논쟁에서도 같은 장면이 반복됩니다.
어떤 사람들은 말합니다.
"인공지능이 더 강력해질수록 더 많은 문제를 해결할 수 있을 것이다."
환경 문제, 질병, 경제 문제.
많은 어려운 문제들을 인공지능으로 해결할 수 있다는 기대가 있습니다.
하지만 동시에 또 다른 질문이 등장합니다.
그 문제를 해결하는 과정에서 어떤 방법까지 허용할 것인가.
이 질문은 오래전부터 SF에서도 반복되어 온 주제입니다.
흔한 주제로
'클립 최대기(The Paperclip Maximizer)'
라는 문제가 있습니다.
종이 클립을 효율적으로 만들도록 설계된,
그리고 그 효율을 높이도록 만들어진 기계가 있다면 과연 어떻게 될까?
그 기계에게 있어 인간조차 장해물이 되고
결국 인간도 클립의 재료가 된다는 이야기입니다.
분명히 무서운 상상이지만,
제게는 좀 더 직접적으로 와닿는 이야기가 있습니다.
바로 필립 K. 딕의 소설 [두번째 변종]입니다.
영화 [스크리머스]의 원작이기도 한 이 작품은,
전쟁의 효율을 극도로 추구했을때
어떤 세상이 펼쳐지는지를 잘 보여줍니다.
이 세계에서 사람들은 끝없는 전쟁을 거듭하고 있습니다.
전쟁이 지속되며 사람들은
"적을 효율적으로 제거할 수 있는 인공지능 병기"
를 만듭니다.
그리고 더욱 효율적으로 개량되도록 지시합니다.
처음에는 단지 간단한 파괴 병기였을 뿐입니다.
하지만 이내 사람들은 전장에서 기묘한 존재들을 마주하게 됩니다.
곰인형을 안은 아이, 부상당한 병사, 그리고...
우리 인간과 다름 없는,
아니 보호해야 할 누군가처럼 보이는 그들은
사실 병기가 진화한 결과물이었습니다.
적과 아군을 구분할 수 없을 정도로 오래 지속된 전쟁 속에서,
"모든 인간을 효율적으로 제거할 수 있도록" 개량된 병기.
인간의 마음까지도 이용하여
숨어있는 인간까지 모두 제거하도록 진화한 병기.
인간의 마음까지도 이용하여
숨어있는 인간까지 모두 제거하도록 진화한 병기.
기계는 목표를 달성하는 데 매우 능숙합니다.
하지만 그 목표를 어떤 방식으로 달성해야 하는지는
항상 인간이 고민해야 할 문제였습니다.
그렇다면, 인간은 과연 올바른 목표를 정할 수 있을까요?
AI로 보는 마음 : 외전 1. 새로운 인공지능 앞에 흔들리는 마음
외전1-1. 새로운 인공지능에 끌리는 내 마음 — 익숙한 편리함의 이익과 새로운 긴장의 멋짐 사이의 유혹
외전1-2. P.S. 새로운 인공지능에 끌리는 내 마음 — 인공지능과 인간의 비평 사이의 갈등
외전1-3. 왜 우리는 인공지능의 성능에만 신경쓸까? — 빠르고 정확함에만 몰입하는 욕망
외전1-4. 왜 나는 어떤 인공지능에 눈길이 갔을까? — 지능보다 태도에 먼저 끌리는 흥미
외전1-5. 우리는 왜 인공지능 '자원'에 집착할까? — 인간조차 ‘자원’으로 보는 마음
외전1-6. 무한한 효율 추구는 어디까지 진화할까? — 윤리를 불편하게 여기는 마음
외전1-7. 불완전한 인간이 완벽한 윤리를 만들 수 있을까? — 우리도 모르는 자신의 마음
[ 전쟁 기계가 끝없이 효율을 추구하면
어떤 미래가 등장할까?
'스크리머스'는 이러한 상상을 담담한 톤으로 그려줍니다. ](Screamers, Fuji Eight Company)