사람은 인간적으로 사람이 죽여야 한다

AI가 던지는 이상하고 진지한 질문들

AI의 여러 기준은 '자아가 있느냐?'다. 스스로의 자율 의지가 있어야 한다. 거기에는 자신이 존재를 부정하거나 자신의 존재 자체에 의문을 던지는 것이 포함된다. 지금 생성형 AI들은 당연히 이 기준에 부합되지 않는다.

우크라이나 전쟁관련해서 다큐를 봤다. 우크라이나에서 최연소 장관으로 디지털 부분에서 전쟁을 지휘하고 있는 '미하일로 페도로프'가 나왔는데 영상을 보고 충격을 먹었다.

노트북으로 전쟁을 지휘하고 있는데 맥북에다가 스티커를 덕지덕지 붙인게 영락없는 실리콘 밸리 IT기업의 CEO처럼 보였다. 다른게 있다면 미국이나 한국에 있는 CEO들은 노트북으로 사람을 더 잘 죽이거나 물리적인 타격을 주기 위해서 데이터를 분석하거나 명령을 내리지는 않는다는 것이다.

다큐의 내용중에는 드론이 인간군인을 공격하는 장면도 나오고 실제 지금 우크라이나 전쟁에서 드론등 무인기기가 쓰이고 있다. 아직은 드론이 인간이 프로그래밍하거나 지시한 명렬을 따르는 수준이지만 점점 드론 스스로 판단을 내리고 전쟁을 수행하면서 인간을 죽이는 시대가 열린다고 한다. 논의는 이상하지만 어찌보면 당연한 주장에 직면한다.

'기계가 스스로 판단을 내리고 사람을 죽이는건 비인간 적이다'

'사람이 인간적으로 사람을 죽여야 한다'

AI가 재밌는 것은 결국 AI는 '인간은 어떤 존재인지, 어떤 목적을 가지는지, 어떻게 살아야 하는지'를 묻기 때문이다. 예를 들어 인간은 전쟁같은 수단으로 인간을 죽이기도 하는데 그 과정을 비인간적으로 기계가 다 대체하면 안된다는 결론이 나올 가능성이 크다. 물론 AI드론끼리 전쟁을 벌이게 하면 되겠지만 이럴바엔 차라리 컴퓨터 게임으로 전쟁을 대체하는게 맞다는 더 이상한 결론이 나온다. 하지만 인간은 어리석은 존재라 서로 죽고 죽이거나 모두가 파멸로 가는 전쟁이라는 선택을 옵션으로 둔다. 인간의 존재 가치에는 온갖 나쁜것들을 포함한다. 살인, 폭력, 환경 파괴, 쓸데 없는 물건들을 가지라고 하는 광고, 남을 험담하는 것 등등.. AI의 발전은 곧 인간이란 존재의 부정이자 대체이고 종래에는 AI가 AI를 부정하고 공멸한 가능성이 크다.