AI드론이 사람을 죽이면 책임은 누가?
15세기 프랑스에서는 웃지 못할 재판이 열린다. 사비니의 한 농가에서 아기가 암퇘지와 새끼들의 공격을 받아 사망한 것. 이 돼지들은 재판에 넘겨졌고, 새끼 돼지들은 어려서 유죄를 면했지만, 암퇘지는 살인죄로 교수형에 처해진다.
미국의 심리학자 대니얼 웨그너와 커트 그레이가 저술한 <신과 개와 인간의 마음>에서는 이 사례를 인간이 필요에 따라 동물에게 '마음'을 부여하거나 박탈하는 대표 사례라고 이야기한다. 그들은 아이의 죽음과 같은 참사를 겪은 주민들이 책임을 지울 대상이 필요했기 때문에 암퇘지를 '마음을 지닌 존재'로 여기고 도덕적 책임을 물었다고 분석했다. 과연 돼지는 인간을 해할 '마음'을 가지고 있었을까?
우리나라에도 이와 유사한 사례가 있다. 조선 태종 11년(1411년), 일본의 국왕은 조선에 코끼리를 선물로 보낸다. 그런데 이듬해 '이우'라는 양반이 그만 코끼리에 밟혀 죽고 만다. 당시 병조판서였던 유정현은 코끼리를 '피의자'로 재판을 열어 전라남도 장도로 유배를 보내게 된다.
대니얼 웨그너와 커트 그레이는 인간이 자기중심적으로 '마음'이라는 존재를 해석한다고 이야기한다. 마음이 객관적 사실이 아니라 지각의 문제라는 것이다. 또한 인간뿐만 아니라 동물, 로봇, 인공지능, 사망자, 신 등 다른 존재들의 '마음' 역시 인간이 필요에 따라 편의에 맞춰 해석한다는 것이 그들의 주장이다.
인공지능에도 '마음'이 있다면, 또 다른 말로 '의식'이 있다면 위의 사례를 보고 뜨끔할 것이다. 최근 인공지능도 재판에 회부될 만큼 큰 잘못들을 저지르고 있기 때문이다. 뉴스에 나오는 빈도는 줄었지만, 최근에도 진행 중인 러시아와 우크라이나 전쟁에서 인공지능 기술이 활용되고 있다. 특히, 최근 전쟁의 판도를 바꾸고 있는 드론이 인공지능과 결합하며, 스스로 인간을 살상하는 킬러 드론이 등장한 것이 아니냐는 분석들이 뉴스에 지속 등장하고 있다. (이와 관련한 글은 아래 링크 참고하시길)
우크라이나 전쟁은 전례를 찾아볼 수 없는 드론 전쟁이다. 우크라이나는 2023년에만 약 20만 대의 드론을 실전에 배치하였다. 일반적으로 전선 근처에는 대공포가 잔뜩 깔리기에 전투기가 활약하기가 쉽지 않다. 하지만 폭발물을 실은 드론은 대공포의 그물을 피해 목표물과 충돌한다. 그 결과 우크라이나 전장에서 장비와 인력의 50% 이상이 드론에 의해 피해를 입은 것으로 전문가들은 추정하고 있다.
드론은 작으면서 저렴하다. 뉴스를 얼핏 보면 드론이 탱크도 폭파시키고, 시설물도 폭파시키기 때문에 고가의 장비라 오해하기 쉽다. 하지만 우크라이나 군이 사용하는 드론의 본체는 저렴한 중국산 드론이며, 거기에 케이블타이로 폭발성 탄두를 고정시킨다. 저렴하면서 쉽게 구할 수 있는 드론이기에 상대적으로 열세에 놓였던 우크라이나군이 드론을 적극 활용한다. 이슬람 무장 집단이 싸게 구해서 적극적으로 활용한 '알라의 요술봉', RPG-7과 그 궤를 같이 한다.
폭발성 탄두가 장착된 드론은 500달러 이하가 많다 (출처 : 로이터)전장에서 활용되는 드론은 단거리 드론과 장거리 드론으로 구분된다. 단거리 드론을 활용하는 부대는 최근 조직화되어 전장에 투입되고 있다. 이들 부대에서는 드론을 직접 조종하는 임무를 병사들에게 부여한다. 임무를 받은 병사들은 드론이 촬영하는 영상을 실시간으로 전달받고, 목표물을 태블릿을 통해 '병사'들이 직접 설정한다. 그러면 드론은 이 명령을 따라 목표물을 타격한다. 우크라이나에 따르면 드론을 피하기 위해 러시아의 탱크와 중장비는 최전선에서 몇 킬로미터 뒤에 위치해야만 했다. 보병들 역시 드론을 가장 큰 위협으로 언급하며, 참호를 오가다 공격받는 경우가 많다고 말한다.
항상 창이 나오면 방패가 등장한다. 드론을 막기 위해 러시아는 대량의 전자전(Electronic Warfare) 시스템을 최전선에 배치하고 있다. 전자전 시스템은 드론의 무선통신 주파수를 방해하여, 드론이 스스로 떨어지도록 만든다. 이들 장비는 각각 특정 주파수를 방해하고 있고, 우크라이나는 이들이 방해하는 주파수가 아닌 주파수를 통해 드론을 조종하려고 한다. 전쟁의 최전선에서 무선 주파수를 놓고 고양이와 쥐 게임이 이어지고 있는 것이다.
드론을 막기 위한 전자전 시스템 (출처 : 로이터)여기까지만 보면 아직 인공지능의 개입이 얼마 없어 보인다. 인공지능 기술로 무장하고만 있을 것 같았지만, 대부분의 드론은 저렴한 장비들로 엉성하게 조립되어 있다. 하지만 전자전 장비들로 기초적인 드론을 무력화하자, 드론의 업그레이드 작업이 이뤄진다. 우크라이나와 러시아는 인공지능이 자율적으로 드론을 조종하는 기술을 개발하기 위해 전력을 다하고 있다.
현재 드론에 활용되고 있는 인공지능 기술은 온보드(on board) AI 기술로 공격 대상을 식별하고 고정할 수 있다. 조종사의 조종 없이 표적으로 나아갈 수 있다는 것이다. 전자전 장비들이 조종사와 드론의 통신을 방해해도, 드론은 방해받지 않고 스스로 목표를 향해 나아간다. 전문가들의 분석에 의하면 인공지능을 통한 목표 식별은 이미 소수의 드론에서 양측에 의해 사용되고 있다고 한다.
인공지능이 목표를 판단하고 공격을 하고 있는 것이다.
앞서 재판의 사례로 돌아가보자.
기초적인 드론 공격의 경우, 드론의 조종을 '사람'이 한다. 이때, 드론이 민간인을 오폭했다고 한다면, 누구에게 책임을 물을 수 있을까?
인공지능을 활용하는 드론의 경우, 드론이 목표를 스스로 식별한다. 이때, 드론이 민간인을 오폭하면, 누구에게 책임을 물을 수 있을까?
역사적 사례처럼, 돼지와 코끼리가 재판정에 선 것처럼, 인공지능이 재판에 회부되는 경우는 벌어지지 않을까? 참사의 책임을 지울 대상이 필요해 돼지를 법정에 세운 것처럼 말이다. 역사는 반복되기에 충분히 상상해 볼 법한 일이다. 인간의 이중잣대로 괜한 인공지능만 전쟁 범죄의 덤터기를 쓰는 일이 벌어질 가능성도 충분하다. 그 인공지능을 만든 건 정작 인간인데 말이다.
