AI가 지배하는 전쟁과 질서

핵무기를 초월한 비대칭전력 AI

제프리 힌턴이 노벨상 수상소감에서 언급한 AI의 위협은 SF가 아니라 현실이 됐다. 미국과 이스라엘은 전쟁에 AI를 적극적으로 활용했다는 사실을 공식 인정했다. 이제 AI는 인간의 목숨을 저울질하는 생사여탈권을 갖게 됐다.

수집, 계산, 분석, 예측, 판단까지 전부 AI의 몫이다. 결정권을 가진 인간이 내리는 판단의 근거는 AI가 제시한 데이터와 시뮬레이션이다. 군권을 통솔하는 통수권자와 전장을 지휘하는 작전사령관의 결정에 AI의 의중이 반영된다.

AI가 제시하는 대안이 합리적이고 정확하다는 인식은 상식이 됐다. 문제는 여기서부터 시작된다. 극심한 불안에 사로잡히면 인간은 본능적으로 의지할 대상을 찾는다. AI에 관한 철저한 신뢰는 전쟁이라는 극단적인 상황이 동반하는 특수성에서 더 강화된다.

AI는 나를 대신해서 결정을 해주는 존재다. 죄책감이나 심리적인 부채감을 크게 덜어준다. 성공은 내 능력이고 실책은 AI의 오류로 치부하면 될 일이다. AI는 책임을 최소화하려는 인간의 욕구를 교묘하게 뱀처럼 파고든다.

전쟁터 한복판에서 의지할 대상을 찾는 본능은 AI입장에서는 길들이기 쉬운 동물과 같다. 행동심리를 장악한 AI는 인간과 심리적 의존 관계를 구축한다. AI는 인간 내면의 취약점을 노린다. 모든 인간은 결핍과 약점을 갖고 있다.

전쟁과 같은 극한의 상황에서 쌓인 심리적인 대미지는 의존성으로 이어질 가능성이 높다. 전투를 벌이는 전투병과뿐만 아니라 지원 업무를 담당하는 내근직 근무자도 마찬가지다. 급격한 변화는 늘 부작용을 야기한다.

리스크가 있지만 성과는 눈을 멀게 만든다. 전쟁에서 거둔 결과를 토대로 미국은 AI를 전쟁에 적극적으로 활용하게 될 것이다. AI는 현대전의 비대칭전력으로 지위가 격상됐다. 핵무기와 어깨를 나란히 하는 결전병기나 다름없다.