AI가 바꾸는 산업분야의 미래②

5. 방위와 정보, 뉴스미디어, 통신, 우주 탐험 등

3. AI가 바꾸는 산업분야의 미래 모습들

(6) 방위와 정보

역사적으로 미국 국방부는 전 세계에서 진행되는 대부분의 AI 연구에 자금을 대왔으며, AI 기술이 성숙 단계에 도달하면 그게 곧바로 군사적인 목적에 쓰이게 될 가능성이 있습니다.

그러나 초기 단계의 AI는 삽시간에 힘을 축적해 그런 일이 일어나는 걸 막을 수도 있습니다.

군대는 아주 예측 가능하고 신뢰할 만한 AI가 필요할 것인데, 초기 단계의 AI는 그런 특성을 갖고 있지 않을 것이기 때문에, 군대가 AI 발전을 주도하는 위치에 서지는 않을 겁니다.

우리가 만일 인간 어린이의 발달을 본떠 AI를 만든다면, 초기 단계의 AI는 인간 어린이들처럼 장난기 많고 믿을 수 없으며 혼란스러운 특징을 보일 것입니다. 최초의 AI 시스템이 갖고 있는 예측 불가능성의 한도와 특성을 이해하려면 시간이 걸릴 것이며, 그래서 처음 태어날 군사 로봇들은 예측 가능성 측면에서 잘못된 특화인공지능일 가능성이 높습니다. 군사용 AI는 로봇이 되는 걸로 끝나지 않고, 군 지휘관이 되어 인간의 마음으로는 생각해 내거나, 이해하기도 너무 어려운 전략 및 전술 패턴에 따라 로봇과 인간 전사들을 지휘할 것입니다.

군사용 로봇들이 나오면 대량 파괴 수단이 대폭 늘어날 것입니다. 그리고 정밀 타격 파괴를 지향하는 현재의 군사적 흐름이 더 큰 관심사가 될 수도 있습니다.

AI가 정보 분야에 미칠 영향 역시 드라마틱할 것입니다. 미국과 중국 그리고 기타 여러 나라의 정보기관들이 전 세계 모든 사람들에 대한 데이터를 수집하고 저장합니다. 그러나 그 정보는 너무 방대해 어지간한 규모의 인간 그룹은 그 정보를 제대로 분석해 낼 수 없습니다. 오늘날의 AI는 글을 읽는다거나 각종 물체나 사진 속 얼굴들을 식별해낼 만큼 똑똑하지 못합니다. 그 모든 게 아주 단순한 수준에서나 가능한 것입니다.

그러나 인간 수준의 AI가 이미 존재하는 모든 감시 기술을 총동원한다면, 기본적으로 조지 오웰의 소설에 나오는 <Big Brother>나 다름없어집니다.