The Buck Stops Here
결정과 책임
19세기 포커판에서 은어로 사용되던 표현 중 'Pass the Buck'이라는 말이 있다. 여기서 'Buck'은 딜러가 돌리는 패를 의미한다. 각 게임에서 딜러는 패를 돌리는 행위, 즉 '딜링(Dealing)'을 하게 되는데 이때 플레이어가 딜링을 원치 않을 경우에는 해당 Buck이 다음 사람에게 넘어가게 된다. 다시 말해 'Pass the Buck'은 패를 다음 사람에게 넘긴다, 즉 다음 사람에게 책임을 넘긴다는 의미를 뜻하게 되었다.
The Buck Stops Here.
더 이상 차례를 넘기지 않는다, 또는 모든 결정에 대한 책임은 내가 진다는 뜻으로 미국 제33대 대통령이었던 해리 트루먼(Harry S. Truman)의 백악관 책상에 놓여 있던 팻말의 내용이다.
이 내용은 결국 국정의 모든 책임이 대통령 본인에게 있지, 그 누구에게도 있지 않다는 뜻으로 그가 지녔던 막중한 책임감을 떠올리게 한다. 대내적으로는 물론, 대외적으로 당대 최고의 영향력을 가졌던 미국이라는 국가의 원수였기 때문이다.
사실 대한민국 사람이라면 트루먼 대통령의 이름을 한 번쯤은 들어봤을 것이다. 6.25 전쟁 당시 미국의 대통령이었기 때문이다. 전쟁 당시, 맥아더 장군과의 불화는 흥미로운 일화이기도 하다.
그와 관련해 또 하나의 주목할 만한 사실은 트루먼이 전쟁 상황에서 핵무기 사용을 명령한 세계 유일의 인물이라는 것이다.
그렇다.
1945년 8월 일본 히로시마와 나가사키에 투하된 핵폭탄은 모두 트루먼 대통령의 명령에 의한 것이었다. 히로시마 그리고 나가사키 사태는 단 한 사람의 결정으로 수많은 인명이 희생될 수 있다는 것을 명백히 보여준 사건이었다.
반대로 단 한 사람의 결정으로 핵전쟁이 발생하지 않은 사건도 있다.
1983년 9월 26일, 당시 소련군 중령이었던 스타니슬라프 페트로프(Stanislav Petrov)는 당직 근무 중 조기 경보 시스템을 통해 미국으로부터 5발의 핵탄두를 실은 대륙간탄도미사일이 발사되었다는 정보를 입수하게 된다. 미소 간 냉전이 고조되고 있던 당시 그가 택할 수 있는 선택지는 단 두 개였다.
1) 반격을 명령할 가능성이 높은 상사에게 보고하는 것
2) 허위 경보(False Alarm)로 취급하는 것
페트로프 중령은 극도로 긴장된 상황 속에서도, 미국이 진정으로 소련과 핵전쟁을 원한다면 5개보다 훨씬 더 많은 양의 미사일을 발사했을 것이라고 판단하여 허위 경보로 취급하였다. 결국 페트로프의 판단이 맞았고, 소련의 조기 경보 시스템을 탑재한 위성이 구름에 반사된 태양을 미국의 미사일 공격으로 착각했던 것이었다.
만약 당시 페트로프 중령이 조기 경보 시스템으로부터 입수된 정보가 허위 경보가 아닌 실존적 위험이라고 판단하여 상사에게 보고하였다면, 제3차 세계대전은 불가피했을 것이다.
핵무기 사용을 명령한 트루먼 대통령, 핵무기 조기 경보를 허위 경보로 취급한 페트로프 중령은 모두 자신의 결정에 대한 책임을 진 사람들이다.
비록 일본에 대한 핵사용을 승인하고 이후에 후회한다는 내용을 담은 트루먼 대통령의 서한이 공개되었지만,
세기의 핵전쟁을 막았다는 인정을 받기는커녕 당직 일지를 제대로 작성하지 않았다는 이유로 페트로프 중령은 조기 전역을 명 받았지만,
이들은 모두 자신의 결정에 책임을 졌다.
즉, 모든 결정에는 책임이 뒤따라야 하며 한 순간의 결정으로 파멸적인 결과를 야기할 수 있는 핵무기 사용에 있어서는 더욱 그렇다.
하지만 최근 AI(Artificial Intelligence) 기술의 고도화로 인해 해당 기술을 군사 분야에 활용하려는 움직임이 활발해졌다. 미국은 이미 위성 이미지와 드론 영상 처리에 AI 기술을 활용하고 있으며, 아마도 가까운 미래에는 핵 사용에 관한 결정을 뒷받침할 수 있는 정보를 분석하는 데에도 사용될 것이다. 심지어 미국 내에서는 NC3(Nuclear Command, Nuclear Control and Nuclear Communication)라고 불리는 핵 명령, 통제 및 통신에 있어서도 자동화 가능한 AI의 활용 가능성에 대한 논의가 진행 중이다.
핵무기체계에서 자동화 시스템을 적용하는 것이 완전히 새로운 내용은 아니다. 냉전 시대에 소련은 'Dead Hand'라고 불리는 시스템을 개발하고 배치하였다. 이는 소련에 대한 핵 공격이 감지되고, 공격을 명령할 수 있는 핵심 권한을 가진 인원들이 모두 파괴될 경우 인간의 개입 없이 또는 최소한의 개입으로 소련 영토 내에 있는 모든 핵무기가 목표물을 향해 발사하는 시스템이다.
하지만 과거에 비해 고도로 발달한 AI가 현재 국가들의 핵 운용에 더욱 적극적으로 활용될 경우, 핵무기 기술의 고도화로 인한 안보 불안감이 고조될 수 있다. 게다가 과거 페트로프 중령 사건과 같이 기술의 실수, 오작동 또는 스푸핑(속임수, 사기)으로 인한 우발적인 핵 사고가 발생할 수 있는 위험이 커진다.
걷잡을 수 없이 빨라진 AI의 발전 속도로 인해 현재 국제사회는 이에 경각심을 가지고 AI의 군사적 활용에 대한 논의를 진행 중이다. 특히 작년 2월에 있었던 '인공지능의 책임 있는 군사적 이용에 관한 고위급회의(REAIM: Responsible AI in the Military Domain Summit)'은 현재 국제사회가 당면하고 있는 군사 영역에서 AI의 위험 가능성을 명시하면서 이를 통제하고 감독하는 것에 우선순위를 두고 있다.
게다가 미국과 중국은 작년 11월에 있었던 미중 정상회담에서 핵무기 운용에 'Human in the loop'을 적용해야 한다는 내용의 논의를 하기도 하였다. 핵무기 운용에서 'Human in the loop'이란 인간이 직접 통제해야 한다는 것을 의미한다.
쉽게 말하면 핵 발사 버튼을 누르는 것은 '인간'이어야지 '인공지능'이 되어서는 안 된다는 것을 의미한다.
물론 미국과 중국 사이에 해당 내용에 관한 합의문이 도출될 것으로 기대하였지만, AI에 대한 상호 간 이해 충돌로 인하여 실질적인 협정에 도달하지는 못하였다. 하지만 해당 논의에서 알 수 있듯, 핵 사용과 관련해서 인간의 역할이 매우 중요하다는 것이다.
앞선 트루먼 대통령과 페트로프 중령 역시 어떠한 결과가 초래될지 몰랐지만, 결정을 하였고 결정에 대한 책임을 졌다. 하지만 수많은 오류 가능성에도 불구하고, 핵 결정의 권한을 AI에 맡기면 결정에 대한 그 책임은 과연 누가 질 것인가?
핵무기와 관련한 결정 권한은 절대적으로 인간의 손에 있어야 한다. AI의 발전은 무한한 가능성을 열어주지만, 그 책임의 중대함과 잠재적 오류의 위험성을 고려할 때, 핵무기와 같이 파괴력이 극대화된 영역에서는 인간의 판단과 통제가 필수적이어야 할 것이다.
결국 AI는 'Pass the Buck'은 할 수 있어도, 'The Buck Stops Here'는 여전히 인간의 몫이다.
