CBS News Full interview: Anthropic CEO responds to Trump order, Pentagon clash
위 콘텐츠에서 목화씨를 가져온 콘텐츠
국가 안보를 위해 AI 기업은 정부의 모든 요구를 수용해야 하는가? 앤스로픽(Anthropic)의 CEO 다리오 아모데이는 국가 방위를 위해 AI가 필수적임을 굳게 믿고 지원하면서도, 무조건적인 기술 수용은 오히려 미국의 '민주적 가치' 자체를 위협한다고 진단한다. 펜타곤과 트럼프 행정부의 전례 없는 압박 속에서도 그는 이것이 국가의 가치를 지켜내기 위한 필수적인 싸움이라고 단언한다. AI 기술 발전 속도가 법률과 제도를 아득히 앞지르는 세상에서, 맹목적인 활용을 경계하고 기술의 한계와 책임을 명확히 하는 것만이 민주주의를 수호하는 유일한 길이기 때문이다.
과거부터 앤스로픽은 중국과 러시아 같은 독재 국가의 위협에 맞서기 위해 가장 적극적으로 미 군사 및 정보기관과 협력해왔다. 하지만 적을 이기기 위해 국방의 이름으로 민주적 가치를 훼손하는 기술까지 허용한다면 그것은 궁극적인 패배와 같다. 다리오 아모데이는 98~99%의 합법적이고 유용한 군사적 활용에는 전적으로 동의하지만, 국가의 핵심 가치를 무너뜨릴 수 있는 치명적인 1%의 사용례에 대해서는 단호히 선을 그어야 한다고 강조한다.
다리오 아모데이는 AI의 군사 및 정부 도입에 있어, 민간 기업이자 기술 최전선에 있는 자로서 절대 양보할 수 없는 두 가지 예외 원칙을 제시한다.
1. 국내 대중 감시 (Domestic Mass Surveillance): 민간 기업이 수집한 방대한 미국인의 데이터를 정부가 구매해 AI로 분석하는 행위다. 이는 현재 법적으로 모호한 영역에 있어 합법으로 간주되지만, AI의 압도적인 정보 처리 능력이 법의 허점을 파고들어 사생활 보호라는 핵심 권리(수정헌법 4조)를 심각하게 훼손할 수 있다.
2. 완전 자율 살상 무기 (Fully Autonomous Weapons): 인간의 개입이나 통제 없이 기계가 스스로 표적을 정하고 발사하는 무기다. 현재 AI 시스템은 이런 중대한 결정을 내릴 만큼 신뢰할 수 없으며(Reliability), 수많은 무기들이 인간의 통제 없이 자율적으로 작동할 때 책임 소재(Accountability)가 사라지는 심각한 문제를 야기한다.
이 모든 갈등의 핵심은 '국가 안보'라는 명분 아래 민간 기업의 가치관을 통제하려는 정부와 기업 간의 충돌이다. 정부는 3일의 최후통첩과 함께 앤스로픽을 '공급망 위험(Supply Chain Risk)'으로 지정하는 보복성 제재를 가했지만, 아모데이는 결코 물러서지 않는다. 자유 시장에서 민간 기업은 자신의 원칙에 따라 서비스를 제공할 권리가 있으며, 부당한 조치에 맞서 목소리를 내는 '수정헌법 1조(표현의 자유)'의 행사야말로 가장 미국적이고 애국적인 행동이기 때문이다.
트레바리 매진 독서모임이 먼저 고른 AI 책. AI가 ‘당신의 브랜드’를 추천하게 만드세요!
https://product.kyobobook.co.kr/detail/S000219212630