당신이 지금, 꼭,
읽어두어야 할 경고
앤트로픽, 수년 내 대량실직 등 경제 구조 대규모 변화 경고
| 20250308
'먼 미래가 아니라, 내년 혹은 후년에 AI는 위험할 정도로 강력해진다. 따라서, 미국은 그 때를 대비해서 가능한 모든 조치를 취해야 한다. 이미 하고 있는 수출 통제는 물론, 더 강력한 통제가 이뤄져야 한다. AI를 가동하기 위한 추가 전력도 확보해야 한다. 이는 안보 차원의 문제이다. AI로 인한 대량 실직 등으로 경제 구조가 대규모로 변화할 가능성이 있다. 그러니까, 그에 대한 대비도 지금 시작해야 한다.'
AI회사 앤트로픽이 공식 문서로 미국 정부에 권고한 내용이다. 앤트로픽이 이런 문건을 작성한 것은 미국 정부가 그렇게 해달라고 요청했기 때문이다. 앞서 2025년 2월 25일, 트럼프 대통령은 "미국의 AI 기술 리더십 강화를 위한 행정명령"을 발표했다.
이 행정명령은 미국의 AI 지배력을 유지하고 강화하기 위한 'AI 행동 계획(AI Action Plan)' 개발을 지시하고 학계, 단체, 기업 등에 'AI 행동 계획에 포함되어야 할 조치들에 대한 의견'을 3월 15일까지 미국 과학기술정책실(OSTP)에 제출하라고 요구했다.
앤트로픽은 OpenAI 출신 연구자들 - 다리오 아모데이(Dario Amodei) 같은 사람들이 설립한 회사다. ChatGPT와 유사한 Claude 시리즈를 내놓고 있고, 최신모델은 Claude 3.7 Sonnet이다. 다음은 클로드가 공개한 권고안 내용이다.
앤트로픽은 백악관의 AI 행동 계획 요청에 응답하여 과학기술정책실(OSTP)에 권고안을 제출했다. 우리의 권고안은 미국이 강력한 AI 시스템이 가져올 경제적 이익과 국가 안보상의 영향을 효과적으로 대비할 수 있도록 설계되었다.
앤트로픽 CEO 다리오 아모데이(Dario Amodei)는 Machines of Loving Grace에서, 2026년 말 또는 2027년 초에 강력한 AI 시스템이 등장할 것이라고 전망했다. 이와 같은 강력한 AI 시스템은 다음과 같은 특성을 가질 것이다.
노벨상 수상자 수준의 지적 능력 - 생물학, 컴퓨터 과학, 수학, 공학 등 다양한 분야에서 노벨상 수상자와 동등하거나 그 이상의 지적 능력을 보유. 디지털 환경 내 자율적 작업 수행 능력 - 텍스트, 오디오, 비디오를 생성 및 처리하는 능력. 마우스, 키보드 등 기술 장비를 자율적으로 제어하는 능력. 인터넷 검색 및 탐색 능력. 복잡한 작업을 장기간에 걸쳐 자율적으로 수행하는 능력 - 몇 시간, 며칠, 심지어 몇 주 동안 복잡한 작업을 수행하며, 필요 시 명확한 피드백을 요청하는 능력. 이는 고도로 숙련된 직원과 유사한 작업 방식. 물리적 환경과의 연계 능력 - 실험실 장비, 로봇 시스템, 제조 도구 등을 디지털 방식으로 제어 가능.
최근 우리의 연구 결과 또한 강력한 AI의 조기 등장을 뒷받침한다. 최신 AI 모델 Claude 3.7 Sonnet 및 Claude Code는 자율성 및 성능이 대폭 향상되었으며, 다른 선두 연구소들의 AI 시스템도 마찬가지다.
우리는 미국이 기술적 리더십을 유지하기 위해 단호한 조치를 취해야 한다고 믿는다. 미국이 강력한 AI의 경제적·안보적 영향을 효과적으로 대비하고, 모든 미국인에게 혜택을 극대화할 수 있도록 6가지 핵심 영역에 대한 정책 권고안을 제출했다.
국가 안보 테스트: 정부 기관은 국내외 AI 모델이 국가 안보에 미칠 잠재적 영향을 평가할 수 있는 강력한 역량을 개발해야 한다. 이를 위해 다음과 같은 조치가 필요하다. 표준 평가 프레임워크 구축, 보안이 강화된 테스트 인프라 구축, 배포된 AI 시스템의 취약점을 분석할 전문가 팀 구성.
수출 통제 강화 : 우리는 강력한 AI 시스템의 기회를 미국과 동맹국이 최대한 활용할 수 있도록 반도체 수출 제한을 강화할 것을 주장하며, 적대국이 강력한 AI를 가능하게 하는 AI 인프라에 접근하지 못하도록 해야 한다. 이를 위해 다음과 같은 조치가 포함된다. H20 칩 등의 반도체 수출 통제, 대규모 칩 배치를 호스팅하는 국가와 정부 간 협정 체결 의무화, 수출 허가 없이 반출 가능한 기술의 기준을 낮추는 방안 고려.
연구소 보안 강화 : AI 시스템이 중요한 전략적 자산이 됨에 따라, 우리는 다음과 같은 조치를 권장한다. AI 연구소와 정보기관 간 기밀 통신 채널 구축, 산업 전문가에 대한 보안 인가 절차 신속화, AI 인프라를 위한 차세대 보안 기준 개발.
에너지 인프라 확충: AI 개발의 최전선을 유지하기 위해, 우리는 2027년까지 추가로 50기가와트(GW)의 전력을 확보하는 것을 목표로 설정할 것을 권장하며, 허가 및 승인 절차를 간소화할 필요가 있다.
정부의 AI 도입 가속화: 우리는 AI 활용으로 혜택을 받을 수 있는 정부 전반의 업무 프로세스를 조사하고, AI가 공공에 큰 이익을 제공할 수 있는 프로그램을 실행하도록 기관 책임자들에게 과제를 부여할 것을 제안한다.
경제적 영향 대비 : AI의 혜택이 사회 전반에 고르게 확산되도록 하기 위해, 우리는 인구조사국(Census Bureau)의 설문조사와 같은 경제 데이터 수집 방식을 현대화하고, 경제 구조의 대규모 변화 가능성에 대비할 것을 권장한다.
이러한 권고안은 책임 있는 확장 정책, 테스트 및 평가를 옹호해 온 앤트로픽의 기존 정책 연구를 기반으로 한다. 우리의 목표는 혁신을 촉진하는 동시에 점점 더 강력해지는 AI 시스템이 초래할 심각한 위험을 완화하는 균형을 유지하는 것이다.
우리의 전체 제출 자료에는 이러한 권고안에 대한 보다 상세한 내용이 포함되어 있으며, 미국 정부가 이 중요한 기술적 전환을 효과적으로 관리할 수 있도록 실질적인 실행 전략을 제공한다.
앤트로픽은 이런 내용을 담은 요약문과는 별도로 정부에 제출한 권고안 전문까지 공개했다.
전문은 클로드 3.7 소넷으로 번역했다.
https://telegra.ph/Anthropic-Response-to-OSTP-RFI-March-2025-03-08
