AI 윤리 선언의 유통기한

구글이 군사 AI 계약을 맺은 날, '킬러 AI 반대'는 어디로 갔나

예전 국방 기술 이야기

한국의 방산 기업 도담시스템즈(현재 폐업)가 개발한 지능형 경계 전투 로봇이 논란에 휩싸인 것은 그리 오래되지 않은 일이다. 해안선 경계와 중동 수출용으로 개발된 이 시스템은 ML 기반의 자동 표적 탐지 기술을 탑재했는데, 엄밀히 말하면 오늘날의 생성형 AI와는 거리가 있는 수준이었다. 하지만 딥마인드가 주목을 받으면서 인간의 명시적 판단 없이 기계가 치명적 결정을 내릴 수 있는가, 그것이 윤리적으로 허용 가능한가 —라는 내용으로 많은 비난을 받았었다.

'킬러 AI'라고 하는 군사적 목적의 살상이 가능한 AI를 비판하는 목소리 중에는 구글 딥마인드도 있었다. 군사 목적의 AI 활용에 반대하며 '킬러 AI'를 용납할 수 없다는 입장을 분명히 했다. Don't be evil이라는 창업 모토의 계승자임을 자처하던 구글답게, 살상과 연결된 AI의 윤리 문제에 대해서는 단호한 태도를 견지하는 것처럼 보였다.

그 때는 틀리고 지금은 맞다

하지만, 2018년, 구글은 미 국방부의 Project Maven에 참여했다. 드론 촬영 영상을 AI로 분석해 표적을 자동 식별하는 프로젝트였는데, 내부의 반발은 예상보다 강했다. 수천 명의 직원이 항의 서명에 동참했고 일부는 사직을 선택했으며, 구글은 결국 계약을 갱신하지 않겠다고 공식 발표했다. 그 직후 구글은 AI 윤리 원칙을 대외적으로 공표했고, 살상 무기와 결합된 AI 개발에는 참여하지 않겠다는 조항을 명시했다. 당시 많은 이들은 이를 빅테크 기업이 윤리적 압력에 굴복한 드문 사례로 평가했다.

그러나 그 평가가 채 정착되기도 전에 구글은 방향을 바꾸었다. 군 관련 클라우드 인프라 계약을 확대했고, 사이버 보안 분야에서도 국방부와의 협력을 강화했으며, 이번 Gemini 계약으로 그 흐름은 더욱 뚜렷해졌다. 선언에는 유통기한이 있었고, 그 기한은 생각보다 짧았다.

합법이란 방패

이번 Gemini 계약에는 단서가 하나 붙었다. 미국의 법률이 허용하는 '합법적' 행위에 한해 사용한다는 것이다. 언뜻 보면 명확한 규칙처럼 느껴지지만, 이 단어는 실제로는 면죄부에 가깝다. 미국이 참여한 전쟁 중 미국 법상 불법으로 규정된 전쟁은 없었다. 현재 논란이 되고 있는 ICE의 대규모 강제 추방 작전도, 베네수엘라 대통령 마두로에 대한 체포 시도도, 법적 형식의 테두리 안에 있는 한 '합법'으로 분류된다. 합법이라는 말이 도덕적 정당성을 보증하지는 않는다. 그러나 많은 사람은 두 개념을 구분하지 않거나, 구분하려 하지 않는다.

도담시스템즈 논란의 핵심 질문은 단순했다. 기계가 인간의 생명을 빼앗는 결정에 개입해도 되는가. 그 질문은 개발한 기업의 국적이나 해당 행위의 법적 지위와 무관하게 유효하다. 구글의 Gemini가 군사 작전의 정보 판단을 지원하고 그 결과가 치명적 결정에 영향을 미친다면, 질문은 동일하게 성립한다. 달라진 것은 질문을 제기하는 목소리의 크기뿐이다.

그래서 구글은?

그럼에도 많은 사람은 여전히 구글을 정의로운 기업으로 인식한다. 최근에는 일론 머스크와 테슬라가 그 자리를 대체하는 경향도 보인다. 테슬라를 둘러싼 논란이 끊이지 않음에도 그를 새로운 시대의 도덕적 기준점으로 삼는 시각이 적지 않다. 정의의 아이콘은 교체되지만, 특정 기업에 도덕적 권위를 부여하고 싶어 하는 심리의 구조는 바뀌지 않는다.

기업의 도덕성을 판단하는 기준은 선언이 아니라 계약이다. 어떤 원칙을 공표했는가가 아니라, 실제로 누구와 어떤 조건으로 계약했는가를 봐야 한다. 구글의 Don't be evil은 2018년 사내 행동강령에서 조용히 삭제됐고, Project Maven 이후의 '살상 무기 AI 불참' 원칙은 후속 계약들 속에서 희석됐다. 이 두 사건 사이의 거리를 의식적으로 재는 사람은 많지 않다. 일상에 직접적인 영향이 없는 한, 대부분은 믿고 싶은 이미지를 유지하는 쪽을 택한다.

#국방 #AI #구글 #제미나이 #gemini #claude #무제한사용