Don't Be Evil
AI 시대에 되살아난 오래된 약속
"Don't be evil."
2000년대 초, 구글이 내세운 이 한 줄의 모토는 신선했다. 기술 기업이 돈이 아닌 양심을 이야기한다는 것 자체가 놀라웠고, 그래서 우리는(특히 나는) 구글을 좋아했다. 검색창 하나로 세상을 바꾸겠다는 그 순수함을 믿었다. 그런데 20년이 지난 지금, AI 시대의 한복판에서 그 약속을 진짜로 지키려다 정부와 정면충돌한 회사가 나타났다. Anthropic이다.
이야기는 OpenAI에서 시작된다
다리오 아모데이(Dario Amodei). 이 이름을 기억해둘 필요가 있다.
프린스턴에서 박사학위를 받은 그는 바이두, 구글을 거쳐 2016년 OpenAI에 합류했다. 거기서 GPT-2와 GPT-3의 핵심 연구를 이끌며, AI 모델이 커질수록 놀라운 능력을 갖게 된다는 '스케일링 가설'의 가능성을 눈앞에서 목격했다.
하지만 그는 AI가 점점 강력해지는 것에 대해서 안전에 대한 고민은 그 속도를 따라가지 못하고 있다는 고민이 커졌다. 더 크게, 더 빠르게, 더 많은 돈을 — 그런 방향성에 동의할 수 없었다.
"다른 사람의 비전과 싸우는 것은 믿을 수 없을 만큼 비생산적이다. 차라리 신뢰하는 사람들과 함께 나가서 당신의 비전을 직접 만들어라."
2020년 12월, 다리오는 여동생 다니엘라 아모데이(Daniela Amodei), 그리고 뜻을 같이하는 동료들과 함께 OpenAI를 떠났다. 그리고 2021년 초, 코로나 한복판에서 줌으로 회의하고 샌프란시스코 공원에서 의자를 끌어다 앉아 점심을 먹으며 새 회사를 세웠다.
회사 이름을 정하는 스프레드시트에는 Aligned AI, Sparrow, Sponge 같은 후보들이 있었다. 그중 "Anthropic"이 눈에 들어왔다. 그리스어로 '인간과 관련된'이라는 뜻. 도메인도 비어 있었다. 팀원들은 스프레드시트에 이렇게 적었다 — "We like the name. It is good."
그렇게 Anthropic이 태어났다.
클로드 섀넌, 그리고 클로드
Anthropic이 만든 AI의 이름은 Claude(클로드)다.
이 이름은 클로드 엘우드 섀넌(Claude Elwood Shannon)에게서 왔다. 1948년, "A Mathematical Theory of Communication"이라는 논문 하나로 정보 이론이라는 학문 분야를 통째로 만들어낸 사람. '정보 이론의 아버지'라 불리는 20세기의 천재 수학자다.
우리가 쓰는 모든 디지털 기기, 모든 통신 시스템, 심지어 AI의 근간이 되는 신경망의 수학적 토대까지 — 모두 섀넌의 손끝에서 시작되었다. 그런데 이 사람이 또 재밌는 게, MIT 복도에서 외발자전거를 타면서 저글링을 했다는 일화도 있고, 아내와 함께 발가락으로 조종하는 룰렛 예측기를 만들어 라스베이거스에 간 적도 있다.
깊은 과학과 장난기 넘치는 호기심의 공존. Anthropic이 자신들의 AI에 이 이름을 붙인 건, 단순한 마케팅이 아니라 일종의 선언이었을 것이다. 이는 엄밀한 과학 위에 인간적인 따뜻함을 올려놓겠다는 의미가 아니였을까?
2026년 2월, 그 일이 벌어졌다
올해 초 벌어진 일은 Anthropic이 그저 말만 하는 회사가 아니라는 걸 증명했다.
미 국방부(펜타곤)는 Anthropic에 군사 목적으로 Claude를 제한 없이 사용하게 해달라고 요구했다. 다리오 아모데이는 두 가지 선을 그었는데, 하나는 미국 시민에 대한 대규모 감시, 그리고 다른 하나는 인간의 통제 없는 완전 자율 무기는 AI에 사용할 수 없다는 것이였다.
국방장관 피트 헤그세스는 2월 27일 금요일 오후 5시 1분까지 제한을 풀라고 최후통첩을 보냈다. 하지만, 다리오는 거부했다. 그날 밤, 트럼프 대통령은 연방 기관의 Anthropic 제품 사용 중단을 지시했고, 펜타곤은 Anthropic을 '공급망 안보 위험'으로 지정했다. 미국 역사상 한 IT 기업에 이런 조치가 내려진 것은 전례가 없는 것이였다.
그리고 바로 그 시간, OpenAI가 뉴스 플로우에 나타났다. 펜타곤의 기밀 네트워크에 자사 모델을 배치하는 계약을 체결했다. 인터넷은 이 뉴스로 폭발했다. 'QuitGPT'라는 운동이 시작됐고, ChatGPT 삭제율은 하루 만에 295% 급증했다. 1성급 리뷰는 775% 폭증했고, 반대로 Claude는 미국 앱스토어 1위에 올랐다. 역사상 처음으로 Claude의 일일 다운로드 수가 ChatGPT를 추월한 날이었다.
이건 단순한 시장 점유율 싸움이 아니었으며, 자신의 구독료로 이를 지지하는 사람들이 투표한 것이다.
그래서 나는 왜 여기 있는가
솔직히 말하면, 나도 한때 Anthropic의 구독료가 비싸다고 투덜거렸다. ChatGPT도 쓰고, Gemini도 쓰고, 이것저것 비교하면서 과연 이 돈을 낼 가치가 있나 고민했다.
지금 돌아보면 그때의 나에게 꿀밤을 먹이고 싶다.
나는 매일 Claude Code로 업무 자동화를 하고, 프로젝트를 설계하고, 자료를 분석한다. 개인 프로젝트를 만들 때도, 투자 리서치를 할 때도, 심지어 이 글을 쓰는 지금 이 순간에도 클로드와 함께하고 있다. 이 정도의 퀄리티를, 이 금액에, 매일 쓸 수 있다는 건 — 나에게는 축복이고 선물이다.
물론 구글의 Gemini도 여전히 구독 중이다. Don't be evil의 원조이며, 구글은 나름의 장점이 훌륭하다. 하지만 ChatGPT 구독은 해지했다. 이유는 굳이 말하지 않아도 될 것 같다.
Don't Be Evil, Again
구글이 "Don't be evil"을 조용히 내려놓은 지 오래다. 그 약속은 어느 순간 기업 문서 어딘가의 각주가 되어버렸다. 그런데 2026년, 미국 정부의 압박 앞에서 2000억 달러짜리 계약을 걷어차고 "안 됩니다"라고 말한 회사가 있다. 법정까지 가겠다고 했다. 마이크로소프트가 지지를 보냈고, 전직 군 지도자들도 편에 섰다.
Anthropic이 완벽한 회사인지는 모른다. 어떤 기업이든 성장하면 타협의 순간이 온다. 하지만 적어도 지금, 이 순간만큼은 — "인간과 관련된(Anthropic)" 것을 지키기 위해 진짜 대가를 치르고 있다.
나는 그 행보를 응원한다.
AI가 세상을 바꿀 거라는 건 이제 누구나 안다. 문제는 어떤 방향으로 바꾸느냐다. 디스토피아가 아닌 미래를 위해, 기술의 힘을 인간의 편에 두기 위해 싸우는 사람들이 있다는 것. 그리고 우리가 구독 버튼 하나로 그 싸움에 한 표를 던질 수 있다는 것.
Don't be evil.
이 오래된 약속이, 2026년에 가장 뜨거운 문장이 될 줄 누가 알았을까.
첨언.
https://www.quitgpt.org/ 이런 사이트도 있으니 관심 있는 분들은 들려보시기를 권합니다.
