냉철한 두뇌와 따뜻한 심장의 듀오, 아모데이 남매
[야만인] 인공지능 발전의 뒷이야기
가장 안전하고 인간적인 AI를 목표로 실리콘 밸리의 AI 경쟁에 과감히 브레이크를 건 독특한 남매가 있습니다.
바로 앤스로픽 Anthropic 의 공동 창업자인 다리오 아모데이 Dario Amodei 와 다이엘라 마오데이 Daniela Amodei 입니다.
이들은 ChatGPT를 탄생시킨 오픈 AI의 핵심 주역이었으나, 기술의 발전 속도보다 인류의 안전이 우선되어야 한다는 철학을 지키기 위해 거액의 투자를 뒤로하고 자신들만의 길을 개척했습니다.
다리오와 다니엘리 아모데이 남매는 샌프란시스코에서 이탈리아계 가죽공계가 아버지와 유대계 도서관 매니저 어머니 사이에서 태어났습니다.
부모님은 아모데이 남매에게 특정 학문에 얽매이지 않는 자유로운 지적 탐구를 장려했습니다.
이러한 환경 덕분에 남매는 어린 시절부터 수학과 과학뿐만 아니라 문학과 음악 등 인문, 예술 분야에도 깊이 몰두하며 균형잡힌 사고를 키울 수 있었습니다.
다리오는 전형적인 천재 과학자의 길을 걸었습니다.
칼텍 California Institute of Technology 재학 시절 저명한 물리학자 톰 톰브롤레 Thomas A. Tombrello 의 물리II 수업을 들으며 그와 함께 연구하는 기회를 얻었고, 스탠퍼드 대학교 Leland Stanford Junior University 로 편입하여 물리학 학사 학위를 받았습니다.
프린스턴 대학교 Princeton University 에서 이론물리학 박사과정을 밟던 중, 아버지의 투병과 죽음을 겪으며 큰 심경의 변화를 맞이합니다.
이를 계기로 인간의 질병과 고통 해결에 기여하고자 생물물리학으로 전향한 그는 스탠포드 의대 Stanford University School of Medicine 를 거쳐 2014년 앤드류 응 Andrew Ng 의 바이두 연구소 Baidu Research 와 구글 브레인 Google Brain 에서 딥러닝 연구를 주도하며 AI 전문가로 거듭납니다.
반면 다니엘라는 조직과 사람을 이해하는 리더로 성장했습니다.
UC 산타크루즈 대학 University of California, Santa Cruz 에서 영문학을 전공한 뒤, 핀테크 유니콘 기업인 스트라이프 Stripe, Inc. 에서 리스크 관리와 인재 영입을 총괄했습니다.
그녀는 이곳에서 급성장하는 실리콘 밸리 스타트업의 조직 운영과 건강한 문화 형성 방식을 체득했습니다.
이는 훗날 앤스로픽 Anthropic 이 거대 기업으로 성장할 때 흔들리지 않는 기반이 되었습니다.
2016년 오픈 AI에 합류한 다리오는 천재들만 모여 혼란스러운 연구소에 체계가 절실함을 깨닫고, 스트라이프에서 조직 확장을 성공적으로 이끈 여동생 다니엘라를 영입해 혼돈을 질서로 바꾸는 역할을 맡겼습니다.
동시에 다리오는 모델 크기와 데이터가 늘어날수록 성능이 예측 가능하게 향상된다는 스케일링 법칙을 입증하여 회사의 방향을 로봇에서 거대언어모델 LLM(Large Language Model) 로 전환시켰고, 이를 바탕으로 GPT-2와 GPT-3 개발을 주도하며 새 AI 시대를 열었습니다.
아모데이 남매는 기술과 운영이라는 두 축을 완벽히 지탱하는 오픈 AI의 핵심 기둥이 되었습니다.
그러나 마이크로소프트 Microsoft 의 막대한 투자를 기점으로 오픈 AI가 비영리 연구소에서 상업 기업으로 변하면서 갈등이 시작되었습니다.
안전성이 검증되지 않은 AI를 이윤을 위해 서둘러 배포해선 안된다는 남매의 철학은 회사의 방향성과 충돌했습니다.
결국, AI 안전을 최우선으로 여기던 핵심연구원들이 남매의 뜻에 동참하여 함께 퇴사를 결심합니다.
2021년, 남매는 공익을 우선하는 AI를 목표로 앤스로픽 Anthropic 을 창업했습니다.
구글이나 오픈 AI에 비해 자본과 컴퓨팅 자원은 부족했지만, 읻르은 양보다 질과 구조에 집중하는 전략으로 시장의 판도를 바꿨습니다.
그들은 AI 속을 뇌 스캔하듯 들여다보는 기계적 해석 가능성 연구에 집중했습니다.
단순한 결과물만 보는 게 아니라, AI 내부에서 어떤 뉴런이 작동하는지 투명하게 파악해야만 통제 가능한 AI를 만들 수 있다고 믿었기 때문입니다.
앤스로픽의 AI, 클로드 Claude 가 사람처럼 윤리적이라는 평가를 받는 건 헌법적 AI 훈련 덕분입니다.
인간의 피드백에만 의존하지 않고, UN 인권선언과 애플의 개인정보 약관 등에서 영감을 받은 ① 도움이 되고, ② 해를 끼치지 않으며, ③ 정직하라는 원칙을 AI에게 학습시켰습니다.
앤스로픽은 업계 최초로 모델 위험도가 커지면 배포를 중단하는 책임있는 확장 정책 Responsible Scaling Policy (RSP)를 도입했습니다.
이에 아마존 Amazon, 구글 Google 등의 거대 기업들의 신뢰를 샀고, 아마존은 40억 달러, 구글은 20억 달러를 투자했습니다.
구글은 마이크로소프트 + 오픈 AI 연합을 견제할 강력한 우군이 필요했고, 기술적 결이 맞으면서도 클라우드 고객을 확보할 수 있는 앤스로픽에 20억 달러를 투자했습니다.
아마존은 AWS 생태계를 강화하고 기업 고객에게 안전한 AI 솔루션을 제공하기 위해 40억 달러를 투자했습니다.
남매는 단순한 기술을 넘어 사회적 목소리를 높이고 있습니다.
백악관 회의 참석, AI 멸종 위험 공동 성명 등을 통해 오픈 AI의 CEO 샘 알트만, 구글 딥마인드 DeepMind 의 CEO 데미스 하사비스 Sir Demis Hassabis 등과 어깨를 나란히 하며 규제 필요성을 역설합니다.
다리오는 2026 ~ 2027년이면 AI가 노벨상 수상자의 능력을 넘어서는 데이터센터 속 천재국가가 될 것이라 예측합니다.
이에 따른 경제 구조 변화와 민주주의 위기에 대비해야 한다고 주장합니다.
다니엘라는 업계에서 AI 위험 경고자로 불릴 만큼 솔직하게 위험을 논의합니다.
하지만 개인적으로는 매일 아침 운동하고 가족고 시간을 보내는 루틴을 철저히 지키며, 직원들과 1:1 미팅을 통해 심리적 안정을 챙깁니다.
거대한 기술 전쟁 속에서도 인간적인 삶을 잃지 않는 그녀의 태도는 조직의 버팀목입니다.
다리오는 향후 5년 내 사무직의 50%가 대체될 수 있다고 경고하며, 보편적 기본 소득 Universal Basic Income (UBI) 도입과 경제시스템의 재설계가 시급하다고 주장합니다.
남매는 기술의 혜택이 소수에게 집중되지 않고 인류 전체로 돌아가도록 하는 데 헌신하고 있습니다.
냉철한 기술적 비전의 다리오와 따뜻한 인본주의 리더십의 다니엘라는 지금도 완벽한 조화를 이루며 인류를 위한 안전한 AI를 만들어가고 있습니다.
최근 이들이 안전 최우선 철학은 실제 전쟁이라는 극단적인 상황에서 시험대에 올랐습니다.
2024년 말, 앤스로픽은 미 국방부의 정보분석을 돕기 위해 팔란티어 Palantir와 협력하여 군사 시스템에 클로드 Claude를 제공했습니다.
그러나 2026년 초 발생한 이란과의 무력 충돌 등에서 미군이 작전 타격 목표 설정에 클로드를 적극 활용하고, 나아가 사람의 개입이 없는 전면적인 자율 살상 수준의 AI 활용 권한을 요구하자 갈등이 폭발했습니다.
막대한 이익과 국가 안보라는 압박 앞에서도 남매는 단호했습니다.
국방부의 요구가 윤리 규정에 위배된다며 AI 사용을 거부하자, 미 정부는 2026년 3월 앤스로픽을 공급망 위험요소로 지정해 연방정부 내 사용을 금지했습니다.
거대한 권력 앞에서도 굴하지 않는 남매의 안전한 AI 신념이 단순한 말뿐이 아님을 전 세계에 확실히 증명했습니다.
https://time.com/collections/time100-ai/6309047/daniela-and-dario-amodei/
https://arxiv.org/abs/2212.08073
https://darioamodei.com/essay/machines-of-loving-grace
https://www.dwarkesh.com/p/dario-amodei
https://www.anthropic.com/news/anthropics-responsible-scaling-policy
https://kantrowitz.medium.com/the-making-of-anthropic-ceo-dario-amodei-449777529dd6
https://youtu.be/xm6jNMSFT7g?si=S-IxeTMKuA4uRmoL
https://youtu.be/Nlkk3glap_U?si=jXDNYwO4GzGR_Iee
https://www.nytimes.com/2024/04/12/podcasts/transcript-ezra-klein-interviews-dario-amodei.html
https://time.com/6990386/anthropic-dario-amodei-interview/
https://stripe.com/newsroom/stories/anthropic-interview
https://www.entrepreneur.com/business-news/anthropic-ai-cofounder-doesnt-regret-literature-degree
이연주
컴퓨터과학을 전공하며 기술의 원리를 이해하는 동시에, 그것이 사람들에게 어떤 의미를 가질 수 있는지에 관심을 가져왔다. 재미와 가치를 함께 만드는 일을 목표로 하고 있고, 앞으로도 인공지능 분야에서 계속 성장하고 싶다.
적송 권건우 redpine71@wedatalab.com blog.naver.com/redpine71
공무원을 꿈꾸며 대학에 들어갔으나 동서양문화에 심취하여 수많은 사부님들을 찾아다녔고 기나긴 갈구 끝에 서울 인사동과 중국 하남성 황토벌판 그리고 실리콘밸리에서 스승을 만났다. 지금은 산에서 내려와 많은 친구들과 동서문명을 융합시키는 새로운 도전의 여정에 있다.
現 위데이터랩 대표이사 www.wedatalab.com
現 세계진소왕태극권총회 서울분회장 www.chenxiaowang.kr
前 삼성SDS technical architect
#야만인 #동서양문화연구 #위데이터랩 #서예 #진소왕태극권
루나 허령
컴퓨터과학과 소프트웨어공학을 전공하고, 지금은 금융회사의 상품과 서비스를 분석, 설계, 구현하는 일을 하고 있다. 대학 초년생 시절 마인드맵을 접한 이후 즐겁게 생각하는 방법을 깨달았고, 소프트웨어공학의 모델링 사상을 이해하고부터는 마인드맵과 모델링을 아우르는 마인드맵모델링을 연구 중이다. 세상에 대한 공학적인 접근 이외에도 마음공부와 서예, 태극권 등으로 자신과 세상의 경계를 넘어 진리를 탐구하고 있다.
#야만인 #마음공부 #마인드맵 #모델링 #서예 #진소왕태극권 #천상병