아무리 사악한 독재자라도 인간이라면 언젠가 죽기 마련입니다. 그런데 AI가 독재자라면? 우리는 결코 벗어날 수 없는 불멸의 독재자를 갖게 될 것입니다.
- 일론 머스크 (다큐멘터리 'Do you trust This Computer' 인터뷰 中)
# 자강두천
오늘은 영화 어벤저스 이야기로 시작해보려 한다. 토니 스타크(아이언맨)는 지구를 안전하게 지키겠다는 목표 아래 인공지능로봇(울트론)을 제작했지만, 이 로봇이 문제를 일으켜 오히려 인간을 멸망시키기 위한 살인 병기가 돼버리고 만다. 어벤저스가 나서서 상황을 마무리했지만 이미 막대한 인명과 재산 피해가 발생한 뒤였고, 이에 UN은 어벤저스를 문제아 집단으로 규정하며 자신들의 통제를 따를 것을 명령한다.
자신의 책임을 통감한 토니 스타크는 통제에 동의하지만, 캡틴 아메리카는 정치인들을 믿지 못한다며 대립각을 세우게 된다. 두 사람의 의견이 좀처럼 좁혀지지 않자 팀원들도 양쪽으로 갈리게 됐고 결국 아래와 같은 명장면이 연출된다.
어벤저스 이야기를 꺼낸 이유는 앞선 연재에서 어벤저스에 비유한 OpenAI에서도 비슷한 양상이 벌어졌기 때문이다. '인공지능', '세계 최고', '규제와 통제' 그리고 '인류를 지키겠다는 목표는 같지만 방법에 대한 두 리더의 대립'이라는 점에서 어벤저스와 OpenAI는 많은 유사점을 보유하고 있다.
영화에서는 두 사람이 극적으로 봉합하여 다시 하나 된 어벤저스의 모습을 보여주었는데, 현실의 OpenAI는 어떤 모습일까? OpenAI 초기부터 현재까지의 상황을 들여다보자.
초기 OpenAI의 모습은 지금과 많이 달랐다. 현재의 OpenAI가 인공지능계의 엄친아 혹은 인싸의 느낌이라면, 초기에는 마치 너드의 느낌이 강했다. 그도 그럴 것이 출범 자체가 안전한 인공지능을 만들기 위해 모인 연구소와 같았고 한 단계씩 신중하게 발전해 나가느라 성능 발전 속도는 다소 느릴 수밖에 없었다. 비영리 단체라는 타이틀은 투자의 제한을 주는 족쇄로 작용했는데, 이를 지켜보던 일론 머스크와 샘 알트만은 동상이몽을 하기 시작했다.
우선 목표를 이루기 위해서 거대 자본이 필요하다는 것에는 두 사람 모두 동의했다. 단순히 몇 억, 몇 십억 단위가 아닌 조 단위의 자본이 필요하다고 판단했다. 그렇지 않으면 구글을 평생 따라잡지 못할 것이라는 결론에 이르렀다. 그러나 이를 풀어 나가는 방식에서 이견이 발생했다.
# 머스크 "여우 같은 곰"
우선 머스크의 입장을 살펴보자. 구글에 대항하기 위해 자신의 돈을 투자하면서까지 OpenAI를 만들었지만, 무한정 자금을 투자할 수는 없었다. 그 와중에 구글의 딥마인드는 알파고와 이세돌의 대결을 통해 세간의 이목을 집중시키는 모습을 보면서 초조함에 속은 점점 타들어갔다.
특히 AI의 활용 범위가 넓어지면서 여러 사업체를 보유하고 있는 머스크는 OpenAI의 기술을 더욱 적극적으로 활용하고자 하는 마음이 커지기 시작했다.OpenAI의 최종 목표인 일반인공지능(AGI)이 실현된다면 테슬라의자율 주행을 비롯해 로봇, 뉴럴링크 등 다양한 분야에서 큰 도약을 이룰 수 있다고 확신했기 때문이다. 이러한 이유로 머스크는 OpenAI를 테슬라의 자회사로 편입시키자는 제안을 한다.
이유도 꽤 그럴싸하게 포장했다.
"기부금이나 재능기부만으로는 구글을 따라잡기 어렵다는 것은 다들 인정하지? 나 역시도 계속해서 투자를 할 순 없어. 근데 테슬라에 편입된다면 지금보다 더 안정적인 자금이 계속 투자될 수 있을 것이고, 여기는 내가 운영하는 회사니까 OpenAI 설립 목적에 문제 되는 건 최소화할 수 있어. 어때?"
그러나 아무리 늑대가 양의 탈을 쓴다 한들 발톱까지 숨길 수는 없었고 이사회의 반발에 부딪혀 무산된다.
한 가지 의아한 점은 일론 머스크가 규제에 적극적이라는 점이다. 평소 자유로운 발상과 상상력을 실제로 옮기는 것에 능한 머스크이지만, 유독 인공지능에 대해서는 철저히 규제를 강화하자는 입장이다. GPT-4가 공개됐을 땐 인공지능 개발을 모두 다 같이 6개월만 멈추자는 제안을 하기도 했다.
정말로 인공지능이 무서워서인지, 아니면 OpenAI를 떠난 뒤 설립한 xAI가 따라잡을 시간을 벌기 위해서인지는 머스크 자신만이 알지만 말이다.
# 샘 알트만 '곰 같은 여우'
이제 샘 알트만의 입장을 살펴보자. 샘 역시 개발 속도가 더디자 답답해하는 것은 마찬가지다. 극도의 효율을 추구하는 것으로 유명한 샘 입장에서 더 빨리 갈 수 있는 길이 훤히 보이는데 자본이라는 벽에 막혀 나아가지 못하는 것을 두고 볼 수 없었다.
역시 가장 쉬운 방법은 영리를 추구하는 회사로 바꾸어 투자를 받는 것이었겠지만, 그럴 경우 자신이 이루고자 하는 원대한 꿈에 다가가기 어려울 것으로 판단했다. 그렇다. 샘 알트만 역시 일론 머스크처럼 검은 속내가 있었던 것이다.
샘 알트만은 AGI가 실현되면 필연적으로 인간의 노동력을 대체할 것이라 확신했다. 그래서 시작한 것이 기본소득 프로젝트이다. 인공지능으로 인한 부의 불평등을 해결하기 위해 기본소득이 반드시 필요할 것이고 그때를 위해 미리 준비해야 하는 것이다. 자신이 생각한 기본 소득 프로젝트가 원활히 이루어지려면 자신이 직접 AGI에 빠르게 도달해야 했다. 그러나 OpenAI가 영리 회사로 바뀌면 기술을 활용함에 있어 자신의 뜻을 관철시키기 어려울 것이 뻔했기 때문에 다른 수를 생각해 내야 했다.
그렇게 탄생한 것이 'OpenAI LLC(Limited Liability Company, 이하 LLC)'이다. 기존 비영리 법인인 OpenAI 아래 영리 사업을 하는 LLC를 두고 이곳에 투자를 받기로 한 것이다. 자회사의 영리 사업을 통해 얻어진 투자금과 수익을 통해 계속해서 안전한 AI 개발에 사용하도록 했다. 그리고 여기에 몇 가지 제약을 걸어두었다.
- 투자에 따른 수익은 LLC의 수익에서 지불하되 투자액의 최대 100배까지만 지불한다.
- 투자에 따른 지분은 인정하되 의결권은 인정하지 않는다. 즉, 투자자들은 경영의 참여할 수 없다.
사실 투자자들의 입장에서는 말이 안 되는 조건이다. 투자를 해도 수익이 나지 않으면 원금 회수조차 어렵고, 회사가 잘못되더라도 경영에 참여할 수 없으니 지켜볼 수밖에 없다. 과연 이런 조건에 투자를 하는 곳이 나타날까 싶었지만, 놀랍게도 나타났다. 바로 '마이크로소프트(Microsoft)'이다.
추측해 보건대 MS CEO 사티아 나델라와 샘 알트만 간에는 모종의 커넥션이 이미 있었을 것으로 보인다. 사전에 공감대가 형성이 됐기에 샘 알트만이 이러한 조건을 내세울 수 있었을 것이다. OpenAI 이사회가 봤을 때 일론 머스크와 샘 알트만의 제안 중 당연히 샘의 제안이 설득력 있어 보였고 이 방안을 승인한다. 졸지에 일론 머스크는 자신이 만들고 투자한 회사를 MS에 빼앗기게 된 꼴이 됐고 이는 회사를 나가는 결정적인 계기가 됐다.
이처럼 샘 알트만은 자신의 이상을 실현하기 위해 인공지능 개발의 규제보다는 속도의 포커스가 맞춰져 있다. 단적으로 최근 일리야 서츠케버가 포함된 안전팀을 해체한 것과 ChatGPT-4o가 스칼렛 요한슨의 목소리를 모방한 것만 보더라도 잘 알 수 있다.
# 마이크로소프트 "누이 좋고 매부 좋고"
그런데 한 가지 궁금한 점이 있다. 마이크로소프트는 왜 이러한 불리한 조건에도 130억 달러, 우리 돈으로 약 17조에 이르는 큰돈을 투자하게 됐을까? 정확한 속내는 알 수 없지만 몇 가지 추측해 볼 수 있는 정황이 있다.
인공지능이란 기술은 양날의 검과 같다. 현재는 인류에게 많은 도움을 주고 있는 것이 사실이지만, 한편으로는 이 기술이 인류를 멸망으로 이끌 수 있다며 경계의 목소리를 높이기도 한다. 앞서 언급했던 어벤저스의 울트론을 비롯해 터미네이터 등 이미 많은 영화나 소설에서도 인공지능의 문제로 인한 디스토피아를 소재로 많이 활용했고 대중들도 인공지능에 대한 막연한 두려운 감정을 가지고 있다.
최근에 AI가 조금이라도 편향되거나 사실과 다른 답변을 내놓으면 많은 커뮤니티를 비롯해 언론이 하이에나처럼 물어뜯는 이유도 대중들이 AI에 많은 관심을 가지고 있기 때문이다. 이러한 분위기가 형성되어 있는 탓에 AI가 99번 잘해도 1번 잘못하면 백배, 천배 잘못한 것처럼 부풀려질 수 있다. 상황이 이렇다 보니 다른 기술들에 비해 AI는 자신들이 1등이라고 말하는 것이 어려워졌다. 만약 1등이라는 인식이 대중들에게 박히면 혹여 AI가 잘못된 방향으로 흘러갔을 때 모든 화살이 자신들에게 날아올 수 있기 때문이다.
그렇다고 마냥 AI를 포기하기에는 너무 매력적인 기술이기에 MS는 고민 끝에 자신들 앞에 세울 방패막이를 찾게 되었고, 그것이 바로 OpenAI였다. OpenAI를 자회사처럼 운영하며 인공지능을 활용하고, 혹시나 잘못되더라도 자신이 한 것이 아니라며 꼬리를 자르면 그만인 것이다. 특히 딥마인드에 뒤지지 않는 기술 인재를 보유하고 있는 상황에다가 인류를 위한 인공지능을 개발한다는 타이틀은 MS에게 여러모로 완벽한 명분이 돼주었다.
겉으로 보기에는 인류를 구하기 위한 OpenAI를 지원하며 사회적으로 좋은 평판을 얻고, 이를 통해 개발된 기술은 자유롭게 활용할 수 있으며, 잘못되더라도 책임을 일정 부분 회피할 수 있는 조건을 MS가 마다할 이유가 없었던 것이다.
# 머스크만 빼고 해피엔딩
MS와 OpenAI가 만난 이후로는 우리가 모두가 잘 아는 것과 같다. 거대 자본의 힘으로 빠르게 성장한 OpenAI는 ChatGPT를 통해 단숨에 AI 업계의 인싸로 등극했고, 사실상 대주주라 할 수 있는 마이크로소프트는 이 기술을 적극적으로 활용하여 시가 총액 1위에 오르는 기염을 토했다. 머스크는 이 과정에서 배 아파 할 수밖에 없었고 OpenAI가 CloseAI가 됐다며 소송을 거는 등 뒤끝이 폭발하기도 했다.
이 사례를 보며 샘 알트만의 사업 수완에 대해 다시금 감탄하게 된다. 자신들과 마이크로소프트의 이해관계를 완벽하게 파악하고 이를 어떻게 활용할지 최적의 조건을 도출해 냈다. 이 계약으로 MS와 OpenAI는 완벽한 윈윈 관계가 형성했다. 필요한 것을 위해서는 수단과 방법을 가리지 않고 만들어 내는 능력이 탁월하다고 느껴지는 대목이다.
지금까지 2회 연재에 걸쳐 OpenAI에 대해 자세히 알아보았다. 다음 연재에서는 중간에 잠깐 언급됐던 '기본 소득'에 대한 내용을 알아보려고 한다.