패권 : 상세 리뷰 ⓶

누가 AI전쟁의 승자가 될 것인가. 파미 올슨. 문학동네 2025

제3부 자본 : 돈 앞에 고개 숙인 고귀한 미션

CEO 올트먼 + 마이크로소프트

2019년 3월 이익제한기업(capped profit company)을 설립 오픈 AI는 비영리기업 타이틀을 유지하면서 수십억 달러의 자금을 조달하고 투자자들은 수십억 달러 이상 수익을 올릴 수 있게 됨.

'오픈 AI는 자사 기술에 대한 라이선스를 마이크로소프트에 부여함으로써 클라우드 사업 성상을 돕기로 했다. 또한 향후 비영리이사회에서 오픈 AI가 마침내 AGI를 개발했다고 판단할 경우 마이크로소프트에 대한 기술 라이선싱을 무효화하기로 했다.'

올트먼은 과학자나 연구자가 아니다. 사업가다운 임기응변. 기술 이전 후 라이선싱 무효화가 무슨 의미가 있겠나? 대기업에 기술 라이선스를 제공하는 일은 제품 판매와 다를 게 없음.

▲ 올트먼의 행보에 반대한 아모데이 - 오픈 AI를 나가 앤트로픽 설립

AI안전성 우려 : 마이크로소프트와 같은 대기업이 AI성능을 높이는데만 집중 이 기술의 위험성은 간과

(최근 클로드 오퍼스 4.6 출시로 주식시장을 출렁이게 함.)

그러나 2년 뒤 자신도 구글과 아마존으로부터 대규모 투자를 받기 시작.

대기업의 영향력에서 벗어나고 싶어 한 딥마인드, 오픈 AI, 앤트로픽 모두 기술 대기업에 의해 빠르게 점령당한다. 소수 대기업이 AI기술의 연구 및 개발, 훈련, 상용화에서 차지하는 지배력이 나날이 켜지고 있다.

▲ 오픈 AI - 구글에서 만든 트랜스포머 모델을 활용한 GPT(generative pre-trained transformer) 개발

GPT 언어모델 훈련 텍스트로 위키피디아, 래딧, 커먼크롤(문제는 성인영화사이트나 성매매사이트도 포함된 텍스트임) 등을 사용 - 페이스북은 제외 법적으로 개인정보수집 접근불가 그 말인 즉, 다른 텍스트들은 개인정보에 대한 법적 제재가 없으므로 자유롭게 남용가능

확률적 앵무새 GPT - 1, 2의 선풍적인 인기와 흔들리는 사람들.

아무리 복잡하고 정교하다 할지라도 여전히 훈련용 데이터에서 발견한 패턴을 토대로 특정 단어의 다음에 올 단어를 예측하는 시스템에 불과함. 그럼에도 사람들을 매료시키기 충분한 생성형 AI.

윤리팀은 차별적 편향적인 텍스트로 학습한 GPT에 대한 경고.

대기업들은 자신들이 고용한 윤리팀을 정리해고함.

오픈 AI는 GPT - 3부터 기술을 악용하는 이들이 AI모델 훈련에 관한 정보를 얻을 위험 때문에 언어 모델 훈련 데이터를 비공개한다고 밝혔으나 개인정보나 저작권 등등의 법적 소송을 피하기 위한 것으로 보임.

제4부 경쟁 : 인류의 미래를 건 싸움

마이크로소프트는 오픈 AI의 기술 라이선스 이용한 서비스 출시.

깃허브 코파일럿 - 코드작성비서 AI 개발자가 코드를 저장하고 관리하는 플랫폼

달리 2(DALL-E 2) - 이미지 생성 AI

Bing - 검색 엔진 AI업그레이드.

▲ 오픈 AI 2022년 11월 30일 챗GPT 공개

올트먼 "현실세계를 관찰하고 기술한 내용을 흡수하고 그것을 이해하는 법을 익히는 세스템이라면 그리고 다음에 올 내용을 예측하는 능력이 뛰어나다면, 그 시스템은 지능을 가진 것에 가깝다고 봅니다."

뉴욕타임스 "지금껏 대중에게 소개된 것 중 가장 뛰어난 AI 챗봇"

▲구글 '코드 레드' 발령.

그때까지 구글은 GPT에 쓰인 트랜스포머 개발하고도 신기술에 대해 두려움에 가까운 신중한 접근법을 취해 왔다. 연간 2600억 달러에 가까운 광고 수익 사업을 포기할 수 없기 때문이었음.

그러나 구글 대신 챗GPT로 검색 시장의 판도가 변할 수 있다는 위기에 봉착.

패닉에 빠진 구글이 시장 경쟁에서 이기는 데 힘을 싣기 위한 선택.

구글 딥마인드 = 딥마인드 + 구글 브레인 통합

제미나이(Gemini)는 트랜스포머 기술 + 딥마인드 자체기술인 알파고, 알파폴드에 사용한 전략적 계획 기법 적용.

→ 2026년 현재 Gemini가 선두를 탈환했고, 2026년 2월 앤트로픽이 고성능 제품인 AI비서 클로드 오피스 4.6 공개로 세계는 또 한 번 놀라고 있다.

· 알파폴드(단백질 구조 데이터베이스 기반 의약분야 AI - 2024년 데미스 허사비스 노벨화학상 공동 수상)

▲ 오늘날의 AI

2024년 초 각종 미디어와 엔터테인먼트 기업, 데이팅 앱 틴더에 이르기까지 자사 앱과 서비스에 새로운 생성형 AI기술을 적용하고 있다. 생성형 AI 시장은 연간 35% 이상씩 성장해 2028년이면 530억 달러 규모에 이를 것으로 전망되었다.

"기업들은 성장을 추구할 수밖에 없습니다. 지금은 AI가 그 핵심 열쇠입니다."

울트먼과 허사비스는 AI경쟁에서 앞서 나가려고 분투하다 보니 자신을 끌어당기는 빅테크 기억의 인력에 저항하고 이타적인 목표를 고수하기 힘들었다. 그들은 엄청난 규모의 컴퓨팅 자원과 방대한 데어터, 세계 최고급 실력을 갖춘 비싼 AI과학자들이 필요했다. 그들은 마이크로소프트와 구글을 대신해 대리전쟁을 벌이면서 AGI의 목표를 수정했다. 이제 그들의 목표는 유토피아 건설과 앞선 과학적 발전이 아니라 명성과 이윤의 창출이다.

▲ 그 누구도 미래를 예상할 수 없다.

"AI업계의 투명성이 근본적으로 부족하다." - 스탠퍼드대학교 투명성 지수 평가보고서

오픈 AI, 앤트로픽, 구글, 아마존, 메타 등 기술 기업들이 대규모 언어 모델 훈련에 사용되는 데이터, 훈련 프로세스, 모델이 환경 및 사람들에게 미치는 영향, 데이터세트 분류에 참여하는 인력에 지급하는 임금 등에 관한 정보를 공개하는지 조사.

"사용자가 원한다면 챗봇이 사용자와 나눈 모든 대화를 그리고 사용자의 삶에 관한 모든 것을 기억해야 한다. 챗봇이 기억하는 대화 분량이 길어질수록 사용자에게 더 유용한 존재가 된다."

챗봇이 기억한 개인정보는 기술 기업으로 나아가 광고주에게 간다.

제프리 캐천버그(드림윅스 애니메이션 공동창립자) 2023년

"과거에 세계적 수준의 애니메이션 영화를 만드는데 500명의 아티스트와 수년의 시간이 소요됐다면, 지금부터 3년 뒤에는 그것의 10퍼센트도 안 들 겁니다."

아세모글루(권력과 진보 저자 MIT경제학 교수)

"생산성 향상이 반드시 노동자의 임금 상승으로 이어지지는 않으며 사실 상당한 임금 하락을 가져올 수 있다. 생성형 AI가 다른 자동화 기술들과 동일한 방향을 따를 경우(....) 같은 결과를 초래할지 모른다."

앞으로 많은 직업군에서 대규모 언어 모델에 의존하게 될 경우 인간의 비판적 사고력이나 창의적 능력이 얼마나 쇠퇴할지 또는 챗봇을 심리치료사나 연인으로 이용하는 사람이 늘고 이미 제품으로 나와 있듯이 아이들을 위한 장난감 챗봇이 늘어난다면?

패권을 읽고서...

AI기술발전은 한 연구소에서 이루어졌다고 보기 힘들다. AI 기업들은 서로의 작업에 힌트를 얻어 또 다른 발전된 형태의 AI기술을 만드는 식으로 경쟁하고 있다. 구글은 트랜스포머 기술을 개발해 놓고서 사용하지 않았고, 오픈 AI가 그 기술을 활용해 GPT를 개발했다. 부랴부랴 구글은 GPT혁신에 딥마인드의 기술을 결합해 Gemini를 출시했다. 현시점에는 두 기업 이외에도 고급데이터 학습한 고성능 생성형 AI들이 다양하게 출시되고 있다.

반면, 투자자인 거대 빅테크 기업의 입장은 기술발전과 다르다. 기업은 더 나은 AI를 독점하고 싶어 한다. 소수의 이익을 위해 더 큰돈을 왕창 벌고 싶어 한다. 이왕이면 영원히 1위가 되고 싶어 한다. 그러므로 과학자들의 신념처럼 AI기술로 모든 인류가 잘 살게 될 가능성은 불투명해 보인다.

패권은 격변의 시대에 살면서 많은 생각을 하게 만드는 책이다.

물론 거대 기업들의 이해관계를 알아봤자 내 삶에 딱히 도움이 될 것은 없다. 사실, 힘없는 한 개인이 하루가 다르게 발전하는 AI기술에 대처할 수 있는 방법이 뭔지 모르겠다. AI는 소수의 부자들만 누리는 기술이 될 수도 있기 때문이다. 그럼에도 오늘날 내가 할 수 있는 일에 대해(금융투자, 직업선택, 인간의 존엄 등등) 구체적으로 생각해 볼 수 있는 의미 있는 시간이었다. 오늘날의 독서로 강추!