AI Rag 보다 중요한 현 AI의 거품론
RAG(Retrieval Augmented Generation)<AI버블
최근 OpenAI의 창립 멤버들이 대거 회사를 떠나거나 새 스타트업을 창업하면서, 초기 멤버는 단 2명만 남게 되었습니다. 이들이 회사를 떠난 이유는 두 가지로 추측됩니다. 첫째, 현재 CEO인 샘 알트만의 리더십 부족에 대한 불만, 둘째, ChatGPT 5.0 출시를 앞두고 AI 기술의 발전이 없고 새로운 수익 아이디어가 부족하다는 점입니다.
골드만 삭스와 세계 최대 벤처 캐피털 회사의 보고서에 따르면, AI 소프트웨어의 최종 사용자에게서 얻을 수 있는 수익은 40억 달러에 불과할 것으로 보입니다. 그러나 이 분야에 투자된 금액은 3,000억 달러에 달합니다. 손익 분기점을 넘어서려면 50%의 이익률이 필요하며, 이는 6,000억 달러의 수익이 발생해야 한다는 의미입니다. 그러나 현재 AI 데이터센터의 하드웨어는 주로 엔비디아의 GPU와 SSD 메모리로 구성되어 있으며, 새 장비의 투자 회수와 감가상각 문제가 수익성에 영향을 미칩니다.
결국, 현재 AI 산업의 수익은 B2B(기업 간 거래)에서만 발생하고 있으며, B2C(소비자와의 거래)에서의 수익은 거품에 불과하다는 분석이 있습니다. AI 기술이 지속 가능한 산업으로 성장하려면, 빅테크 기업들의 잉여 자본에 의존하지 않고 소비자가 직접 구매하는 애플리케이션이 늘어야 합니다.
또한, 현재 AI 기술은 4차 산업혁명이라는 큰 변화의 일부분에 불과합니다. OpenAI 창립자들이 회사를 떠난 이유 중 하나는 AI 기술의 급속한 발전이 사회에 부작용을 초래할 것이라는 우려 때문입니다. 일론 머스크는 AI가 인류에게 위협이 될 수 있다고 경고했습니다.
하지만, AI 기술이 인간을 위협할 정도로 발전하려면 현재의 컴퓨터 기술로는 불가능하다고 주장하는 의견도 있습니다. 최근 삼성전자가 HBM3 메모리 기술을 엔비디아에 납품할 수 있는 수준으로 테스트를 완료했다는 소식이 전해졌습니다. 이 기술이 AI에 어떻게 사용될지에 대한 설명도 있지만, 현재 컴퓨터 설계 방식인 폰 노이만 구조로는 인간보다 더 인간적인 AI를 개발하는 것이 불가능하다는 주장이 있습니다. 이 주제에 대한 자세한 내용은 다음에 다룰 예정입니다.
위의 글은 참조 주석 아래에 있는 제가 직접 쓴 글을 GhatGPT에 의해서 쉬운 문체로 주문해서 재편집한 글입니다.
참조 영상 및 서적
최근 OpenAI의 설립 멤버들이 대거 경쟁사로 이직하거나 새 스타트업을 창업한다고 다 나가고 초창기 멤버는 2명만 남았다고 한다. 이들이 나간 까닭은 크게 2가지로 추측되는데, 첫 번째가 현재 CEO인 샘 알트만의 리더십 부재이고, 두 번째가 이제 ChatGPT 5.0 출시를 앞두고 크게 달라진 게 없어서 AI기술로 뭔가 대중으로부터 수익을 거둘만한 아이디어가 바닥이 났다는 분석이다.
실제로 작년과 대조되게 올해 AI 산업의 수익회수에 대해 회의적인 입장의 보고서를 발행한 골드만 삭스와 세계 최대 VC 기업의 분석에 따르면, AI 소프트웨어를 최종적으로 사용하는 사용자로부터 사용료를 거둘 수 있는 금액은 40억 달러에 불과하다며 이 분야에 쏟아부은 1차 기업(엔비디아)부터 2차 기업(MS, 구글, 애플, 메타 등 빅테크 기업)들의 투자 비용은 대략 3,000억 달러로 추정한다.
투자 비용 대비 손익분기점을 넘어서려면 50%의 이익마진이 생겨야 하는데, 그러면 실제론 소비자들로부터 거두는 수익이 6,000억 달러가 발생해야지, 이들이 투자한 비용에 대한 적자를 만회할 수 있다. 하지만, 현재 사용되는 있는 AI를 위한 데이터센터의 하드웨어는 엔비디아의 GPU와 SSD 메모리 정도인데, 새로 구축한 데이터센터에 들어가는 장비들의 투자금의 회수가 아니라, 감가상각이 빠른 AI용 GPU와 관련된 하드웨어의 교체주기에 따른 수익이라고 한다.
결국 B(usiness) to B(usiness)의 현금흐름에서만 수익창출이 이루어지고 있지, B to C(ustomer)의 정작 최종사용자에게 회수되어야 할 수익은 거품에 불과하다는 것이다. 앞으로 AI 분야가 지속가능한 산업 생태계로 이어지려면, 지금처럼 자신들의 본 사업이 따로 있는 빅테크기업들의 잉여자본을 통해 생태계의 밑바닥에 있는 스타트업들의 존속이 이루어져야 하는 게 아니라, 실제로 AI기술이 일상에 파고들어(바이오, 법, 의료 등) 고객이 직접 내 돈 주고 구매하는 애플리케이션이 많아져야 한다.
그것보다 더 중요한 건, 현재 AI 기술은 4차 산업혁명이라는 거대 자본의 변혁에 일부에 불과하다는 거다. 초반에 말했던 샘 알트먼 이외의 OpenAI 창업자들이 줄줄이 나간 건, 일각에서 AI 기술의 급속도로 발전하면 실제로 딥페이킹과 같은 기술적 오남용으로 사회전반에 부작용이 커질 거라는 우려라는 목소리도 있고 인류를 위협할 정도라고 말한 일론 머스크의 말도 거시적인 관점에서 비단 두려움의 여지가 있을 수는 있다.
하지만 필자가 컴퓨터 과학(CS) 전공자가 아님에도 불구하고, 그러한 우려는 사실 우려에 불과하고 앞으로 AI기술이 진일보 발전하려면(정말 인간을 위협할 정도의 수준의 일반 AI가 나오려면), 지금까지 우리가 사용하는 컴퓨터의 패러다임으로는 불가능하다고 말할 수 있다.
근래 HBM(고성능의 집적 메모리, 파운드리)의 수율을 엔비디아에 납품할 수준으로 테스트가 완료됐다는 삼성전자 관련 유튜브에서, 이 분야의 교수가 HBM3를 어떻게 AI가 사용하는지에 대한 설명을 듣자면, 삼성과 엔비디아의 싸움은 CPU가 처리해야 할 연산 작업(->계산기)을 메모리(HBM)에 가까이 두느냐 아니면 GPU에 가까이 두느냐에 따라서 두 업체 중 하나가 상대에게 인수될 것이라고 한다.
하지만, 이것보다 더 중요한 건 앞서도 말했지만, 지금까지의 컴퓨터 설계방식인 폰 노이만 구조로는 General AI, 즉 인간을 압도할 수 있는 생각을 할 AI의 개발은 불가능하다는 것이 다음 편에서 이어서 할 이야기다.
