2등의 반란
한 마디로 현 상황의 경제계에는 2등의 반란이 한창입니다. 그 기폭제는 단연 AI라고 할 수 있겠습니다.
AI 붐에 잘 올라 탄 기업은 순항을 넘어 폭주를 하는 반면 AI 붐에 편승하지 못한 기업은 아무리 과거에 잘 나갔다고 하더라도 휘청거리는 모습을 보여주고 있습니다. 그렇다면 AI는 반도체 기업을 위시하여 산업계 전반에 어떤 변화를 불러왔는지 간단하게 살펴보는 시간을 갖겠습니다.
1. 세계 시총 1위 애플 제국의 균열, 전통 명가 MS의 부활, 엔비디아의 급부상
AI 폭발기의 화두는 머니머니해도 민초의 반란일 것입니다.
다음 그래프는 미국 시총 1,2위를 다투는 MS와 애플, 그리고 엔비디아의 차트 그래프입니다.
2021년 12월 혜성같이 등장한 챗GPT와 함께 시작된 생성형 AI 세상은 첨단 산업의 판도를 완전히 바꿔 놓았습니다. 챗GPT 이전에는 분명 AI는 발전 가능성은 무궁무진하지만 아직까지는 멀었다는 평가가 대부분이었습니다. 알파고가 이세돌을 4:1로 이겨버리는 장면, 그리고 바둑 세계 1위 커제가 알파고에게 전패한 뒤 무기력하게 우는 모습은 AI 의 위력을 새삼스레 느끼는 시간이었습니다. 하지만 그 이후 AI가 뭔가 폭발하는 전기를 가져왔던 것은 아닙니다. 그저 바둑에 존재하는 수천만 가지의 수를 단 몇 초만에 읽어내는 AI 의 능력이 각광을 받으면서 AI 알고리즘에 대한 관심도가 높아지는 정도였습니다. 알파고가 세상에 놀라움을 던져 주었지만 그때는 그다지 큰 반향을 일으키지는 못했습니다. 그 이유는 무엇이었을까요? 실생활로의 연결점이 명확하지 않았기 때문입니다. 바둑 분석 알고리즘인 알파고만으로는 인간의 생활을 바꿀 수 없었죠.
하지만 2015년 이세돌-알파고 대국 이후 7년이 지난 2022년, 알파고 알고리즘을 개발한 구글 딥마인드에서 개발한 자연어 처리 모델인 트랜스포머 모델을 활용한 챗GPT3.5가 공개되면서 세상은 말 그대로 AI의 폭풍 가운데에 휩쓸려 들어가게 됩니다. 트랜스포머 모델은 그야말로 언어 모델입니다. 이 모델의 원리는 한 단어 이후 사람들이 그 단어 뒤에 어떤 단어를 주로 사용했는지를 추적하여 말을 만들어주는 생성형 모델입니다.
그러니까 뭔가 주어진 프롬포트 내에서 적절한 답변을 찾아서 보여주는 기존의 AI 개념을 완전히 벗어나 사람이 말을 하는 것과 유사하게 단어들의 연관성을 추적하고, 꼬리에 꼬리를 물고 적절한 단어의 조합을 찾아주는 거죠.
딱딱하고 판에 박힌 답변만 하던 챗봇과의 대화에 질려있던 사람들에게 챗 GPT 3.5의 등장은 그야말로 충격이었습니다. 마치 사람과 채팅을 나누는 것과 같았다는 피드백들이 난무했습니다.
그런데 이렇게 꼬리에 꼬리를 물며 말을 생성해 내는 새로운 방식의 생성형 AI를 원활하게 구동하기 위해선 여러 경우의 수를 동시에 연산하여 최적의 답을 빨리 찾아낼 수 있도록 병렬연산 방식에 특화된 반도체가 필수적으로 필요하게 되었습니다. 이렇게 병렬 연산에 특화되어 생성형 AI 연산을 원활하게 구동할 수 있도록 연산 속도를 가속시켜주는 AI 가속기 기업의 원탑이 있었으니 그 기업이 바로 엔비디아였습니다. 이에 대해선 뒤에서 좀 더 자세히 설명하겠습니다.
어쨌든 챗 GPT가 흥행을 넘어 세상의 트랜드를 주도하면서 챗 GPT를 기반으로 한 수많은 생성형 AI 서비스가 넘쳐나기 시작했고, 여기에 미래의 기회가 있다고 여긴 빅테크들이 생성형 AI 시장에 연이어 출사표를 던지면서 AI 대전이 시작됩니다.
생성형 AI 이전 미국 증시의 시가 총액 1위는 부동의 애플이었습니다.
애플은 아이폰을 중심으로한 애플 생태계를 강력하게 구축하여 흔들리지 않는 그들만의 제국을 구축하는 데에 성공합니다. 방대한 앱 생태계와 I 클라우드 중심의 폐쇄적 생태계는 애플 브랜드의 프리미엄 화를 이끌었고, 이는 곧 애플 브랜드에 대한 충성도를 높이는 계기로 작용하게 됩니다. 아이폰을 중심으로 구축된 단단한 코어 소비 층은 애플을 시총 세계 1위 기업으로 끌어올리는 데에 지대한 공을 세웠습니다.
그런데 이러한 애플의 아성을 챗 GPT의 아버지 샘 알트먼의 오픈 AI가 MS와 합작하면서 흔들어 놓는 사건이 발생합니다. 애플이 강력한 생태계를 믿고 AI 시대에 유기적으로 대응하지 못할 때 시총 2위였던 MS는 발빠르게 오픈 AI에 공격적인 지분투자를 강화하면서 생성형 AI 시장에 본격적으로 편승하기 시작합니다. MS는 오픈 AI의 챗GPT를 활용한 코파일럿 서비스를 본격적으로 론칭하면서 사무 환경에서의 AI 제국을 꿈꾸기 시작합니다.
상대적으로 AI를 등한시 했던 애플은 한때 MS에게 세계 시총 1위를 넘겨주며 흔들리는 모습을 보였습니다.
이후 애플은 애플 인텔리전스로 반격을 꾀하면서 주가 반등을 이끌어내는 데에는 성공했습니다만 시장의 반응은 냉담합니다. 전문가 집단에서는 애플 인텔리전스가 경쟁사의 AI 서비스에 비해 2세대 이상 뒤쳐져 있다고 평가하기도 했습니다 애플의 입장에서는 강력한 생태계를 갖고 있었기에 AI 서비스를 적극적으로 연구했다면 누구보다 강력한 AI 기술을 보유할 수 있는 충분한 자양분이 있었습니다. 하지만 현실에 안주하는 모습을 보이면서 투자의 적기를 놓쳤다는 평가를 받고 있습니다.
이렇게 세계 1위와 2위가 엎치락 뒤치락 하고 있을 때 폭발적인 성장으로 MS와 애플을 동시에 흔들어 놓은 나스닥의 아이돌이 등장합니다. 바로 젠슨황의 엔비디아입니다.
엔비디아는 생성형 AI의 폭발기에 가장 큰 수혜를 받은 반도체 기업입니다. 본래 엔비디아는 그래픽 카드 즉 외장 GPU를 주력으로 하는 회사였습니다만 2023년을 기점으로 AI 가속기 매출이 게이밍 GPU 매출을 뛰어넘으면서 명실상부한 AI 가속기 기업으로 완벽하게 탈바꿈하는 데에 성공합니다.
전술 했듯 챗 GPT와 같은 생성형 AI 모델의 모체가 되는 트랜스포머 모델은 수천억 개의 매개변수를 재료로 연산하여 최적의 답을 찾아 여러 가지를 생성해 내는 모델입니다. 즉 이러한 모델에는 필수적으로 한꺼번에 여러 매개변수를 병렬로 연산하는 하드웨어가 반드시 필요합니다. 이러한 역할을 하는 하드웨어가 바로 AI 가속기입니다. 우리가 귀가 닳도록 듣고 있는 H100, H200, 블랙웰 GPU 등등이 모두 GPU 기반의 AI 가속기입니다. 아무리 오픈 AI에서 기가 막히는 생성형 AI 소프트웨어를 만들어낸다고 하더라도 엔비디아의 GPU 가속기가 없다면 무용지물이 될 것입니다. 소프트웨어는 응당 구현을 해 줄 수 있는 하드웨어가 있을 때 그 빛을 발하게 됩니다.
생성형 AI의 시대에 엔비디아는 거의 독점적으로 AI 가속기를 공급하는 포지션을 선점하면서 주가의 급상승을 이뤄 냈고 2024년 6월, 잠깐이긴 했지만 전세계 시총 1위로 올라서는 기염을 토합니다! 애플 제국이 흔들리는 순간이었습니다. 물론 그렇다고 애플의 생태계가 무너졌다든지 회생 불가능이 되었다든지 그런 것은 아니지만 이전에는 애플 입장에서 몇 위에 위치해 있는지 가물가물햇던 하드웨어 기업 엔비디아가 시총을 역전하게 될 줄은 꿈에도 상상하지 못했을 것입니다. 그야말로 상전벽해지요.
AI 시대의 상전벽해는 메모리 시장에서도 일어나고 있습니다. 부동의 1위 삼성전자의 몰락과 2위 SK 하이닉스의 급부상입니다.
2. AI 시대의 삼성전자와 SK 하이닉스
삼성전자는 1980년대, 1990년대, 2000년대 초반 세 차레에 걸쳐 벌어진 메모리 치킨 게임에서 최종 승자가 되었습니다. 메모리 반도체 업계가 3강 체제로 재편된 이후 삼성전자는 절대 1등의 자리를 내주지 않은 메모리 반도체 씬의 수퍼스타였습니다. 메모리 반도체는 기본적으로 어느 정도의 설계 레퍼런스가 존재합니다. 바로 반도체 기술 표준을 결정하는 제덱의 메모리 반도체 표준 스펙에 맞추어 약간의 커스텀을 추가하여 공장 돌려 찍어내는 방식의 대표적인 박리다매 사업입니다.
그러므로 메모리 반도체 사업에서 가장 중요한 것은 얼마나 많은 양품을 찍어내서 단가를 획기적으로 낮출 것인가에 초점에 맞춰져 있습니다. 적어도 지금까지 메모리 사업의 공식은 케파와 양품 수율의 싸움이었다고 보아도 과언은 아닙니다.
하지만 AI 폭발기의 메모리 사업 방식은 완벽하게 다른 양상으로 흘러가고 있습니다. 이젠 재고를 확보해 놓고 대량으로 파는 방식이 아니라 고객사와의 긴밀한 협력을 통해 생산량을 결정하고 스펙을 맞추어 함께 발맞춰 나아가는 방식으로 사업의 방식이 완벽하게 탈바꿈하게 되었습니다.
기존 레거시 메모리는 제덱 표준에 맞추어 공장 돌려서 뽑아 놓으면 고객사에서 필요 수량을 가져가는 형태의 사업이었기에 고객사와 상관 없이 이미 정해진 스펙의 반도체를 만들어 놓으면 되는 사업이었습니다.
반면 HBM으로 대표되는 AI 시대의 메모리는 각기 다른 고객사와 접촉하여 그들과 개발단계에서부터 긴밀하게 협력하면서 스펙을 맞추고, 기술을 논의하고, 개발을 완성합니다. 이후 생산하여 탑재할 때에도 고객사와 메모리 사, 그리고 파운드리 회사와 긴밀하게 협력하여 파운드리 사가 확보한 패키징 기술로 메모리와 프로세서를 통합하여 칩을 완성하는 복잡한, 양보와 타협, 그리고 협력이 필요한 사업으로 변모하게 된 것입니다.
성전자와의 범용 메모리 경쟁에서 번번히 케파에서 밀려 2등의 고배를 마셔야 했던 SK 하이닉스 입장에서는 AI 메모리인 HBM에 사활을 걸 수밖에 없었습니다. 메모리 시장 3강의 구도에서 역전이 일어난다면 그것은 분명 AI 맞춤형 메모리일 것이라는 예상과 함께 SK 하이닉스는 HBM에 힘을 실었습니다. 그 결과 HBM에서 삼성전자를 앞서 나가긴 했습니다만 문제는 HBM 시장이 언제 터질 지 모르는 희망고문의 연속이었다는 것입니다. 고객 주문형 메모리이기 때문에 규모의 경제를 이루기엔 한계가 많았습니다. 게다가 HBM은 D램을 적층하고 이를 TSV 관통 전극으로 뚫어 연결한 뒤 패키징까지 해야 하는 매우 제조 난이도가 높은 반도체였습니다. 가격은 비싸고, 수율은 안 나오고, 대량으로 팔 수도 없다면 수익을 크게 낼 수있는 사업은 아니었습니다.
바로 이러한 HBM의 특성이 SK하이닉스와 삼성의 운명을 가르는 빌미가 되었습니다. 삼성 입장에서 볼 때 대량으로 찍어낼 수도 없고, 고객사의 요구사항을 수용하고, 조율해야 하고, 제조 난이도가 높아 수율 확보가 어려운 반면 시장은 그리 크지 않은 그야말로 비효율의 정점에 있는 사업을 과연 이어가야 할 것인가를 고민했고, 2019년 HBM 개발을 일시 중단합니다.
하지만 SK 하이닉스는 언젠가는 AI 시장이 폭발하면서 연산량이 획기적으로 증가할 것이고, 이 시대에 대비하기 위해선 HBM 사업을 포기하지 않아야 한다는 결론을 내고 연구개발을 계속합니다. 그리고 마침내 약속의 2022년 12월이 도래합니다! 챗 GPT 이후 폭발적으로 증가하기 시작한 엔비디아 AI 가속기 수요의 증가는 오랜 엔비디아와의 HBM 협력 업체였던 SK 하이닉스에게 더없이 좋은기회로 다가왔습니다. 턱없이 적은 물량으로 수익이 나지 않을 거라고 생각했던 HBM 시장이 폭발적으로 성장하면서 말 그대로 규모의 경제가 이루어지면서 SK 하이닉스가 날개를 달고 날아올랐습니다.
재무적 판단과 기술적 판단은 현재의 결과를 만들어내고 말았습니다.
메모리 사업방식의 변화는 메모리 반도체 사업의 판도를 흔들고 있습니다. 삼성전자와 SK 하이닉스의 영업이익이 역전된 것은 HBM을 통해 AI 생태계에 편승을 했느냐 하지 못했느냐에 기인합니다. 한 마디로 맞춤형 반도체를 만들 수 있느냐 없느냐가 향후의 메모리 생태계 내에서의 생존과 쇠락을 결정짓게 될 것입니다. SK 하이닉스는 HBM을 통해 맞춤형 메모리에 대한 노하우를 상당히 축적했습니다. 반면 삼성전자는 맞춤형 메모리 사업에 대한 노하우가 SK 하이닉스에 비해 낮습니다. 2019년의 실기는 삼성전자에게는 매우 뼈아픈 한 방이 될 것입니다. 그리고 2019년에는 한 가지 이슈가 더 있었습니다. 현재 불거진 1A D램의 결함 이슈의 시작이 바로 2019년이었습니다.
삼성전자는 D램과 낸드가 주력입니다. 그런데 D램의 케파가 훨씬 큽니다. 즉 D램이 무너지면 삼성전자 반도체가 무너진다고 보아도 과언은 아닐 것입니다.
그런데 2019년 삼성전자 DDR5 D램의 불량이슈가 조립 PC 사업자들로부터 스멀스멀 피어오르기 시작합니다. 이는 몇몇 유튜버들이 실제 삼성 D램을 가지고 테스트하여 직접 결함을 확인하는 영상까지 올리면서 공론화되기에 이르렀습니다. 하지만 어찌된 일인지 해당 이슈는 단발성 기사로 마무리되었습니다. "삼성전자, D램 불량 사실 무근!"
그렇지만 현재 전영현 부회장이 1A DDR5 D램의 일부 설계를 변경한다는 뉴스가 떴죠? 그때 루머 유포자로 낙인찍혔던 몇몇 유튜버의 문제제기가 사실이었다는 것을 오피셜로 확인받는 순간이었습니다. HBM을 1A DDR5로 만드는데 바로 그 D램에 문제가 있어서 설계를 다시 한다는 겁니다.
설계 수정, 검증, HBM 샘플 제작 - 검증 - 퀄테스트 - 실장까지 적어도 1년 반에서 2년은 더 기다려야 하는 상황이라는 거죠.
