여기가 정상이었다. 2024년 11월 4일 월요일 서울 강남구 코엑스에서 열린 SK AI 서밋 2024는 적어도 인공지능 반도체 부분에 관련해선 현재 SK 하이닉스가 정상권이라는 사실을 입증하는 자리였다. 2024년 11월 4일부터 5일까지 2일 동안 열린 SK AI 서밋 2024에는 무려 3만5000명이 현장 등록했다. 온라인으로만 2만 명 가까운 청중들이 참석했다. 무엇보다 SK AI 서밋 2024에선 최태원 SK그룹 회장의 막강한 인공지능 인맥이 드러났다. 다보스 포럼급 인공지능 인맥이었다. 젠슨 황 엔비디아 CEO가 영상 대담으로 참여했다. 그렉 브록만 오픈AI 회장이 대담자로 직접 서울을 찾았다.
사티아 나델라 MS CEO가 영상 메시지를 보냈고 라니 보르카르 MS 수석부사장이 직접 서울을 찾아서 대담에 참석했다. TSMC의 웨이저자 CEO가 영상 메시지로 참석했다. 현재 인공지능 기술 발전을 선도하고 있는 하드웨어와 소프트웨어 정상들이 그야말로 SK AI 서밋 2024의 정상을 통해 서울에 모두 연결된 것이었다. 최태원 회장이 SK AI 서밋 2024의 행사장을 서울 삼성동 코엑스로 잡은 배경이었다. 이렇게 서울을 인공지능 반도체의 중심으로 자리매김하려는 것이었다. 동시에 SK도 AI 기술 발전의 리딩 컴퍼니로 포지셔닝시키려는 것이었다. 그리고 성공했다.
최태원 회장은 SK AI 서밋 2024의 키노트 발표자로 맨 처음 무대에 섰다. 최태원 회장은 HBM을 통해 SK에 쏠린 전세계 인공지능 기술 트렌드를 십분 활용하고 있었다. 최태원 회장은 오픈AI와 마이크로소프트와 엔비디아와 TMSC와의 협업 관계를 거듭 강조했다. 바꿔 말하면 SK 하이닉스가 HBM 인공지능 반도체로 이들과 어깨를 나란히 하는 글로벌 탑티어 기업이 됐다는 점을 확실하게 드러낸 것이었다. 이건 한때 이건희 회장의 삼성전자가 메모리 반도체 분야에서 차지했던 지위였다. 대중 프리젠테이션에는 능하지 않았던 고 이건희 회장과 달리 최태원 회장은 댄디한 슈트 차림으로 무대에 올라서 능수능란한 프리젠테이션을 진행했다.
최태원 회장의 메시지는 어쩌면 단순명료했다. 앞으로 SK가 AI 메모리 반도체 부문에서 기술의 미래를 제시하겠다는 뜻이었다. 젠슨 황 대표 역시 최태원 회장과 호흡을 맞춰줬다. 최태원 회장의 키노트 중간에 영상으로 깜짝 등장한 젠슨 황 대표는 "HBM 메모리를 통한 작업이 이른바 '슈퍼 무어의 법칙'을 달성하는 것을 가능하게 했다”고 말했다. 인텔의 공동 창업자인 고든 무어는 1965년 무어의 법칙을 제시했다. 반도체 집적 회로의 성능이 24개월마다 2배로 증가한다는 법칙이었다. 무어의 법칙은 인텔이 전세계 반도체 산업을 주도하고 기술 발전을 이끌던 시대의 상징이다. 모두가 인텔의 기술 발전을 바라보던 시대였다.
무어의 법칙을 깬 것은 황의 법칙이었다. 2002년 삼성전자의 황창규 회장이 제시한 것이었다. 메모리 반도체의 성능이 12개월마나 2배씩 증가한다는 내용이었다. 황의 법칙은 무어의 법칙의 연장 선상이었다. 24개월 걸리는 기술 발전을 12개월로 절반이나 줄였다는 것이 중요했다. 무엇보다 가장 중요한 것은 글로벌 반도체 기술 발전의 주도권을 삼성전자가 가져왔다는 점이었다. 이제 삼성전자가 기술 서밋이었다.
이때부터 인텔이 흔들리기 시작한 건 우연이 아니었다. 2005년부터 2013년까지 인텔 CEO로 일했던 폴 오텔리니는 인텔의 매출을 최대로 끌어올렸다. 2012년에는 인텔 순이익을 110억 달러까지 끌어올리면서 실적 잔치를 이끌었다. 그렇지만 이런 화려한 실적에도 불구하고 폴 오텔리니는 결정적인 기술 변곡점에서 신호를 놓쳐버렸다. 2009년부터 불어닥친 모바일 혁신이었다. 인텔은 모바일 칩 시장의 주도권을 놓쳤고 이건 인텔이 시대에 뒤떨어지게 만들었다.
후임자인 브라이언 크제니치는 흔들리던 인텔을 침몰시킨 빈 카운터 CEO였다. 2013년부터 인텔 CEO가 된 브라이언 크제니치는 실적이 부진해서 자신의 지위가 흔들릴 것 같자 비용절감을 목적으로 회사의 기술 개발 부서를 폐쇄하면서 오히려 인텔의 기술 경쟁력을 악화시켰다. 급기야 브라이언 크제니치는 모바일 칩 시장에서 철수를 선언했다. 어차피 기술 경쟁력이 없으니깐 그냥 포기하자는 얘기였다. 언뜻 합리적으로 보였지만 결과적으론 결정적인 패착이었다.
미래 기술 시장에서 밀리자 그나마 기술력이 있다고 믿었던 과거 기술 시장에서도 밀리기 시작했다. 인텔은 10나노 메모리 분야에서 밀리기 시작하면서 삼성전자와 SK하이닉스한테 완전히 덜미를 잡혀버리고 말았다. 더 이상 아무도 인텔의 기술 리더쉽에 관심을 기울이지 않는 시대가 되고 말았다. 인텔은 브라이언 크제니치를 결국 억지로 해임시켰지만 이미 너무 늦은 상태였다. 한번 기술을 포기하면 영원히 기업을 포기하는 것이었다.
지금 SK 하이닉스와 삼성전자와 관계는 과거 삼성전자와 인텔의 경쟁 관계와 닮은꼴이다. 모바일 시대에 이어 인공지능 시대라는 기술 변곡점이 도래했다. SK 하이닉스는 HBM으로 인공지능 반도체 시대에 기술 선도력을 확보했지만 삼성전자는 그렇지 못했다. 흔들리는 삼성전자는 반도체 CEO를 교체하면서 추격에 나서겠다고 벼르고 있지만 SK 하이닉스는 한번 잡은 주도권을 기득권화하려고 시도하고 있다. 그것이 SK AI 서밋 2024이다. 삼성전자가 메모리 반도체를 주도하던 30년이 끝났고 앞으로 SK 하이닉스가 인공지능 반도체를 주도하는 30년이 시작됐다는 인상을 각인시키려고 하는 것이다.
SK AI 서밋 2024에서 SK 하이닉스의 곽노정 CEO는 16단 HBM3E 개발을 공식 발표했다. 현재 12단인 HBM의 높이를 16단까지 높이겠다는 듯이다. HBM은 결국 메모라 반도체를 층층이 쌓아올리는 기술이다. 무어의 법칙이 평면 공간에 더 많은 트렌지스터를 집적하는 기술을 설명했다면 이젠 수직 공간에 쌓아올리는 것이 관건이 된 것이다. 고층 빌딩이 될수록 당연히 메모리 성능이 높아진다. 여기에 강욱성 SK 하이닉스 부사장과 박문필 HBM PE 담당 부사장은 커스턴 HBM을 통한 컴퓨팅 파워의 가속을 발표했다. 이전 시대에도 마찬가지였지만 인공지능 시대의 핵심은 속도다. 그리고 속도의 핵심은 가속기다.
사실 엔비디아의 본질도 가속이다. 1993년 엔비디아를 창업했을 당시에도 젠슨 황의 전공 분야은 그래픽 가속기였다. 컴퓨터가 더 빠르게 이미지 데이터를 처리하도록 도와주는 그래픽 가속기가 젠슨 황의 첫 제품이었다. 그래픽을 가속하는 것과 인공지능을 가속하는 것의 원리가 다르지 않았기 때문에 GPU는 인공지능 시대의 필수제가 됐다. 그런데 인공지능이 기계학습을 하려면 대량의 데이터가 필요하다. 이런 빅데이터를 GPU가 처리하는 과정에서의 속도가 승부처인 것이다. 데이터는 결국 메모리에 저장된다.
엔비디아의 GPU가 아무리 속도가 빨라도 메모리의 속도가 받쳐주지 않으면 소용이 없다. 이걸 하나로 묶어낸 통합 가속기가 엔비디아의 H100이다. H100이 제 기능을 발휘하려면 SK 하이닉스가 메모리를 더 높이 높이 쌓아올려줘야 하는 것이다. SK AI 서밋 2024에서 곽노정 SK 하이닉스 CEO는 16단을 발표했다. 젠슨 황은 “엔비디아는 SK 하이닉스와 AI 가속기를 사실상 공동 설계하고 있다”고 밝혔다. 젠슨 황이 말하는 슈퍼 무어의 법칙는 엔비디아와 SK하이닉스가 함께 만들어가고 있는 것이다.
최태원 회장은 젠슨 황이 계속 더 빨리 HBM의 개발 속도를 높여달라고 요구해서 놀라울 정도라는 농담을 던졌다. 바꿔 말하면 두 기술 정상들이 경쟁자들이 절대 따라올 수 없을 정도로 압도적인 속도를 추구하고 있다는 뜻이다. 젠슨 황은 “SK하이닉스의 HBM 개발 계획이 super aggressive하지만 super necessary”하다고 밝혔다. 속도만이 관건이 아니다. 엔비디아와 SK하이닉스가 이렇게 공동으로 설계하게 되면 그것이 곧 시장의 표준이 된다. 한때 삼성전자가 구축했던 메모리 기술의 표준을 이제는 엔비디아와 SK하이닉스가 다시 세우고 있는 것이다.
최태원 회장은 SK AI 서밋 2024에 TSMC의 웨이저자 회장까지 영상으로 초대했다. TSMC는 오랜 엔비디아의 우군이다. 대만의 거대 기업과 대만계 미국인의 콜라보다. TSMC는 젠슨 황 대표와 최태원 회장이 공동 설계한 H100의 제조를 담당하는 파운드리다. 결국 젠슨 황과 최태원 회장과 웨이저자로 이어지는 3각 동맹이 이뤄지는 것이다. 기술 표준에 이어 생산 표준까지 구축되면 적어도 인공지능 시대가 지속되는 한은 쉽게 깨기 어려운 기술 카르텔이 구축되는 것이다.
최태원 회장은 키노트에서 5개의 인공지능 발전 보틀텍을 제시했다. 아직 킬러 유즈 케이스가 나오지 않아서 대규모 투자를 합리화할 비즈니스 모델이 없다. 엔비디아가 설계하고 TSMC가 생산하는 고성능 GPU H100의 생산량이 수요를 따라가지 못하고 있다. AI 반도체를 기반으로 작동하는 컴퓨팅 파워가 필요로 하는 막대한 에너지 문제를 해결해야 한다. AI 경쟁의 변수가 될 차별화된 프라이빗 데이터를 놓고 기업간 쟁탈전이 치열해지고 있고 그만큼 안정성은 취약해지고 있다. 국가 단위 AI 경쟁을 선도할 AI 인재가 부족하다. 이렇게 5가지였다.
그런데 최태원 회장은 이 중 4가지는 SK그룹이 중심이 된 엔비디아와 TSMC가 함께 해결해나갈 수 있다는 걸 드러냈다. 모두가 인프라 보틀넥들이기 때문이다. 최태원은 고성능 GPU 공급 부족 문제를 해결하기 위해 HBM 성능을 개선해서 더 적은 H100으로 더 많은 연산을 처리할 수 있게 하기 위해, 16단 HBM3E 개발 계획을 전격 공개하면서 2025년 초 엔비디아를 포험한 고객사에게 샘플을 공개할 것이라고 밝혔다. 최태원은 에너지 효율성을 높이기 위해 반도체, 에너지, 데이터센터와 네트워크 운영까지 모든 AI 인프라 단계에서 SK 하이닉스의 역할을 확대하고 있고, GPUaaS를 통해 고가의 GPU를 직접 구매하지 않고도 빌려서 사용할 수 있는 인프라 서비스인 AI 인프라 슈퍼 하이웨이 구축 계획을 공개했다.
최태원은 데이터 확보 문제를 해결하기 위해 SK텔레콤을 통해 글로벌 통신사들과 협렵해서 텔코 LLM을 개발하고 있다. 최태원은 국가 단위 AI 경쟁의 문제를 해결하기 위해=대한상공회의소 회장으로서 국가단위 AI인 소버린 AI 구축에 관해서도 관심을 기울이고 있다. 결국 반도체와 에너지와 통신으로 이어지는 SK 그룹이 보틀넥을 해결하겠다는 얘기다. 바꿔 말하면, 이 보틀넥을 해결하는 과정에서 SK그룹의 기술 해자를 구축하겠다는 뜻이다. 인프라는 한번 구축되면 장기간 해자 역할을 하게 된다. 그리고 이건 경쟁사인 삼성전자는 갖추지 못한 부분이다. 삼성전자가 반도체와 모바일을 겸비해서 모바일 시대에 초일류 기업이 됐다면 SK그룹은 반도체와 에너지와 통신을 겸비해서 인공지능 시대에 초일류 기업이 될 수 있다는 뜻이다. 최태원 회장의 방향성은 분명하다. 최태원 회장은 SK 하이닉스, SK 텔레콤, SK 에너지로 AI 인프라 보틀렉을 해결해서 SK만의 AI 인프라 해자를 구축하려고 한다.
지난 30년이 삼성의 시대였다면 앞으로 30년은 SK의 시대가 될지도 모른다. SK AI 서밋 2024에서 최태원 회장은 분명한 야심을 드러냈다. 그런데 미묘한 지점도 없진 않다. 삼성전자는 지난 30년 동안 한국을 대표할 뿐만 아니라 글로벌 반도체 공급망에서 메모리 반도체를 지배하는 초일류 기업이었다. 종합반도체 회사이자 모바일 회사로서 삼성전자의 지배력은 경쟁사인 TSMC나 엔비디아한텐 늘 견제 대상이었다. TSMC와 엔비디아는 글로벌에서도 한국에서도 2위 반도체 기업인 SK 하이닉스를 키워서 삼성전자의 세력을 약화시키는 것이 유리하다. 이것은 국가 단위에서도 마찬가지다.
대만 총통인 라이칭더는 TSMC와 엔비디아와 긴밀하게 협력하면서 한국에 맞선 대만의 반도체 경쟁력을 높이기 위해 애쓰고 있다. 삼성전자의 반도체 수출액은 2023년 기준으로 한국 전체 수출액의 20%에 달한다. 결국 한국 입장에선 SK 하이닉스가 삼성전자의 대체제가 될 수 있느냐가 관건인 것이다. 반면 대만 입장에선 SK 하이닉스의 수출 규모가 삼성전자보다 낮으면 더 좋다. 그만큼 대만 반도체 기업들한텐 기회가 되기 때문이다. 반면에 한국은 선수를 바꾸면서 오히려 반도체 국가 경쟁력이 약화되는 것이다.
이것과 똑같은 일이 미국과 일본에서 벌어졌었다. 국가별 반도체 대표 선수 교체 과정은 기업간 경쟁이면서 국가간 경쟁인 것이다. 인공지능 반도체 주도권을 확보한 엔비디아는 TSMC와 함께 삼성전자와 SK하이닉스를 경쟁시키고 있다. 최태원 회장이 정상에서 외친 SK AI 서밋 2024의 슬로건은 AI 투게더, AI 투마로우였다. 누구와 투게더하고 누구와 투마로우를 나눌지 치열한 합종연횡이 벌어지고 있다.
