AI 업계가 보여주는 거대 중공업과 같은 흐름
투자와 경제를 배우는 수요일
요즘 AI와 AI 반도체에 관심을 두지 않을 수가 없습니다. 관련하여 흥미롭게 본 글에서 배운 바를 정리합니다.
거대 중공업과 같은 흐름
제가 흥미롭게 읽은 AI 글은 <sora와 gemini 1.5사태가 시사하는 보통 기업들의 AI전략>입니다. 글 내용은 물론 저자의 실용적 관점이 마음에 드는 글입니다. 그중에서 제 주목을 끈 내용은 다음 포기말[1]과 인용한 그래프입니다.
이제 AI회사의 경쟁력은 NVIDIA H100 기종 물량을 얼마나 확보할 수 있는가로 결정된다는 이야기가 있을 정도입니다.
포기말이 전하는 느낌은 마치 세계 최고의 메인 프레임을 구입한 기업 만이 소프트웨어 기업이 될 수 있습니다와 같은 느낌을 선사합니다. 물론, 20년 넘게 소프트웨어 분야에서 일한 경험 탓이 큰 비유일 것입니다.
중공업 핵심 특징은 무엇인가?
어렴풋하게 알고 있던 '중공업'에 대해 묻게 되는 계기가 되었습니다. 잠시 구글링을 하다가 제미나이에게 묻기로 했습니다.[2]
중공업 전환 의미를 되짚어 보다
앞선 글에서 주목을 하게 했던 '거대 중공업과 같은 흐름'을 이해하려면 경공업에서 중공업으로 전환할 때 겪는 어려움을 알아야 할 듯합니다. 이렇게 생각하니 '거대 중공업과 같은 흐름'은 일종의 해자가 된다는 점을 알 수 있었습니다.[4]
해자로 제 글 검색을 해서 발견한 내용이 있습니다. 구독경제라고 다 같은 구독일 수 없습니다. 마치 전기료 납부와 같은 형태로 가면 유틸리티 컴퓨팅이라는 오래된 용어가 느껴집니다. 고가의 GPU와 데이터 확보 그리고 높은 인건비를 감당할 수 있는 기업들은 전 세계에서 손에 꼽히는 공룡 기업들뿐입니다.
AI를 어디에 써먹을 것인가?
글을 흐름은 그런 기업에 다니거나 입사할 목적이 아니라면 자기 위치를 다시 돌아봐야 한다는 생각을 만들게 했습니다. 그러고 나서 주목한 내용은 다음 다발말[3]입니다.
LLM에게 private data를 반영시키는 대표적인 기술은 파인튠(finetune)과 RAG입니다. 파인튠은 기존의 LLM을 추가적으로 훈련을 더 시켜서 우리 회사의 private한 정보들까지 알고 있는 새 모델을 만드는 과정입니다. 비유를 들어보자면 LLM은 세계 최고의 학교에서 공부도 열심히 하고 다방면의 지식을 가진 매우 훌륭하고 똑똑한 인재이지만, 우리 회사에 대해서는 아무것도 모르는 친구라고 생각하면 됩니다. 이 친구에게 우리 회사 일을 맡기기 위해 회사 연수원에서 몇 달 굴려서 새 인간(?)으로 거듭나게 하는 거죠.
우연하게도 <배경 지식이 부족해도 AI 논문을 빠르게 읽는 법>을 통해 단순한 개념 정도를 살펴봤던 RAG를 만납니다. 저자가 LLM 추가 훈련을 회사 연수원에 비유는 감탄을 자아냅니다. 뒤이어 다음 다발말은 글을 주제라고 할 수 있습니다.
데이터에서 테크닉 부분이 사라지고 나면, 결국 남는 것은 private data 그 자체 밖에 없다고 생각합니다. 저는 이것을 쥐는 회사가 결국 이 AI 전쟁에서 최종적으로 승리할 것이라고 생각합니다.
제가 썼던 <AI 쓰임새를 찾는 사람이 살아남는다>를 떠오르게 합니다.
주석
[1] <한국말 말차림법>에서 제안한 문장에 대한 토박이 말입니다. 왜 포기말인지는 <언어에 대한 일반이론>에서 일부 답을 얻을 수 있습니다.
[2] 제미나이에게 던진 질문입니다: 경공업과 중공업을 구분하는 결정적 요인은 무엇인가요?
[3] <한국말 말차림법>에서 제안한 구절에 대한 토박이 말입니다. 왜 다발말인지는 <언어에 대한 일반이론>에서 일부 답을 얻을 수 있습니다.
[4] 제미나이에게 던진 질문입니다: 그렇다면, 국가 경제가 경공업에서 중공업으로 전환될 때 결정적 요인은 무엇이 될 수 있을까요?
지난 투자와 경제를 배우는 수요일 연재
2. 북미 충전 표준이 된 테슬라 방식, CCS2, GB/T
13. 비노드 코슬라가 말하는 '투자받는 피칭을 하는 법'
18. 새마을 운동은 잊고 지식 노동 생산성을 고민하자
19. Apple: 혁신의 끝에 도달한 유틸리티 컴퓨팅 업자
21. 디지털 마약 비유 때문에 살펴본 애플 비전 프로
