NVIDIA 다음은?
SIMD 다음은 MIMD - 병렬처리 프로세서의 시대가 온다.
모르미 라는 CPU 스타트업에 BLT & Partners가 투자를 진행한 후, #비메모리 반도체에 대해서 정말 재미있는 것들을 알게됨. 라돈침대 사태때에도 그렇지만, 나는 어려운 것을 쉽게 설명하는데 쾌감을 느끼는 사람이라서 계속 생각을 정리해보는 중
NVIDIA 는 SIMD(Single Instruction, Multiple Data) 시대를 열면서 AI시대의 총아로 떠오름. SIMD 이전에는 인텔이 #SISD (Single Instruction, Single Data)를 가장 잘 풀던 세계 최고의 짱짱 반도체 기업이었는데, 인공지능 시대를 맞이하여 대위기에 빠져버림.
하지만, 그 다음은 뭘까? 에 대해서 명확함. 그것은 MIMD
- 인텔은 제온으로 MIMD를 시도하였으나, 성능이 잘 안나옴. (암달의 법칙)
- SIMD도 어차피 Single Instruction이기 때문에, 모든 프로세서가 곱하기를 해야한다.
- 이는 모든 프로세서(일꾼)가 재봉틀(곱하기)로 매트릭스를 해석하는 것과 같은 상황. '엔비디아'라는 봉재공장은 CUDA라는 직조방법으로 행렬을 쭉쭉 풀어내는 세계 짱짱 기업이 되는것이 당연
- 혼자 재봉을 하면서 경영도 하던 SISD(인텔) 혼자보다는 많은 재봉사(Many Core)들이 AI서비스를 위해서 행렬들을 푸는 것(엔비디아)이 엄청나게 빠르다.
- MIMD는 일꾼들이 제각기 다른일(다른 연산, 함수)을 수행하는 종합적인 공장이라고 볼 수 있음
- 그런데, 다른 역할들을 하는 사람들이 수 만명 있으면, 대혼돈의 카오스에 빠져버림(그래서 현재까지 MIMD 기반의 프로세서가 성공하기 어려웠음)
- Morumi.kr 은 그 '종합적인 공장'의 업무 매뉴얼, 즉. 병렬처리 이론부터 만들고 있는 8년차 기업.
잼씀잼씀.
정말 인텔이라는 거인에게 맞서
엔비디아가 10년만에 40배 규모의 기업가치를 갖게 될 것을 상상도 못했음. 인공지능의 시대가 그만큼 많은것을 바꾸었고, 현재까지의 인공지능은 결국 행렬을 푸는것에 달려있음.
하지만, 그게 끝은 아닐것임. GPU로 끝나지 않을것임.
행렬을 푸는것에서 더 이상한 것들이 등장하게 될 것임
인공지능은 인간지능을 닮고자 하는데, 그렇다면 우리 뇌가 곱하기만 하도록 되어있는것이 아니므로
AGI가 되려면, 곱셈뿐만 아닌 다양한 연산이 동시에 가능한 병렬처리 MIMD가 이루어져야 하는 것.
모르미 화이팅
