Are & Tech Insight Program 유니크월드
안녕하세요. 한 주 잘 보내셨나요? 지난 강연에서는 강성용 교수님의 명강연으로 잘 마무리되며 순항 중인 유니크월드입니다. 익히 들어 왔지만, 명확하게는 알지 못했던 중요한 인도 개념과 철학에 대해 명확하고 재미있게 정리해준 교수님의 강연을 통해,나 이것쯤은 안다라고 자신있게 말해볼 수 있는 유니크한 시간이었습니다.
한 회차의 강연만으로 다 알 수 없는 미지의 물음표들이 떠돌아다닙니다. 앞으로 남아있는 유니크월드의 강연들을 통해 그 물음표에 확신을 더하며 각자만의 고유한 퍼즐을 완성해볼 수 있을 것입니다.
4월 4일 (목)에는 박성현 대표님의 <A.I. 반도체와 창업> 주제로 유니크월드만의 다섯 번째 강연이 펼쳐집니다. 생성형A.I 시대에 국내에서는 가장 핫한 기업을 이끌고 있는 리벨리온 박성현 대표님이 반도체와 창업에 대한 이야기를 나눕니다.
혹, 부득이하게 참여가 힘들거나 늦으시는 경우 연락 주시면 확인해두겠습니다. 반복되는 일상 속, 매주 목요일 저녁의 유니크월드가 새로운 활력이 될 수 있도록 성심껏 준비하여 인사드리겠습니다. 감사합니다.
안녕하세요, 유니크월드입니다.
이번 게시글은 리벨리온 박성현 대표님편으로,
이 게시글만 보면 '나도 박성현 대표님을 안다' 할 정도의 자료들로 추려보았습니다.
1. 인터뷰 <인공지능 시대, 아름다움을 묻다>_톱클래스
2. 유튜브 <AI 반도체가 GPU를 대체한다>_티타임즈TV
o 주요경력
전) 모건스탠리 Vice President
전) 스페이스엑스 ASIC Design Manager
전) 인텔, Sr, Research Scientist
MIT 전자컴퓨터공학 석사/박사
카이스트 전자공학 학사
인공지능(AI) 반도체는 사치품이 아니라 필수품입니다.
AI 반도체는 인공신경망 알고리즘 구동에 특화된 전용 반도체다. 2021년 전 세계 반도체 시장에서 AI 반도체의 비중은 6.2%에 그쳤지만, 기존의 범용 GPU로는 감당하기 어려운 첨단 AI 산업의 한계들이 감지되면서 주목도가 점차 높아지고 있다. 박성현 대표는 AI 반도체가 '규모의 경제'를 이루기 위한 필수품이라고 강조했다.
박 대표는 현시점의 리벨리온을 'AI 인프라를 만드는 회사'로 정의했다. 원래 AI 반도체는 금융이나 자율주행 등 특수 분야에서 GPU보다 빠른 서비스 속도 구현을 위한 대안으로 주목받았지만, 최근에는 이를 대규모 서비스 인프라에도 적용해야 할 이유가 대두되고 있기 때문이다.
좋은 예로 올해 국내외 여러 빅테크 기업이 상용화 경쟁을 펼친 초거대 AI 분야가 있다. 초거대 AI는 이름 그대로 방대한 컴퓨팅 자원과 학습 데이터, 이를 활용할 수 있는 고도의 AI 알고리즘이 만난 고성능 AI의 결정체다. 앞서 AI 융합을 통해 한차례 생산성 혁신을 이룬 기존 디지털 서비스들이 미래엔 초거대 AI와 만나 한층 '인간다운 수준'으로 진화할 것이 기대되고 있다.
문제는 고성능 AI 구현에 필연적으로 따르는 운영 비용이다. 초거대 AI는 복잡한 데이터 추론을 빠른 속도로 수행하기 위해 막대한 컴퓨팅 자원을 필요로 한다. 사람의 뇌도 충분한 산소와 양분이 공급되었을 때 제 기능을 할 수 있는 것처럼 말이다. 그동안 AI의 '산소와 양분'은 구조적으로 궁합이 좋은 GPU의 몫이었다.
GPU는 원래 게이밍과 그래픽 작업에 특화된 반도체다. 뛰어난 범용성으로 현세대 AI 산업의 '핵'이 됐지만, 대규모 서비스에 GPU를 투입할수록 막대한 전력이 소모된다. 기존 AI와 규모의 궤를 달리하는 초거대 AI나 대규모 데이터센터쯤 되면 이 비용이 기하급수적으로 증가한다.
이때 태생부터 AI 알고리즘 연산에 특화된 AI 반도체는 확실한 대안이 된다. 박 대표는 "글로벌 클라우드 기업 아마존의 경우 AI 반도체를 도입해 자사 서비스의 TCO(총 소유비용)를 3분의 1까지 낮췄다"며 "AI 서비스 사용자가 많아져 AI 연산량도 늘면 비용이 기하급수적으로 커지기 때문에 이를 받아줄 효율 좋은 인프라가 반드시 필요하다"라고 말했다.
박 대표는 AI 기반 규모의 경제 구현을 위해 AI 반도체가 필요한 이유를 '물류'에 빗대기도 했다. 그는 "만약 상품이 1~2개라면 스포츠카로도 배송할 수 있다. 그런데 대규모 물류라면 값비싼 스포츠카로 할 수는 없는 노릇"이라고 설명했다.
기술력 입증한 리벨리온, 한국 풀스택 AI의 일각 이뤘다
리벨리온의 AI 반도체는 처리 지연시간(Latency) 최소화, 빠른 속도에 강점이 있다. 애초에 GPU보다 적은 전력으로 보다 빠른 연산을 가능케 하는 것이 AI 반도체의 특징이므로 이 두 가지는 필수다. 그러나 리벨리온이 고평가를 받은 건 2021년 창업 1년여 만에 내놓은 금융거래 전용 AI 반도체 '아이온(ION)'부터다.
아이온은 당시 동종 분야 세계 1위였던 인텔 제품 대비 30% 이상 빠른 속도와 2배 이상 높은 전력효율을 구현해 세계를 놀라게 했다. 특히 찰나의 거래가 대규모 이익 실현 여부와 이어지는 금융거래 부문에서 이는 더 매력적인 요소다.
또 아이온은 글로벌 최대 파운드리 업체인 TSMC가 7나노 공정에서 생산을 맡기로 하면서 한차례 더 유명세를 탔다. 신생 기업이 TSMC의 정밀공정을 따내는 사례 자체가 흔치 않기 때문이다. 게다가 서버용으로 만들어진 두 번째 AI 반도체 '아톰'은 삼성전자의 선제안으로 5나노 공정 생산이 예정돼 있다. 리벨리온의 잠재력을 알아본 두 파운드리 거물의 투자다. 더불어 리벨리온은 KT와 생태계 측면에서 유의미한 파트너십을 맺었다.
https://www.bloter.net/news/articleView.html?idxno=46921
반도체 회사가 챗GPT 시대를 대비하는 방법은?
확장성
어떤 큰 모델도 동시에 서비스를 할 수 있도록 멀티 칩으로 갈 수 있도록 멀티 다이가 갈 수 있도록 멀티 카드가 될 수 있도록 심지어는 멀티 노드가 되면 멀티 랙, 그렇게 붙여서 갈 수 있는 확장성이 첫째도 두 번째도 세 번째도 리벨리온의 철학입니다. '아톰' 칩을 여러 개 붙이고 아톰 칩이 나온 카드를 여러 개 붙이고 그 서버를 여러 개 붙여서 확장성을 준비하는 게 리벨리온입니다.
모델이 얼마나 커질지 모르고 어디에 최적점이 있을지 모르기 때문에 거기에 맞춰 확장성이 있는 디자인을 고민하고 있고 정답을 찾아나가는 중입니다.
https://www.youtube.com/watch?v=9wH-mswU9Sw