주머니속의 AI

Cloud가 아닌 소유한 AI?

120B 파라미터 모델을 주머니속에 넣고 다닐 수 있다면, 어떤 의미를 가질 수 있을까?

무게 300g의 14.2 x 2.53 x 8 cm의 이 물건은, 1200억개의 파라미터를 가진 완전 오프라인에서 실행 가능한 완벽한 AI 추론 시스템인데, ARMv9.2 12코어 CPU와 전용 신경 처리 장치를 결합시켜서 190 TOPS의 AI 컴퓨팅 성능이 가능하다고 하네요.

클라우드 의존성을 제거한 버전인데... 흐흠..

https://tiiny.ai/

Tiiny AI Inc

이제 각자, 자신에게 트레이닝된..

클라우드가 아닌...

소유한 디바이스에게

의존하는 시대가 된것일까요?

사용할 의향이 충분한데...

적당하게

하이브리드하게

변화된 제품까지..

AI제품의 폭발은...

내년 CES를 도배할듯...

이제, 어떻게 AI가 우리의 주변에 스며들것인지 기대된다는...