마이크로소프트 새로운 소규모 언어 모델 Phi-3 출시

세상으로 나오는 AI

마이크로소프트 Azure 블로그

마이크로소프트가 개발한 새로운 오픈 AI 모델, Phi-3-mini를 세상에 선보였습니다. 이는 Microsoft Azure AI Studio, Hugging Face, 그리고 Ollama에서 사용 가능합니다.

소규모 언어 모델 시리즈인 Phi-3는 경제적인 비용과 더불어 같은 크기나 그보다 큰 모델들을 능가하는 탁월한 성능을 자랑합니다. Phi-3-mini는 최대 128K 토큰의 컨텍스트 윈도우를 지원하며, 다양한 플랫폼에서 활용할 수 있습니다.

이 모델은 사람들이 일반적으로 소통하는 방식을 반영한 다양한 유형의 지시를 따를 수 있도록 훈련되었으며, 어디에든 적용될 수 있도록 준비되었습니다. 개발자들은 Azure AI에서 deploy-finetune 툴체인을 활용할 수 있고, Ollama를 통해 노트북에서 로컬로 실행할 수도 있습니다.

또한, 이 모델은 NVIDIA NIM 마이크로 서비스로 제공되며, 어디에서나 배포할 수 있는 표준 API 인터페이스를 지원하고 NVIDIA GPU에 최적화되어 있습니다.

앞으로 몇 주 안에는 Phi-3 시리즈에 추가 모델이 도입될 예정입니다. Phi-3-small(7B)과 Phi-3-medium(14B)은 곧 Azure AI 모델 카탈로그 및 다른 모델 공유 플랫폼에서 이용 가능할 예정입니다.

이 모든 발전은 더 많은 기기와 하드웨어에서 AI를 적용할 수 있는 길을 열어줄 것입니다. 빠른 속도와 다양한 환경에서의 효율성이 증가함으로써, AI가 우리 생활 곳곳에 적용될 날이 멀지 않았음을 예감케 합니다.

하지만, 사람들의 AI에 대한 관심은 아직 미미한 것으로 보입니다. 이는 변화하는 새로운 기회의 시작이라 할 수 있습니다. 미리 준비하여 좋은 기회를 잡아 앞으로 다가올 날들에 대비하시길 권합니다.