오픈AI가 그동안의 대형언어모델(LLM) 중 가장 작은 크기의 'GPT-4o 미니'를 출시하며, AI 기술을 보다 접근하기 쉽고 비용 효율적으로 만들겠다는 명확한 약속을 보여주었다. 이 회사는 7월 18일 공식 블로그를 통해 발표하였으며, GPT-4o 미니는 챗GPT 웹 및 앱을 포함한 모든 플랫폼에서 사용 가능하다고 밝혔다. 또한, 챗GPT 엔터프라이즈 사용자는 다음 주부터 사용할 수 있게 될 예정이다.
GPT-4o 미니는 이전의 가장 작은 모델인 'GPT-3.5 터보'를 대체하게 되며, 현재는 텍스트와 비전 기능만을 지원하나, 향후 비디오 및 오디오 기능도 추가될 예정이다. 또한, 사용성을 확장하기 위한 미세 조정 기능도 곧 제공될 것이다.
이 모델은 12만8000개의 토큰으로 구성된 컨텍스트 창을 가지고 있어, 대략 한 권의 책을 입력할 수 있는 능력을 가지고 있다. 영어가 아닌 텍스트 처리가 비용 효율적으로 개선된 덕분에, 이 모델은 기존 모델보다 속도 면에서도 뛰어나다. 평균 출력 속도는 초당 202토큰으로, 기존 모델보다 2배 이상 빠르다는 분석이다.
오픈AI는 이 모델의 비용 효율성을 강조하면서, GPT-3.5 터보보다 60% 이상 가격이 내려간 것을 소개했다. 개발자를 위해 API 기반 개발 비용도 대폭 낮췄으며, 100만개의 입력 토큰당 15센트, 출력 토큰당 60센트로 책정되었다.
또한, 오픈AI는 안전성 향상을 위해 사회 심리학 및 허위 정보 등 분야의 외부 전문가 70명 이상이 GPT-4o 미니를 테스트하도록 하여 잠재적 위험을 파악했다고 밝혔다. 특히, 이 모델은 '지시 계층(The Instruction Hierarch)'을 적용한 첫 모델로, 모델의 탈옥, 프롬프트 공격, 시스템 공격 등에 대한 저항 능력을 향상시킨 것으로 설명했다.
오픈AI는 AI 인텔리전스의 놀라운 발전과 상당한 비용 절감을 목격한 이래, 모델 역량을 향상시키면서 비용을 낮추는 궤적을 계속 이어갈 것을 약속했다. 이와 더불어, 기업을 위한 새로운 도구인 '엔터프라이즈 컴플라이언스 API(Enterprise Compliance API)'도 발표하여, 금융, 의료, 법률 서비스 및 엄격하게 규제되는 산업 분야에서 감사 요구 사항을 준수할 수 있도록 지원할 예정이다.
