Weekly news on LLM - 4월 둘째주
제목: 인텔·네이버 AI 동맹 맺었다.. "가우디 기반 LLM 인프라 구축 추진"
요약: 미국 반도체 기업 인텔이 자체 개발한 AI칩을 공개하고, AI 기술·서비스 도입에 속도를 내고 있는 네이버와 동맹을 맺었다. 인텔은 11일 여의도 FKI타워 루비홀에서 자체 개발한 최신 AI 칩 ‘가우디3’를 소개했다. 인텔은 '가우디3'가 엔비디아의 최신 칩 H100 GPU보다 전력 효율이 두 배 이상 높고, AI 모델을 1.5배 더 빠르게 실행할 수 있다고 설명했다. 또 메타의 오픈 AI 모델인 ‘라마’와 아랍에미리트가 개발한 오픈 소스 대형 언어 모델인 '팔콘' 등에서 테스트했다고 강조했다. 인텔은 가우디3가 오는 3·4분기에 출시될 예정이며, 미 서버업체 델과 HP, 슈퍼마이크로 등이 가우디3 시스템을 구축할 것이라고 밝혔다. 네이버는 일단 가우디3가 아닌 가우디2를 하이퍼클로바X에 적용하는 방안을 테스트한 뒤 도입 여부를 정한다는 방침이다.
https://www.fnnews.com/news/202404110858064176
제목: 미디어젠, 자체 개발 LLM '미라지' 출시
요약: 미디어젠은 자체 개발 거대언어모델(LLM) '미라지(MIRAGE)'를 정식 출시했다고 11일 밝혔다. 회사 측에 따르면 LLM 개발은 한국전자통신연구원(ETRI) 창업 스타트업 딥모달과 협업했다. 미디어젠이 고객사로 보유한 기업을 대상으로 인공지능컨택센터(AICC), 인공지능 교육 분야에서 우선 적용될 예정이다. 특히 미디어젠의 LLM은 특정 언어 모델 기반이 아닌 라마2(Llama2), 젬마(Gemma) 등 다양한 언어 모델의 풀을 생성해 출력한다. 추가 모델이 출시되면 내부 모델 풀 추가 만으로 고객사 환경과 수요에 맞는 최적화된 결과를 제공한다는 장점이 있다.
https://www.newsis.com/view/?id=NISX20240411_0002696086&cID=10403&pID=15000
제목: "신형 LLM 쏟아진다"…오픈AI 이어 미스트랄도 新 무기 공개
요약: 12일 미국 지디넷, 영국 가디언 등 일부 외신에 따르면 미스트랄AI는 지난 9일 새로운 LLM인 'Mixtral 8x22B'를 공개했다. 이는 이전 모델인 Mixtral 8X7B'뿐만 아니라 벤치마크에서 메타의 '라마2 70B', 오픈AI의 'GPT-3.5'의 성능을 뛰어 넘는 것으로 평가됐다. Mixtral 8X22B의 파라미터는 1천760억 개로, 한 번에 처리할 수 있는 텍스트의 양은 6만5천 개 토큰이다. 용량은 281GB다. 미스트랄AI는 AI 모델을 오픈소스로 토렌트에 공개해 누구나 다운로드 받을 수 있게 했다.
https://zdnet.co.kr/view/?no=20240412082748
제목: "답답한 상담 챗봇은 가라" LGU+, LLM 기반 '챗 에이전트' 내놔
요약: LG유플러스가 자체 개발 AI 기술 익시(ixi)를 기반으로 AI Agent 플랫폼을 처음으로 선보인다. 챗 에이전트를 시작으로 모바일, 인공지능컨택센터(AICC), IPTV, 구성원 업무 지원 등 업무 전 영역을 혁신할 수 있는 AI 에이전트 서비스를 지속적으로 개발하며 본격적인 AI 비서 시대를 개척한다는 방침이다. 특히 챗 에이전트는 정해진 패턴에서만 대화가 가능했던 챗봇과 달리 LLM 기반의 AI 기술을 활용해 시나리오에 없는 전문적인 질문과 명령도 이해할 수 있다. 챗 에이전트를 적용하면 고객이 질문을 했을 때, 고객의 정보를 바탕으로 맞춤형 답변을 제공할 수 있다는 게 LG유플러스 측 설명이다. 이에 더해 향후 LG유플러스의 생성형 AI 모델 ‘익시젠(ixi-GEN)’을 챗 에이전트 플랫폼에 적용하면 고객 상담 이력에 대한 학습을 기반으로 사람과 같이 스스로 추론할 수 있는 능력을 갖추게 된다. 예를 들어 "로밍 요금제를 알려줘"라고 문의하면 방문 예정인 국가와 기간, 과거 사용 내용 등 정보를 토대로 "OO 고객님, 일본 4일 여행 시에는 A요금제를 추천드려요. 가장 인기가 좋은 요금제는 B요금제지만, OO님은 주로 비즈니스 출장이 많아 데이터가 넉넉한 A요금제가 좋을 것 같아요"와 같은 답변을 줄 수 있다. LG유플러스는 챗 에이전트 플랫폼 적용으로 상담사 연결로 전환되는 비율이 획기적으로 줄어들 것으로 기대하고 있다.
https://www.newsis.com/view/?id=NISX20240408_0002691352&cID=13005&pID=13100
제목: 올거나이즈, 금융 데이터 100만건 학습한 LLM 공개
요약: LLM 올인원 솔루션 기업인 올거나이즈가 금융 전문 LLM 리더보드를 공개한다고 8일 밝혔다. 올거나이즈의 금융 전문 LLM 리더보드는 금융 용어와 약어를 이해하고, 복잡한 추론에 특화된 한국어 LLM의 성능을 평가한다. 일반적인 LLM은 범용적인 사용이 편리하지만, 금융에 필요한 수식 계산과 예외 조건 등을 포함한 복잡한 추론에 특화되어 있지 않다. 금융 문서 특성상 수치와 트렌드가 강조된 표와 차트를 이해하는 것도 약하다. 올거나이즈는 금융권 고객들이 LLM을 도입하고자 할 때, 어떤 언어모델이 적합한지 성능 평가를 제대로 하기 어렵다는 점을 고려해 테스트 데이터 셋을 모두 공개했다. 현재 올거나이즈가 자체 제작해 공개한 테스트 데이터셋은 △한국은행, 기재부 등 공공기관의 경제 연구 보고서, 금융 보고서, 금융 용어집 등을 바탕으로 제작한 RAG 데이터, △금융 문서에 자주 등장하는 수식과 복잡한 표, 차트에 특화된 데이터 등으로 구성돼 있다. 최근에는 금융 특화 AI언어모델인 알리 파이낸스 LLM의 정식 명칭을 ‘Alpha-Finance’로 변경했다. 알파-F는 금융 산업에 특화된 100만 건의 데이터로 학습돼 복잡한 금융 용어 및 약어를 이해한다는 강점이 있으며, RAG 데이터 역시 20만 건 포함됐다.
https://www.edaily.co.kr/news/read?newsId=02758486638854152&mediaCodeNo=257&OutLnkChk=Y
제목: 음악 생성 AI '유디오' 출시에 "미쳤다" 반응 등장
요약: 화제의 음악 생성AI ‘수노(Suno)’의 라이벌로 불릴 만큼 현실적인 음악을 생성해주는 새로운 AI가 등장했다. 이를 두고 일부에서는 "미쳤다(insane)"이라는 반응까지 나왔다. 벤처비트는 구글 딥마인드 출신 연구원들로 구성된 스타트업 유디오가 텍스트 프롬프트에서 새로운 고품질 음악 오디오를 생성할 수 있는 음악 생성 AI 앱 ‘유디오(Udio)’를 출시했다고 보도했다. 사용법은 수노만큼이나 간단하다. 가사, 스토리, 음악 장르 등을 포함하는 텍스트 프롬프트를 입력하면 40초 안에 노래를 생성해 낸다. 구체적으로는 두단계로 작업을 처라하는데, 먼저 LLM을 사용해 프롬프트를 기반으로 가사를 생성한다음, 스태빌리티 AI의 ‘스테이블 오디오’와 유사한 확산 모델(Diffusion)을 사용해 32초 분량의 2개의 노래 스니펫을 생성한다. 활용도 자유로운데, 오디오 또는 비디오 파일을 다운로드해 유디오 커뮤니티는 물론 유튜브와 같은 다른 플랫폼이나 SNS에 공유할 수 있다. 유디오는 지금까지 비공개로 일부 테스터에만 제공됐으며, 이 가운데 세계적인 가수들로부터 엄청난 주목을 받고 있다. 현재는 베타 기간으로 무료로 사용할 수 있다. 특히 서비스 약관에는 회사가 생성 음악에 대해 어떠한 권리도 주장하지 않으며 상업적 목적으로 사용될 수 있다고 명시돼 있다. 또 생성된 음악이 저작권 자료를 침해하지 않도록 '자동 저작권 필터'를 내장하고 있다고 밝혔다. 이를 통해 특정 아티스트처럼 들리는 경우 음악을 차단할 수 있다.
https://www.aitimes.com/news/articleView.html?idxno=158752
