Weekly news on LLM - 9월 셋째주
제목: 알리바바, 새 LLM ‘큐원(Qwen) 2.5’ 전격 공개...“100개 이상 모델”
요약: 알리바바 클라우드가 ‘2024년 압사라 콘퍼런스’를 통해 새로운 LLM을 전 세계 오픈소스 커뮤니티에 배포한다고 20일 밝혔다. 이번에 배포한 ‘큐원(Qwen) 2.5’ 모델은 5000만에서 720억 개의 매개변수를 갖추고 있는 것이 특징이다. 또 29개 이상의 언어를 지원하는데, 한국어 성능이 우수한 것으로 알려졌다. 아울러 수학과 코딩 능력이 강화됐다. 자동차, 게임, 과학 연구 등 다양한 분야에서 활용할 수 있다는 것이 알리바바측 설명이다. 기본 모델부터 인스트럭트, 양자화, 수학 모델을 포함한 100개 이상의 모델로 구성돼 있다. 이 가운데 주력은 ‘큐원 맥스(Qwen-Max)’다. 알리바바는 언어 이해, 추론, 수학, 코딩 부문에서 향상된 성능을 자랑한다고 덧붙였다. 이밖에 알리바바 클라우드는 이미지 생성기 ‘통이 완샹(Tongyi Wanxiang)’의 새로운 텍스트-비디오 모델을 함께 발표했다. 해당 모델은 중국어와 영어 텍스트 지시를 바탕으로 현실적인 장면부터 3차원 애니메이션까지 다양한 종류의 영상을 고품질로 생성할 수 있는 것이 특징이다.
https://www.mk.co.kr/news/it/11120844
제목: 'o1-미니', 작고 저렴하지만 수학·코딩서 기존 모델 능가..."AI 개발 전환점 될 것"
요약: 오픈AI의 'o1-미니' 모델이 'o-1 프리뷰'보다 일부 성능이 더 뛰어나다는 사실이 힘을 얻고 있다. 크기는 작지만 뛰어난 성능과 저렴한 가격을 실현, AI 개발에 큰 전환점이 될 것이라는 평가다. o1-미니는 수학에서 o-1 프리뷰보다 휠씬 뛰어나다. 인간 선호도로 순위를 매기는 LMSYS에서는 3위를 차지했다. 1위는 o1-프리뷰, 2위는 GPT-4o다. 오픈AI는 수학과 코딩 분야에서 탁월하며, AIME 및 코드포스와 같은 평가 벤치마크에서 o1의 성능과 거의 일치한다고 밝혔다. 이는 모델 중 광범위한 세계 지식을 제외해 크기를 줄이고 추론 기능이 중요한 애플리케이션에 최적화했기 때문이라고 설명했다. 따라서 많은 관련 지식보다 추론이 더 중요한 수학이나 코딩에서는 기존 모델을 능가한다는 말이다. 또 미니가 강력한 성능을 발휘하는 이유 중 하나는 사용자가 질문할 때 프리뷰 모델보다 더 많은 토큰을 사용할 수 있도록 허용했기 때문이다. 오픈AI가 게시한 내용에 따르면, 미니는 프리뷰보다 토큰을 3배 더 빠르게 처리한다. 이런 점으로 인해 오픈AI는 미니가 프리뷰보다 더 오래 생각하도록 할 수 있으며, 이는 더 나은 답변으로 이어진다는 설명이다. o1-프리뷰의 경우, 기존에 가장 저렴한 'GPT-4o' 미니에 비해 4~6배 정도 비싼 것으로 알려졌다. 하지만 미니는 프리뷰 사용료의 80% 정도에 불과하다. 따라서 미니의 사용료가 더 적을 수 있다는 것이다. 여기에 오픈AI는 o1 모델 전반적으로 가격을 더 낮추기 위해 노력하고 있다고 밝혔다. GPT-4도 상당 기간을 거쳐 가격이 대폭 하락했다.
https://www.aitimes.com/news/articleView.html?idxno=163508
제목: “돈 되는 거 맞아?”...통신사, 회의론 속 ‘AI 비서’ 고도화 박차
요약: 최근 AI 투자 회의론이 확산되는 가운데 AI 회사로 전환을 시도 중인 국내 이동통신사들이 관련 사업 수익화를 위해 ‘AI 비서’ 고도화에 박차를 가하고 있다. SK텔레콤은 지난달 자사 AI 서비스 ‘에이닷’의 대규모 서비스 개편을 진행, AI 개인비서 경험을 강화했다. 먼저 에이닷은 개인의 일상을 통합 관리할 수 있는 ‘데일리’ 기능을 선보였다. 이는 기존에 에이닷 내에 흩어져 있던 캘린더, 할 일, 루틴, 수면 등의 기능을 하나로 통합해 고객이 일상의 모든 할 일과 기록을 간편하게 관리할 수 있도록 지원한다. 일일이 입력해야 하는 번거로움 없이 비서에게 이야기하듯 에이닷에 알려주면 약속, 미팅, 할 일 등을 저장·관리할 수 있다. 생활 전반의 편의를 돕는 AI 비서와 별개로 ‘AI 검색’ 기능도 제공한다. 자체 LLM A.X(에이닷엑스)뿐 아니라 구글 대항마 ‘퍼플렉시티’의 AI 검색엔진과 GPT, 클로드 등 최신 LLM 7종을 지원한다. 시중에서 이용 가능한 LLM을 중복해서 결제하고 여러 서비스를 오가며 사용할 필요 없이 최신 LLM 7종의 답변을 한 번에 출력하고 비교하며 편리하게 이용할 수 있다. SK텔레콤은 해당 서비스를 당분간 무료로 제공할 계획이다. SK텔레콤과 퍼플렉시티는 한국어 특화 AI 검색도 공동으로 개발하고 있다. SK텔레콤은 “국내 인터넷 검색 환경과 문화에 최적화된 검색으로 SK텔레콤은 한국어 데이터, 문화 컨텐츠 등을 제공하고 퍼플렉시티는 검색엔진의 파인튜닝 등을 맡아 AI 검색 서비스 고도화에 나설 예정”이라고 설명했다. 에이닷은 이 밖에도 뮤직, 미디어, 증권, T멤버십 영화예매 등 각 영역별로 특화된 전문 에이전트(비서) 서비스를 제공한다. 뮤직 및 미디어 에이전트의 경우 해당 영역에서 깊이 있는 양방향 대화를 제공하고 음악 및 영상 콘텐츠 등과 관련한 정보를 제공한다. 증권 에이전트는 시세 정보 뿐 아니라 각 기업 별 실적·공시 정보·주식 청약 일정 등 주요 정보를 보다 쉽고 빠르게 제공한다. T멤버십 영화예매는 영화관 직원과 대화하듯 대화로 쉽게 예매를 할 수 있고 이력과 취향을 반영한 영화·극장을 추천해 예매 과정을 단축했다. LG유플러스는 내달 아이폰용 AI 통화비서 애플리케이션 ‘익시오’를 공개한다. 유플러스닷컴에 공개된 익시오 주요 기능은 통화 녹음·요약, 할 일 제안, 전화 대신 받기, 보이는 전화, 실시간 보이스 피싱 탐지 등이다. 지난 4월에는 통신 상품 상담, 서비스 장애 상담, 유독(LG유플러스 구독 플랫폼) 상품 추천, U+비즈마켓 솔루션 안내를 담당하는 4종의 챗 에이전트 서비스를 출시했다. 하반기에는 너겟 요금제 상담, SOHO(소상공인) 기업 고객 상담을 위한 챗 에이전트도 출시할 예정이다.
https://www.dailian.co.kr/news/view/1408573/?sc=Naver
제목: AI 간편투자 플랫폼 핀트 "로보어드바이저 엔진에 LLM 적용"
요약: AI 간편투자 플랫폼 '핀트'를 운영하는 디셈버앤컴퍼니는 자사의 로보어드바이저 엔진에 생성형 AI LLM을 적용할 계획이라고 13일 밝혔다. LLM이 적용된 로보어드바이저 엔진은 재무제표 항목의 주요 추세 변화와 주요 재무 비율을 분석하고 계산해 미래 수익률의 상승 여부를 예측할 수 있다고 이 회사는 설명했다. 디셈버앤컴퍼니는 "더 똑똑해진 AI가 추가적인 수익률과 편리한 사용성 등 한층 더 개선된 성과를 가져다줄 것으로 기대된다"고 말했다.
https://www.yna.co.kr/view/AKR20240913035000008?input=1195m
제목: 중국, '소라' 이어 'o1' 추격 선언..."AI 개발 획기적 전환점 될 것"
요약: 중국이 이번에는 오픈AI 'o1'을 새로운 따라잡기 목표로 설정했다. 동영상 생성 AI '소라'에 이어 올해에 거론된 두번째 타깃이다. 알리바바 클라우드의 컨퍼런스에서 중국의 대표 AI 스타트업들이 고급 추론이 가능한 오픈AI의 새로운 모델을 추격하겠다는 의지를 보였다고 보도했다. 중국의 '4마리 AI 호랑이' 중 하나인 문샷 AI의 양지린 설립자는 o1이 AI 개발에 새로운 전환점이 될 것이라고 설명했다. 그는 컨퍼런스의 메인 포럼에 참여, "o1은 이제까지 LLM 발전을 이끈 '스케일링 법칙'을 넘어서는 것으로 큰 의미를 갖는다"라며 "많은 산업의 구조에 변화를 일으키고 스타트업에 새로운 기회를 창출할 것"이라고 말했다. 이는 o1의 추론 능력 향상이 모델 매개변수를 키우고 학습 데이터를 늘리며 컴퓨터 인프라를 추가 투입하는 등의 방식으로 LLM 성능을 높여온 방식과는 다르다는 것을 지적하는 것이다. 실제로 o1은 매개변수가 늘어나지 않았지만, 답변을 출력하기 전 생각하는 시간을 더 많이 할애하는 방식으로 성능을 대폭 끌어 올렸다는 평가를 받고 있다. 양 설립자는 "여기서 가장 중요한 질문은 강화 학습을 통해 추가 스케일링을 수행할 수 있는지 여부"라며 "만약 이런 점이 가능하다면 AI의 상한을 크게 높일 수 있다""라고 말했다. 문샷 AI는 이 부분을 향후 집중 연구하겠다는 뜻이다. 당분간 중국의 주요 AI 기업들은 강화 학습에 투자를 두배 이상 늘릴 것으로 예측했다. 여기에는 문샷과 바이촨, 지푸, 미니맥스 등 4대 호랑이를 비롯해 바이두나 텐센트, 알리바바 등 빅테크 등이 후보로 꼽혔다. 지난 2월 소라가 등장했을 때도 중국 정부 차원에서 "미국에 기술이 크게 뒤졌다"라고 지적하며 관련 기술 개발을 촉구하는 목소리가 나왔다. 그 결과 중국은 반년 만에 콰이쇼우의 '클링', 센슈 AI의 '비두', 지푸의 '잉', 바이트댄스의 ‘지멩 AI’, 미니맥스의 ‘비디오-01’ 등 수준급 비디오 생성 AI를 쏟아내는 데 성공했다. 알리바바도 이번 컨퍼런스를 통해 '큐원 2.5' 제품군 100여종을 출시하며 반격에 나섰다. o1을 의식한듯, 수학과 코딩 능력을 강화했다고 강조했다. 양 설립자는 "앞으로 AI는 몇분 또는 몇시간 동안 작업을 수행하며 더 강력한 추론 능력으로 다양한 모드를 전환하는 것을 볼 수 있을 것"이라며 "이것이 AI의 미래 개발에서 매우 중요한 추세가 될 것"이라고 강조했다.
https://www.aitimes.com/news/articleView.html?idxno=163544
제목: UN, AI 거버넌스 권고안 발표..."수백개 AI 프레임워크 통합 필요"
요약: UN의 AI 자문기구가 첫번째 AI 거버넌스 권고안을 발표했다. 그동안 각국과 기관, 기업 등이 추진한 거버너스 논의가 너무 단편화, 이를 통합할 필요가 있다고 주장했다. UN AI 자문기구는 '인류를 위한 AI 거버넌스'라는 보고서를 통해 AI의 안전하고 윤리적인 사용을 위한 7가지 최안을 제시했다. AI 기술에 대한 대처 방안에 대한 집단적 일관성이 부족하고, 이를 관리하는 데 있어 다양한 접근 방식이 엉성하게 구축되고 있어서, 이를 해결하기 위해 7가지 방안을 제시했다. ▲AI에 관한 국제 과학 패널 ▲AI 거버넌스에 대한 정책 대화 ▲AI 표준 교환 ▲역량 개발 네트워크 ▲AI를 위한 글로벌 펀드 ▲글로벌 AI 데이터 프레임워크 ▲유엔 사무국 내 AI 사무실 구축 등이 포함됐다. 이번 보고서에는 현재 AI에 대한 몇가지 위험을 경고했다. AI가 일부 대기업에만 집중되는 현상, 군사적 목적으로 AI가 사용되는 것 등이다. 이번 보고서에 포함된 내용은 22~23일에 열리는 UN 미래 정상회의에서 논의될 예정이다.
