AI 뉴스가 있는 저녁-26(아이디어 발굴)

AI가 엉뚱한 답을 내 놓는 원인이 바로 평가에 있다고? 셀럽 모닝콜!

Sep 8. 2025

안녕하세요 겨울방주입니다.

오늘 저녁도 AI뉴스가 있는 저녁을 연재합니다.

아래의 기사를 공유하고, 논평을 하겠습니다.

요약한 AI 기사

1. 허태수 GS 회장 "현장 지식과 AI 결합해 생태계 확산 기여할 것" -파이낸셜포스트-

“GS그룹은 8일부터 이틀 동안 웨스틴 서울 파르나스에서 '제4회 GS그룹 해커톤'(주제는 'PLAI: Play with GenAI'로 생성형 AI를 업무 현장 곳곳에 적용해 즐겁게 혁신을 만들자는 의미)을 열고, AI의 사업 현장 적용을 본격화한다고 밝혔다. 참가자들은 1박 2일 약 30시간에 걸쳐 문제 정의부터 해법 제시, 생성형 AI를 활용한 서비스 프로토타입 제작까지 전 과정을 밀도 있게 진행한다. 선발된 우수팀은 그룹 차원의 지원을 받아 실제 구현에 나선다.”

“올해는 GS가 자체 개발한 인공지능 전환 플랫폼 ‘MISO’와 글로벌 테크기업 버셀이 제공한 바이브코딩 툴 'v0'가 도입돼 결과물의 완성도가 한층 높아졌다. 개발 경험이 없는 사람도 자연어만 입력하면 코드나 웹 화면을 만들어낼 수 있는 이 바이브코딩은 아이디어를 실체화해 짧은 시간에 결과물을 만들어내야 하는 해커톤의 속도감과 맞아떨어졌다. 허태수 GS 회장은 "AI는 실제 비즈니스에 활용될 때 비로소 가치가 실현되기 때문에 GS는 플랫폼과 사례를 적극 개발하고 공유해 대한민국 AI 생태계 도약에 기여할 것"이라고 말했다.”

2. AI가 엉뚱한 말을 하는 이유?… 오픈 AI가 찾은 '근본 원인' -ZDNET KOREA-

“오픈 AI가 LLM의 '환각' 현상이 왜 발생하는지, 또 줄일 수 있는 방법은 무엇인지에 대해 새로운 연구 결과를 발표했다. 오픈 AI는 블로그를 통해 발표한 논문에서 환각을 "그럴듯하지만 사실과 다른 문장을 생성하는 현상"이라고 정의했다. 연구진은 문제 해결의 열쇠가 학습 과정 자체보다 평가 방식에 있다고 지적했다.”

“논문 공저자인 애덤 타우만 칼라이의 사례를 예시로 들었다. 한 챗봇에 칼라이의 박사 학위 논문 제목을 물었을 때 세 번 모두 서로 다른 답을, 그것도 틀린 답을 내놓았다. 생일을 물었을 때도 세 번 모두 잘못된 날짜를 내놨다. 이런 현상이 언어모델의 학습 구조에서 비롯된다고 설명했다. 특정 인물의 생일 같은 저빈도 사실은 패턴만으로 정확히 예측하기 어렵다는 설명이다. 연구진은 운 좋은 추측을 보상하면 모델은 계속 추측할 것이라고 한다.”

3. "셀럽이 모닝콜"… 시니스트, AI 팬덤 서비스 선보인다 [GAMFF 2025] -MBN NEWS-

“인공지능 기반 스마트 솔루션 기업 시니스트가 오는 12일 열리는 ‘GAMFF 2025(경북 국제 AI·메타버스 영상제)’에 참가해 AI와 메타버스를 결합한 다양한 서비스를 선보인다.”

“AIoT 기반 스마트 케어 플랫폼과 생체인증 솔루션을 바탕으로 다양한 분야에서 AI 기술을 접목해 혁신을 이어가는 기업인 시니스트는 동남아 시장을 겨냥한 AI 셀럽 팬덤 플랫폼 개발로 성과를 거둔 데 이어, 국내에서는 K-셀럽 IP와의 협력 및 굿즈 패키지 전략을 통해 K-콘텐츠를 중심으로 한 글로벌 진출에 나서고 있다. GAMFF 2025 B2B 전시 부스에서는 AI 팬덤서비스인 AI 셀럽 보이스 팬덤 서비스 ‘AIVGEN 앱’과 3D기반 교육 콘텐츠인 Unity 교육 메타버스 총판과 3D 디자인 소프트웨어 ‘타다크래프트’를 소개한다.”

겨울방주의 논평

네 그렇습니다. GS에서 1박 2일 약 30시간에 걸쳐 문제 정의부터 해법 제시, 생성형 AI를 활용한 서비스 프로토타입 제작까지 전 과정을 밀도 있게 진행하여 AI를 접목하여 각종 산업에서 고객을 위한 아이디어를 쏟아낸다고 합니다. AI에 대한 숙의인 것이죠. 선발된 우수아이디어 팀에게 그룹에서는 그룹차원의 지원을 받아 그 아이디어에 대한 실제적인 구현을 할 수 있게 됩니다. AI시대에 필요한 것은 아이디어입니다. 만드는 것은 AI가 할 수 있지만, 이를 조정하는 것은 인간의 몫입니다. 또 GS에서 올해에 자체 개발한 인공지능 전환(AX) 플랫폼 ‘MISO’와 글로벌 테크기업 버셀이 제공한 바이브코딩 툴 'v0'가 도입돼 결과물의 완성도가 한층 높아졌는데 해당 툴은 개발경험이 없는 일반사람도 자연어를 입력하기만 하면, 코드나 웹 화면을 만들어낼 수 있다고 합니다. 기술이 이렇게 발전한 것입니다.

오픈 AI에서 환각현상이 생기는 경우가 있었습니다. 이에 대한 원인을 분석하였는데요. 학습이 아니라 평가방식 때문이라고 합니다. 평가방식을 도입할 때 유사답변을 내놓은 모델에게도 보상을 주기 때문이라고 합니다. 이럴 경우 모델은 계속해서 추측을 할 것입니다. 기사에서는 연구진들의 '틀린 답을 내놓는 모델에게 불이익을 줘야 한다'라는 말이 괜히 나오는 말이 아니라고 봅니다. 유사한 답변으로 인해 피해를 본 사람들이 많습니다. 때문에 항상 AI가 내놓는 답은 스스로 검증을 해봐야 합니다. 즉 평가방식을 바꿔야 한다는 연구진들의 지적도 다시 한번 생각해 봄직 합니다.

시니스트가 AI 팬덤 기반 서비스인 셀럽 모닝콜을 도입한다고 합니다. K-POP팬들은 상당히 좋아할 듯합니다. 3D기반 교육 컨텐츠로 내놓는 타다크래프트는 과연 어떻게 진행되는 것일까요? 검색해서 살펴보니 마인크래프트가 딱 떠오를 정도의 비주얼을 볼 수 있었습니다. 그러니까 이제는 AI와 메타버스를 접목시키겠다는 이야기처럼 들립니다. AI는 어떤 무엇이든 융합을 하려는 특성이 있는데, AI를 접목한 가상세계를 만들려나 봅니다. 저는 그것을 써보지는 않아서 잘 모릅니다만 AI팬덤기반 셀럽모닝콜 역시 아침 모닝콜이나 위로의 말을 전해주기에 색다른 경험을 주겠네요. 기술의 발전은 메타버스에도 영향을 줍니다. ‘경북 국제 AI·메타버스 영상제(GAMFF, Gyeongbuk AI & Metaverse Film Festival)’는 이번 주 금요일인 12일부터 14일까지 구미, 포항, 경산, 청도 등 경북 4개 시군에서 열린다고 하니 인근에 계시는 분들이나, 관심 있으신 분은 가보셔서 관람해 보시는 것을 추천드립니다!