“챗봇과의 대화는 자율적인 규제가 이상적”
[편집자 주] 전 세계 인공지능(AI) 챗봇 시장이 급격하게 확장하고 있는 가운데, 그 중심에는 AI 언어모델을 이용한 챗봇의 발전이 있다. 특히 챗GPT와 같은 대규모 언어 모델(LLM)의 등장으로 인해 일상 속 인공지능에 대한 경험이 늘어나고 있으며 동시에 시장 경쟁도 치열해지고 있다. AI 기술의 발전 속도가 빨라지면서 인간과 AI 간의 소통 방식이 일상화되고 있지만, AI 기술에 대한 회의론도 커지고 있는 상황이다.
그러나 이런 불안감에도 불구하고 AI의 잠재력과 미래에 대한 기대는 여전히 크며, 각국의 기업들은 AI 기술 경쟁에서 뒤처지지 않기 위해 막대한 투자를 이어가고 있다. 한국 또한 이 흐름에서 예외가 아니며, 다양한 기업들이 자국 AI 기술을 발전시키고 있다.
이를 보다 자세히 이해하기 위해, 한국의 AI 챗봇 시장에서 선도적인 두 기업인 심심이와 튜닙의 대표와 대담을 나눴다. 2002년 출시 후 약 22년 동안 서비스를 해 온 심심이 주식회사 최정회 대표와 감성 기반 페르소나 챗봇 등 50여 종의 챗봇을 개발한 주식회사 튜닙 박규병 대표를 통해, 각 기업이 어떤 방식으로 시장에서 경쟁하고 있으며, 앞으로의 전망과 방향성에 대해 깊이 있는 이야기를 들어보았다. 대담은 지난 8월 29일 한국인터넷자율정책기구(KISO) 사무실에서 각 회사의 주력 서비스와 경쟁력, AI의 미래에 대한 전망과 고민을 주제로 약 2시간 동안 진행됐다.
△ AI와 챗봇 시장이 빠르게 변화하고 있다. 현재 두 회사에서 주력하고 있는 서비스는 무엇인가?
– 심심이 최정회 대표(이하 최정회): 심심이는 크게 세 가지 축을 중심으로 서비스를 제공하고 있다. 먼저 기존의 일상 대화형 챗봇인 ‘심심이’ 서비스를 계속 발전시키고 있다. 심심이는 2002년 첫 출시 후 현재까지 다양한 대화 시나리오와 업데이트를 통해 많은 사용자에게 사랑받고 있으며, 이를 통해 일상적인 대화뿐만 아니라 심리적 안정감을 주는 방향으로도 발전하고 있다. 최근에는 특히 챗봇을 활용한 정신건강 치료와 관련된 연구개발에 집중하고 있다. 업무 생산성 솔루션인 ‘챗브레인’의 공공 서비스 도입에도 힘쓰고 있다.
– 튜닙 박규병 대표(이하 박규병): 튜닙은 두 가지 서비스를 중심으로 시장에 대응하고 있다. 첫 번째는 일반 사용자를 대상으로 한 멀티 캐릭터 챗봇 ‘디어메이트(DearMate)’이며, 두 번째는 기업을 대상으로 AI 위험성 방지를 위한 ‘AI 윤리 가드레일 솔루션 패키지’이다. 최근 AI 관련 규제와 윤리적 문제에 대한 우려가 커지면서, 기업들이 AI 도입에 따른 위험 요소를 최소화하기 위한 도구가 필요해졌다.
△ 최근 챗GPT와 같은 LLM 기반 챗봇의 등장은 AI 시장의 판도를 바꾸고 있다. 두 회사는 어떤 방식으로 경쟁력을 유지하고 있나.
– 최정회: 저희는 LLM 기술을 직접 선도하기보다는 우리가 잘하는 ‘응용’에 집중하여 다양한 상품 콘셉트를 잡는 방향으로 가고 있다. 예를 들어, 최근에는 정신건강 문제 해결을 위한 챗봇 연구개발을 주요 과제로 삼고 있다. 심심이와의 대화를 들여다보니 상당수 이용자가 우울증과 같은 정신적 어려움을 호소하고 있다는 점을 반영해, 이를 지원할 수 있는 서비스를 강화하고 있다. 정신건강 전문가인 함병주 고려대 안암병원 정신건강의학과 교수님과 협력하여 우울증 치료를 돕는 챗봇 서비스를 연구하고 있다. 단순한 일상 대화 외에도 심리적 안정감과 치료에 도움을 줄 수 있는 다양한 챗봇 콘셉트를 도입하고자 한다.
– 박규병: 튜닙은 ‘즐거움’이라는 핵심 가치를 중심으로 설계하고 있다. 많은 사람들이 AI에 기대하는 첫 번째 기능은 생산성 향상일 수 있지만, 점차 AI를 통한 즐거움과 엔터테인먼트에도 관심을 두고 있다. 디어메이트는 AI와의 대화를 통해 즐거움과 재미를 찾을 수 있도록 다양한 캐릭터를 제공하며, 이러한 엔터테인먼트적 요소는 타사와의 차별화된 경쟁력이라고 생각한다. 또한, AI 윤리 솔루션을 통해 기업들이 AI의 위험성에 대비하고, 안전하게 AI를 도입할 수 있도록 지원하고 있다.
△ 두 회사 모두 일반 사용자뿐 아니라 기업 및 공공기관을 대상으로 한 서비스에도 집중하고 있는 것 같다. 이에 대한 성과와 전망은 어떤가.
– 최정회: 심심이의 경우 B2B, B2G 비즈니스로도 확장하고 있다. 지난해 3월 선보인 ‘챗경북’이 꽤 성공적이었다. 심심이가 자체 개발한 챗GPT API 활용 업무 생산성 솔루션인 ‘챗브레인’을 경상북도의 공공 행정업무에 도입한 것인데 생산성 향상 측면에서 긍정적인 피드백을 받았다. 공공기관을 시작으로 학교, 기업 등 다양한 분야로 확대 적용할 계획이다.
– 박규병: 저희도 B2B 서비스에 주목하고 있으며, 특히 AI 윤리 가드레일 솔루션 패키지를 통해 AI 활용에 대한 안전성을 높이고 있다. AI를 도입하는 기업・기관이 안정성을 확보할 수 있도록 스팸 탐지, 준법 감시, 프롬프트 주입 탐지 등 6개 AI 윤리 엔진을 제공하고 있다. 다만 ‘안전을 위한 AI’ 수요는 커지고 있다고 보는데, 아직 사업적으로 쉽지만은 않다. 기업은 AI 도입으로 매출 증가나 비용 절감을 원하고 있고 윤리적 측면에 대한 고민은 아직 깊지 않은 듯하다. 그럼에도 AI의 안정성과 윤리적 책임은 향후 중요한 요소로 부각될 것으로 생각한다.
△ 수익화에 대한 고민도 클 것 같다.
– 박규병: 현재 국내외 모든 AI 필드가 고전하고 있다고 느낀다. 기업에서 AI 도입에 비용은 많이 드는 반면 즉각적인 매출 향상이나 비용 절감 효과는 적다고 판단하는 듯하다. 생산성 측면뿐 아니라 기업들의 AI 안전에 대해 예방적 차원의 준비나 리스크를 헷지하는 제품 필요성에 대한 인식도 약하다. 버텨야 하는 시기라고 본다.
△ AI의 부작용, 예를 들어 혐오표현, 선정적 발언 등에 대한 우려도 존재한다. 어떻게 대응하고 있나.
– 최정회: 심심이 내부에서는 혐오표현, 과도한 증오심을 담은 표현, 선정적인 표현 등에 대응하기 위해 나쁜말 필터링 기술을 도입하고 있다. 다만, 챗봇과의 대화에서 모든 표현을 일괄적으로 제한하기는 어렵다. 폭탄 제조나 테러리즘 모의 같은 명백한 불법적인 정보가 아니라면 각 문화권과 국가, 지역마다 다른 감수성 문제이기 때문이다. 궁극적으로는 이용자들이 자율적으로 규제하고 자정 작용이 가능한 시스템이 이상적이라고 생각한다. 심심이도 2006년에 지식맨이라는 서비스에서 배심원 제도와 유사하게 이용자들 사이의 합의 시스템을 둔 적이 있는데 온라인 커뮤니티 특성상 가장 이상적인 대안이라고 생각한다. 향후 이러한 자율적인 규제 시스템을 다시 도입하는 방안을 검토하고 있다.
– 박규병: 저희는 보다 엄격한 필터를 적용해 혐오표현 등을 적극적으로 걸러내고 있다. AI와의 대화에서 사용자가 느끼는 재미도 중요하지만, 저속한 대화를 지양하는 것이 서비스 철학이다. 사람 사이에는 대화 내용에 대한 합의와 조정이 이뤄질 수 있지만, 사람과 AI 챗봇 사이에는 이러한 합의가 어렵기 때문에 적절한 규제가 필요하다고 생각한다.
△ AI 부작용에 대한 지적도 있고 회의론도 있는데 AI의 미래는 어떨까. 챗봇과의 상호작용을 어느 수준까지 기대해 볼 수 있을지.
– 박규병: 곧 챗GPT-5가 나온다고 하는데 AI가 인간의 능력을 얼마나 닮았느냐, 인간 이상의 능력이 있냐는 질문은 이제 크게 의미가 없는 것 같다. 지금까지의 지식 체계는 인간의 IQ 안에서 쌓아 올린 것이고, 범용 인공지능의 시대에는 이 상식이 무너질 것이라는 사실을 받아들여야 한다. AI가 생성하는 정보의 사실성·안정성 문제가 지적되기도 하지만, 마치 바이러스와 백신의 관계처럼 개선하면서 지속되어 나갈 것으로 본다. 앞으로 AI와 농담을 주고받고 감정적으로 소통하는 시대가 올 것으로 기대된다. AI의 미래 과제라면 아직 감성이나 유머의 역량은 많이 약하다. AI와 농담 따먹기를 주고받는 시대가 언젠가 오지 않을까.
△ 업계에서 선도적으로 자율규제에 참여하고 있는데, 회원사로서 KISO에 기대하는 점은?
– 최정회: 유럽연합(EU)의 AI 법처럼 엄격한 규제가 도입되고 있지만, 기본적으로 자율적인 내부 해결 환경이 중요하다고 생각한다. KISO와 같은 자율규제기구가 인공지능, 메타버스 등 신기술 관련으로 자율규제 영역을 확대하고 다양한 기업과 협력해 AI 기술의 발전과 함께 윤리적 기준을 확립하는 데 중요한 역할을 할 것으로 기대한다.
– 박규병: 튜닙은 최근 KISO의 욕설 필터링 서비스인 ‘KISO이용자보호시스템(KSS)’을 사용하기로 했다. AI 활용이 마치 빅브라더를 연상하는 분위기가 있는데 사회적 합의를 만들어가는 과정에서 KISO와 도움을 주고받을 수 있으리라 기대한다.
이번 대담을 통해 두 회사 대표는 각 서비스의 강점과 차별화된 전략을 바탕으로 AI 챗봇 시장을 선도해 나가고 있음을 확인할 수 있었다. AI 기술의 발전과 함께 사용자에게 더 나은 경험을 제공하기 위한 노력, 그리고 윤리적 문제를 신중히 고려하는 이들의 행보는 앞으로도 주목할 만한 가치가 있다.
사회=박엘리 정책팀장
정리=유은재 선임연구원
※ 이 글은 KISO저널https://journal.kiso.or.kr/ 제56호 <문화시평>에 실린 박성순 배재대 미디어콘텐츠학과 교수의 글([대담] 심심이 최정회·튜닙 박규병 대표를 만나다: 한국 AI 챗봇의 현재와 미래 – 토종 AI 챗봇의 생존키워드는 ‘다양한 콘셉트’(심심이)와 ‘즐거움’(디어메이트) | KISO저널)을 재인용했습니다.
발행 KISO저널 제56호