안녕하세요, 카카오엔터프라이즈 AI Lab의 사만다입니다.
오늘은 EMNLP 2020로부터 게재 승인을 받은 논문을 하나 소개해고보자 합니다. 이 논문의 제목은 "AttnIO: Knowledge Graph Exploration with In-and-Out Attention Flow for Knowledge-Grounded Dialogue"로, 지식 그래프에서 대화 맥락에 따른 경로를 효과적으로 탐색하는 모델을 새롭게 제안했습니다.
산업 현장에서 많이 쓰이는 Seq2Seq 기반 대화 모델은 지식(knowledge)을 갖춘 문장 생성에 취약합니다. 대화 모델의 근간이 되는 대규모 말뭉치를 사전학습한 언어 모델은 스스로 문장에 포함된 의미가 사실에 근거하는지 아닌지를 구분하지 못하기 때문입니다. 아울러 입력 문장과 관계없는 상투적인 표현을 내뱉는 경향도 크죠.
이에 지난 2019년부터는 외부에 구축해 둔 지식 그래프를 활용하는 연구가 본격적으로 제안되고 있습니다. 특히 지식 경로를 효과적으로 탐색하는 방법론이 많이 다뤄지고 있습니다. 카카오엔터프라이즈 AI Lab의 연구도 이와 궤를 같이합니다.
AI Lab은 1)지식 그래프의 구조 정보(노드와 이웃 노드와의 관계)를 효과적으로 표현하는 인코더(in-flow), 2)(닫힌 질문 또는 열린 질문을 요구하는) 대화 맥락에 따른 적절한 탐색 경로를 생성하는 디코더(out-flow), 3)약감독학습(weakly-supervised learning)만으로 감독학습(supervised learning)에 버금가는 성능을 내는 경로 탐색 모델을 만드는 데 집중했습니다. AttnIO는 벤치마크 데이터셋인 OpenDialKG에서 현재 최고 수준의(SOTA) 추론 성능을 달성했습니다.
AI Lab AI기술팀 컨택스트파트 소속의 정재훈 연구원을 만나 지식 그래프를 활용하는 대화 시스템에 대한 소개와 기존 방식의 한계, AI Lab이 제안한 방법론, 그리고 그 성능 및 향후 연구 계획에 대한 이야기를 들어봤습니다.
현재 컨택스트파트에서는 목적 지향적 대화(Task-oriented)뿐만 아니라, 다국어 번역, OCR, 텍스트 요약 등 다양한 응용 분야에 필요한 기계 학습 모델 연구/개발을 함께 하실 분을 찾고 있습니다. 관심 있으시다면 아래 인재 영입 페이지를 참고해 주세요. 감사합니다. :)
�머신 러닝 응용 분야 전문가 영입 https://bit.ly/KEPCareer_DRapplication