brunch

You can make anything
by writing

C.S.Lewis

by 별똥별 shooting star May 16. 2024

직접 만드는 카카오톡 대화 요약 서비스

프로젝트 모음집


KoBART를 활용한 카카오톡 대화 요약 서비스

2023년 12월 카카오톡에서 AI를 기반으로 한 대화 요약과 어투 변경 서비스가 출시되었다. 혹시나 개발자이거나 AI가 궁금한 사람은 이와 관련된 토이 프로젝트를 찾을 수 있을 것 같다. 나또한 이러한 궁금증으로 23년 상반기에 'KoBART를 활용한 카카오톡 대화 요약 서비스'라는 프로젝트를 카카오톡보다 먼저 내놓았었다. 오늘은 내가 진행한 프로젝트를 간단히게 만들어 볼 수 있는 방법을 소개하고자 한다.  이는 총 5개의 주제로 이루어져있으며 아래의 링크를 통해 확인하실 수 있다.(브런치 특성상 코드를 옮기기는 무리인듯하다.)

개요와 데이터

모델과 평가

생성 전략과 허깅페이스

모델 서빙

추가 개선


https://velog.io/@jx7789/series/Project-ollection



직접 만들어보

구현은 Google Colab을 사용하여 진행해야 합니다. 원래는 Colab Pro를 사용했지만, 데이터 양을 줄이고, 학습 반복수, 토큰 길이 등 여러 파라미터를 조정함으로써 Pro를 사용하지 않고도 실험해볼 수 있습니다. 그러나 이 경우 최적의 모델을 만들기는 어려울 수 있습니다. 따라서 가능하다면 Colab Pro를 사용해 실험해보는 것을 권장합니다. 프로젝트의 구현에 대한 자세한 가이드는 아래의 GitHub 주소에서 확인할 수 있습니다.


https://github.com/jx-dohwan/KoBART_generation_summary_service

브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari