[후기] 퓨샷 러닝 연구 동향을 소개합니다.

지금 이뤄지는 수많은 딥러닝 모델 연구에는 정말 많은 학습 데이터가 필요합니다. 카카오브레인 연구원이 늘상 말하는 "현실 세계를 충분히 반영하면서도 양질의 데이터"가 뒷받침 되어야만 딥러닝 모델 스스로가 문제를 해결하는 방법론을 익히게 됩니다.

그런데 만약 데이터가 1개~5개면 어떻게 할까요? 이처럼 매우 적은 데이터가 주어진 상황에서도 모델을 훈련하기 위한 방법론을 두고 퓨샷 러닝(few-shot learning)이라고 합니다. 이 퓨샷 러닝 모델의 일반화 성능을 높이고자 에피소딕 훈련(episodic training) 방식으로 메타 러닝을 시도하고 있죠. 모델 스스로 규칙을 찾을 수 있도록 모의고사 문제를 계속 풀게끔 하는 시도라고 이해하시면 될 것 같습니다.

카카오브레인 AutoML 연구팀도 바로 이 퓨샷 러닝 연구를 진행하고 있습니다. 이 퓨샷 러닝 문제를 해결하기 위해 제안한 방법론인 EGNN(Edge-Labeling Graph Neural Network for Few-shot Learning)은 올해 CVPR에 승인되기도 했습니다. :)

이번 시간에는 EGNN에 많은 영향을 미친 거리 학습과 그래프 신경망 기반 선행 연구 6편을 소개해보고자 합니다. 물론 퓨샷 러닝에 대한 개념도 알아야 할 거 같아서 관련 설명도 추가했어요 :) 2편에 이어서 EGNN이 해결하려는 문제와 구조, 성능에 관한 이야기를 해보겠습니다. 아마 가중치 이야기 등을 빼서 그나마 읽기 쉬운 글일거에요 :)

[EGNN]1.퓨샷 러닝(few-shot learning) 연구 동향을 소개합니다. - 카카오브레인