취미로 연구하다 논문까지 썼다고?
논문 쓰기 세미나 후기
취미로 연구하다 논문까지 썼다고?
모두의연구소에서는 실제로 가능합니다! 그리고 취미로 쓴 논문이 인공지능 컴퓨터 비전 분야에서 세계적 탑티어 학회인 CVPR Workshop에 등재되었습니다. 이 기쁜 소식의 주인공은 바로 모두의연구소의 VITAL LAB입니다. 이를 기념하여 VITAL LAB의 이상록 랩짱님께선 모두연이라는 커뮤니티 활동을 하면서 어떻게 논문을 쓸 수 있었는지 그 노하우를 담은 세미나 발표를 준비해주셨습니다.
SBNet: Segmentation-based Network for Natural Language-based Vehicle Search
https://arxiv.org/abs/2104.11589
이름하여 '모두의연구소에서 논문 쓰기' 세미나
지난 6월 16일 저녁 '모두의연구소에서 논문 쓰기' 세미나를 위해 100명이 넘는 많은 분들께서 사전 신청을하고 온라인으로 참여했습니다. 이상록 랩짱님께서도 생각보다 많은 분들께서 신청해주셔서 당황스럽다고 말씀 주셨지만 그런 기색 없이 차분하게 발표를 시작하셨습니다. 그 생생한 세미나의 현장을 소개합니다.
발표자 및 VITAL LAB 소개
발표를 맡아주신 이상록 랩짱님께서는 Deep Learning College라는 모두의연구소의 초기 AI 프로그램 출신으로 2018년부터 모두연 커뮤니티 활동을 했습니다. 이후 대기업의 AI 모델링 업무 경력을 쌓고 지금은 한 스타트업의 AI팀에서 근무를 하고 계십니다.
VITAL LAB은 연구 주제에 크게 제한을 두진 않지만 주로 vehicle 관련 주제를 다루는 LAB입니다. 막연하게 공부를 하는 것보다는 결과물을 만들어내자는 뚜렷한 목적성을 가지고 운영된 LAB입니다. LAB 구성원 간의 관계는 완전한 수평 관계로 진행된 게 특징이고, 대신 논문을 쓸 때만은 나이와 학위에 상관없이 1저자가 무조건 대장이었답니다.
VITAL LAB에서 지금까지 쓴 논문은 다음과 같습니다.
•Strdan: synthetic-to-real domain adaptation network for vehicle re-identification, CVPR Workshop 2020
•SBNet: Segmentation-based Network for Natural Language-based Vehicle Search, CVPR Workshop 2021
•Multi-Attention-Based Soft Partition Network for Vehicle Re-Identification
•Simulation to Real object detection using style normalization, JCCI
연구하기 : Motivation을 유지해주는 목표 및 주제 정하기
자유 연구를 지속하게 해주는 중요한 요소로 다음 두 가지를 꼽았습니다.
데드라인이 있는 구체적인 목표
연구원들이 흥미를 느끼는 주제
VITAL LAB에선 일단 논문 집필을 목표로 삼았고, 동시에 Competition에 참여할 때도 있었습니다.
논문 작성의 경우 주제에 맞는 타겟 컨퍼런스를 미리 설정했고, 3 개월 정도의 제출 기간이 남아있는 곳을 목표로 설정했습니다. 보통 2개월 정도 실험을 하고, 1개월 정도를 논문 작성 기간으로 잡았습니다.
특히 연구 주제를 정할 때 VITAL LAB에서 고려하는 요소들을 자세히 말씀 주셨습니다.
주제의 성숙도
주제에 대한 연구가 얼마나 성숙했는지를 고려합니다. 특히 Imagenet과 같이 경쟁이 치열해서 성능이 소수점 단위로 평가되는 문제들은 배제했습니다. 이런 주제는 퇴근 후 취미로 조금씩 해서는 뛰어난 연구자들 사이에서 경쟁력을 갖추기 쉽지 않다고 판단했습니다.
GPU & 데이터
연구에 필요한 데이터의 크기와 사용 가능한 GPU의 성능을 고려합니다.
흥미!!
가장 중요한 요소입니다. 생계가 달려있는 연구가 아니기 때문에 지속 가능한 연구를 위해선 연구원들이 흥미를 느끼는 주제를 우선순위를 둬서 선정합니다.
친숙함
LAB 연구원들에게 너무 생소한 분야라면 연구에 너무 많은 시간과 에너지를 들여야 되기 때문에 어느 정도 친숙한 주제를 선정합니다.
연구하기 : 실험하기
연구에 본격적으로 돌입하는 순서에서 랩짱님은 먼저 연구에 임하는 마음가짐을 강조하셨습니다.
"시간은 우리 편이니 될 때까지 해보자!"
회사의 프로젝트 업무처럼 강제적인 데드라인은 없기 때문에 여유로운 마음을 가지고 몰입하셨다고 합니다.
실험 방법에 대한 아이디어를 낼 때의 팁도 주셨습니다.
컨퍼런스에 출판된 최근 논문 기준으로 인용한 논문을 모두 읽고 다음의 생각을 해봅니다.
이 사람은 어떻게 이 생각을 했을까?
우리가 이 방법을 사용한다면 어떻게 쓸 수 있을까?
이렇게 하면 잘 되지 않을까?
다음으로 아이디어 단계와 구현 성능을 뽑아내는 단계 사이에는 '넘을 수 없는 4차원의 벽'이 있다고 말씀하셨습니다. 그만큼 많은 trial and error 과정을 거쳐야 하는데, 이때 '처음엔 성능이 안 나오는 게 당연하다'를 되뇌며 스트레스를 안 받고 많은 실험을 해보셨다고 합니다.
실험을 하실 때도 '하늘 아래 새로운 아이디어 없다'는 일념으로 완전히 다른 주제라도 비슷한 접근을 한 논문들을 찾아서 어떤 방식으로 구현했는지 참고하셨다고 합니다. 특히 논문에 나와있는 core module보다 디테일한 부분에서 성능이 갈리는 경우가 많았다는 팁을 전해주셨습니다.
위와 같이 실험하며 초반에는 데이터, 모델, 학습 과정 등 전체 플로우를 살펴보되 구현에 집중했고, 후반에는 모델의 구성 디테일에 집중하셨답니다.
연구하기 : 논문쓰기
연구를 어느 정도 마치면 논문 쓰기에 돌입합니다.
VITAL LAB의 논문 쓰는 일반적인 스케줄은 다음과 같았습니다.
1~2주 : 1 저자가 전형적인 논문 구성을 따라 초안 완성
2~3주 : 팀원들의 리뷰 및 첨삭 구조 변경
2~3일 : 영어 고치고 문장 다듬기
특히 논문의 구성을 잘 갖추는 것이 학회지 accept에 중요함을 거듭 강조하셨습니다. 비슷한 논리 구조를 가진 잘 쓴 논문 구조를 참고하여 비슷하게 전개해보는 것도 도움이 많이 되었다고 합니다.
결과에 너무 집착하지 않고, reject을 당하더라도 긍정적인 마음으로 받아들이시는 점이 인상적이었습니다.
마무리
랩짱님께선 일과 후 대부분의 시간을 논문을 쓰며 보내셨다고 합니다. 약 1년여 기간의 여가 생활을 반납하셨지만 그만큼 연구의 보람도 크셨답니다. 랩짱님께선 따로 대학원을 다니시진 않으셨는데 논문을 쓰며 연구자의 길에 한 발짝 다가설 수 있었던 것 같다는 말씀을 하셨습니다. 또한 그 전까지는 딥러닝 업무를 하시며 성능 올리기에 주로 집중했는데, 논문을 쓰시면서 단순히 성능 개선 보다는 '이게 진짜 설득력이 있는 인과관계인가' 등 좀더 깊게 생각하게 되셨다고 합니다.
세미나의 참가자 분들께서 적극적으로 채팅도 많이 남겨주셔서 즐거운 분위기로 세미나는 마무리 되었습니다.
멋진 경험과 노하우 나눠주신 이상록 랩짱님께 다시 한 번 감사드립니다.
모두의연구소는 누구나 하고 싶은 연구를 할 수 있는 열린 연구소입니다.
하고 싶은 재밌는 연구가 있으시다면 언제든 모두의연구소를 찾아주세요!
https://modulabs.co.kr/apply_lab/
Written by Research Manager 엄광호
