인공지능과 연금술

12월 초 롱비치 컨벤션 센터에서 인공지능 분야의 가장 큰 국제학회인 NIPS(Neural Information Processing Systems)가 열렸다. NIPS는 최근 인공지능에서 가장 인기가 있는 기계학습, 특히 딥러닝(Deep Learning) 연구를 대표하는 컨퍼런스다. 여기서 올해 test-of-time award를 받은 알리(Ali Rahimis)는 수상 소감에서 딥러닝 연구 커뮤니티에 쓴소리를 던졌다. 심지어 오늘날 인공지능을 '연금술'에 비유했다. 그 후, Facebook 인공지능 디렉터인 얀(Yann Lecun)이 알리의 발표를 공개적으로 비난했고, 알리와 얀이 줄줄이 서로의 주장을 계속 반박하면서 큰 화제가 되었다.

중세시대에 성행했다는 연금술은 그 당시 큰 사회적 파장을 불러왔다고 한다.

알리의 발표의 핵심은 딥러닝 연구를 현재보다 더 엄격하게(rigorously) 수행하자는 것이다. 오늘날 딥러닝 논문은 새로운 방법을 고안하고 기술하는 내용이 주를 이루며, 상대적으로 이론적/실험적 검증과 분석이 예전보다 간과되고 있다. 알리는 이런 현상을 과거 '연금술'의 연구방법, 즉 문제의 본질을 더 잘 이해하고 분석해 나가는 연구가 아닌 새로운 방법을 계속 시도하는 연구에 빗대었다. 아울러, 간단한 예와 간단한 수학적 정의를 이용해서 이미 알려진 방법을 더 잘 이해할 수 있게 노력하자고 제안했다. 예를 들면, 어떤 방법이 도움이 되는 조건은 무엇인지, 기존의 방법과 어떻게 비교되는지, 그 한계는 무엇인지 등을 연구하고, 그 결과를 학회에서 공유하자는 것이다.

얀은 알리의 발표를 강하게 반박했다. 오히려, 과거에는 학문의 엄격함에 얽매여서 신경망 기술이 발전하는데 어려움을 겪었으며, 새로운 방법을 개발하는 것이 공학이라고 정의했다. 앞으로는 수학적/실험적 엄격함에 얽매이는 과거의 실수를 반복하지 말자는 내용이었다. 새로운 방법을 고안하는 것이 뭐가 문제냐는 것이다. 언짢은 감정도 느껴졌다. 여기에 딥러닝 연구의 대가 요슈아(Yoshua Bengio) 교수가 나서서 알리의 태도(Attitude)를 지적했고, 다른 많은 사람들도 알리의 발표를 비난했다. 반대로, 알리를 옹호하는 사람들도 있었다. '연금술'이라는 단어는 자극적이지만, 그가 던진 메시지는 중요하다는 입장이었다. 그들의 토론은 꼬리에 꼬리를 물고 계속되었고, (내 생각에) 이번 학회의 가장 큰 이슈가 되었다.

사실, 알리가 오늘날 인공지능 연구가 더 엄격해야 한다고 주장한 유일한 사람은 아니다. 올해 NIPS에서 도이나(Doina Precup) 교수의 발표는 충격적이었다. 그녀는 최근 십여 개의 딥러닝 논문들에 나온 실험 결과를 재현해봤고, 실제로 윤리적 결함이 존재한다는 사실을 밝혔다. 새롭게 제안한 방법이 너무 불안정해서 실험 결과가 지나치게 많이 변하는 논문, 여러 번 실험을 수행하여 저자가 제안한 방법이 유리하게 나오는 결과만 사용한 논문, 데이터에 따라서 (다른 방법에 비해) 상대적인 성능이 심하게 달라지는 논문 등이 30여분 발표 동안 쏟아져 나왔다. 씁쓸했다.

딥러닝 연구에서 엄격하게 충분한 실험을 하기 어려운 이유는 다양하다. 무엇보다 실험을 수행하는 비용이 과거 다른 방법에 비해 훨씬 크다. GPU, 메모리, 데이터 크기, 시간 등이 많이 필요하며, 이것들은 연구자에게 큰 부담이 된다. 도이나 교수는 발표의 마지막에서 기업의 협조를 당부했다. 학교에서 충분한 실험을 할 수 있도록, 딥러닝 인프라를 개발하고 서비스하는 대기업에서 지원을 해달라는 것이다. 그 결과는 연구단체뿐 아니라, 그 대기업들에게도 돌아갈 것이다. 올해의 마지막 달에 붉어진 이 논란이 인공지능 연구 발전의 불씨가 될지, 해프닝으로 끝날 지는 두고 볼 일이다.