[카카오 AI리포트]페이페이 리의 '모두를 위한 AI'
페이페이 리의 꿈과 도전, 'AI for All'
인공지능(AI) 기술이 향하는 최종 기착지는 결국 우리 ‘인간’인 듯합니다. 인간처럼 보고, 듣고, 말하고, 판단할 수 있는 기계는 역설적으로 과연 ‘인간다움’이 무엇인가를 반추하게 합니다. 우리 스스로를 정의할 수 없다면 우리의 닮은꼴인 AI가 갖게 될 ‘인간다움'은 어떻게 정의할 수 있을까요? AI의 시대, 다양성(diversity)과 윤리, 철학의 가치가 다시 주목받는 이유입니다. 카카오 AI 리포트는 이번 호에서 ‘AI와 여성’을 주제로 AI 연구의 다양성 부족 이슈를 살펴봤습니다.
[카카오 AI 리포트] Vol. 4는 다음 내용으로 구성되어 있습니다.
[1] Review - AI와 여성: Women in AI
01. 정수헌 : 페이페이 리의 꿈과 도전, ‘모두를 위한 AI’ (이번 글)
02. 김대원 : 여성 AI 개발자들이 말하는 ‘AI와 나’
[2] Industry - AI 알고리듬의 비밀
03. 전상혁, 김광섭 : 내 손안의 AI 비서, 콘텐츠 추천 알고리듬
04. 최성준, 이경재 : 알파고를 탄생시킨 강화학습의 비밀
[3] Information
[카카오 AI 리포트] Vol. 4 전체글 다운받기
내용 중간의 [ ]는 뒷부분에 설명 및 관련 문헌의 소개 내용이 있음을 알리는 부호입니다. 예를 들어, [1]에 대한 설명은 '설명 및 참고문헌'의 첫 번째에 해당합니다.
많은 사람들이 AI가 바꿔갈 세상에 대해 이야기합니다. AI가 인류의 삶을 우리가 상상하는 수준 이상으로 바꿀 것이란 전망도 나옵니다. 과연 AI는 모두를 위한 기술(AI for All)이 될 수 있을까요? 미국 스탠퍼드 대학 인공지능연구소(Standford Artificial Intelligence Lab)와 컴퓨터 비전 연구소(Standford Vision Lab)를 이끌고 있는 페이페이 리(Fei-Fei Li) 교수는 AI와 빅데이터 분야의 세계 최고 전문가로 꼽힙니다. 특히 인공신경망 기반 딥러닝을 통해 기계에게 보는 법을 가르치는 ‘컴퓨터 비전(computer vision)’ 연구를 획기적으로 발전시킨 학자로 평가받습니다. 동시에 페이페이 리는 일명 ‘후드티를 입은 남자들(guys with hoodies)’로 불리는 남성 중심의 AI 연구 환경, 그리고 이로 인해 초래된 다양성(diversity) 부족 문제를 해결하는데 가장 적극적인 여성학 자이기도합니다. 가난한 중국 이민자 가정에서 태어나, 남성 연구자들 일색인 인공지능 연구에 뛰어들어 최고의 전문가로 거듭나기까지, 그의 주장은 사회 내 소수자로 직접 겪은 경험들에서 우러나온 것들이라 더 큰 울림을 갖습니다. 이 글에서는 지난 5월 페이페이 리와 '빌 앤드 멜린다 게이츠 재단(Bill & Melinda Gates Foundation)'의 멜린다 게이츠 회장 간좌 담 내용, 그가 이끌고 있는 다양성 강화 캠페인, 그리고 그간의 주요 발언들을 통해 페이페이 리가 꿈꾸는 ‘모두를 위한 AI’를 탐구해보고자 합니다.
페이페이 리 교수는 중국 베이징에서 태어나 16살 때 부모님과 함께 미국으로 건너왔습니다. 가난한 이민자였던 부모님은 고학력에도 불구하고 영어가 능숙치 않아 아버지는 카메라 수리공으로, 어머니는 캐셔로 일해야 했습니다. 어린 시절 페이페이 리는 벌이가 시원찮은 부모님 일을 도우면서도 좋은 성적을 거둬 프린스턴 대학에 입학해 물리학을 전공했습니다. 대학 입학 후에는 주말 동안 부모님이 운영하는 세탁소에서 일을 하고 주중엔 다시 학교로 돌아와 공부를 하는 생활을 이어가야 했습니다.[1] 대학 졸업 후 골드만삭스 등 월가의 입사 제의를 뿌리치고 티베트로 건너가 티베트 전통 의학을 1년간 공부하는 등 잠깐의 외도 기간을 거쳤지만 이후 캘리포니아 공과대학(California Institute of Technology)에 진학해 인공지능과 계산 신경과학 분야에서 석사와 박사 학위를 받았습니다.[2]
[사진 1] 어린 시절 중국에서 부모님과 함께 찍은 사진 (출처: CNNMoney)페이페이 리는 현재 스탠퍼드대 인공지능연구소와 컴퓨터 비전 연구소 소장으로, 컴퓨터 시각인지와 머신 러닝·인공 지능·인지 신경과학 및 빅데이터 연구를 총괄하고 있습니다. 올해 안식년 기간 동안은 구글에 합류해 클라우드 머신 러닝 부문을 총괄하고 있습니다. 그의 인공지능 연구는 기계가 단순히 물체를 '알아보는(recognition)' 수준을 넘어, 이미지 속 상황을 자연어로 설명할 수 있는 인공지능을 만드는 것입니다. 예를 들어, 고양이를 보면 이 물체가 '고양이'라고 인식할 뿐 아니라 '몸을 돌돌 만 채 잠든 고양이 ', ‘주인 무릎 위에서 먹이를 먹는 고양이'라고 설명할 수 있는 인공지능을 만드는 것입니다.
2007년 페이페이 리가 프린스턴 대학의 카이 리(Kai Li) 교수와 함께 시작한 이미지넷(ImageNet) 프로젝트는 갓난아기들이 방대한 양의 외부 이미지들을 보며 시각처리 능력을 발달시키듯이 컴퓨터에게 ‘보는’ 법을 가르쳐 보자는 아이디어에서 시작했습니다. 페이페이 리는 컴퓨터에 보여줄 수억 장의 이미지를 모으기 위해 인터넷과 집단 지성, 크라우드 소싱 기술을 적극 활용했습니다. 5만 명에 가까운 작업자들이 세계 167개국에서 약 10억 장의 이미지를 분류하고, 레이블(label)을 붙이는 작업을 도왔습니다. 지금이야 방대한 양의 빅데이터가 딥러닝 방식으로 인공지능을 학습시키는데 필수적이라는 사실이 상식이 되었지만 당시만 해도 다소 무모한 도전으로 여겨졌습니다. 동료 교수들은 종신 교수가 되려면 논문을 쓸 수 있는 다른 프로젝트를 찾아보라며 그를 말리기도 했습니다. 하지만 결국 2년 뒤인 2009년 무렵 약 2만2,000여개의 범주로 분류한 1,500만 장의 이미지 데이터베이스를 갖추게 되었습니다. 방대한 양의 이미지와 연관된 정보는 이후 딥러닝 기술과 만나 오늘날의 딥러닝 기술을 꽃피우는 데 가장 중요한 자양분이자 기초가 되었습니다. 이미지넷의 방대한 이미지 데이터와 CPU, GPU 발전에 힘입어 딥러닝 기술이 적용된 컴퓨터는 이제 사진 속 고양이를 인식하는 차원을 넘어 고양이가 지금 무엇을 하고 있는지를 말할 수 있습니다.[3] 현재 페이페이 리의 연구팀이 운영하는 이미지넷은 매년 전 세계 인공지능 업체들이 이미지 인식 분야 기술을 겨루는 이미지 인식 경연대회(ImageNet Large Scale Visual Recognition Challenge, ILSVRC)를 열고 있습니다. 페이페이 리가 인공지능 연구의 다양성 부족 문제를 더욱 심각하게 인지할 수 있었던 데는 이처럼 10여년 전부터 딥러닝의 기초가 되는 빅데이터 연구를 일찌감치 경험할 수 있었던 덕분으로 여겨집니다.
[사진 2] 2015년 3월 지식강연 테드(TED)에서 '우리는 어떻게 컴퓨터에게 사진을 인식하도록 가르치는가'를 주제로 강연 중인 페이페이 리 (출처 : TED.COM)인공지능은 인간이 제공해준 빅데이터를 통해 스스로 학습하는 과정을 거치게 되는데, 인간의 편견과 차별이 반영된 빅데이터가 제공되면 결국 인공지능 역시 인간의 편견을 그대로 답습하게 됩니다. 예를 들어, 2016년 3월 마이크로소프트(Microsoft)사는 테이(Tay)라는 AI 챗봇(chatbot) 서비스를 선보였지만 인종편향적(racist)이면서 잔혹한 단어들을 사용해 채팅을 진행하는 바람에 사용자들로부터 강한 비난을 받고 16시간 만에 서비스를 중단해야 했습니다.[4] 테이는 공개된 데이터와 대화 내용을 통해 자율적으로 학습하고 대화 상대방에 반응하는 AI 서비스인데, 사용자들의 편견이나 욕설이 담긴 데이터들을 그대로 학습한 탓에 이런 결과가 초래된 것입니다.
“교육자, 엄마, 여자, 미국 사회 내 유색인종이란 정체성을 갖고 살아가는 입장에서 AI가 바꿔가는 미래 세상에 대한 우려가 큽니다"[5] 페이페이 리가 지난 5월 백채널과 가진 인터뷰에서 한 말입니다. 페이페이 리는 자신이 꿈꾸는 AI의 미래는 ‘모두를 위한 AI’라고 합니다. AI는 우리 삶의 모든 영역에 엄청난 영향을 미칠 기술이므로 소수의 남성 연구자 그룹 위주가 아닌, 더욱 다양한 배경을 가진 사람들이 AI 연구에 참여해야 한다고 주장합니다. 그는 이날 좌담에서 "인공지능처럼 사람들의 생활을 진보시켜나갈 분야에서도 많은 전문가와 리더들이 차별로 인해 배척받고 있다"며 “나는 실리콘밸리를 사랑하지만, 실리콘 밸리에는 ‘기술은 쿨(cool)하고, 괴짜스럽고(geeky), 후드티를 입은 남자들로 대표된다’는 목소리가 지배적”이라고 비판했습니다. 이에 멜린다 게이츠 회장은 "실력 있는 개발자, 기술자들이 성별이나, 피부색으로 인해 차별받는 상황이 지속된다면, 결국 하나의 악습으로 자리 잡을 수밖에 없다"며 “10년, 20년 뒤에 이를 후회해도 아무 소용이 없을 것"이라고 답했습니다.
‘후드티를 입은 남성들(guys with hoodies)’로 비난받는 후드티 문화는 컴퓨터로 장시간 모든 업무를 진행해야 하는 남성 프로그래머(개발자)들이 후드티와 같은 편안한 복장을 즐겨 입는 문화를 뜻하는데, 여기에 이공계의 성비 불균형과 남성 위주의 개발 문화가 겹치면서 ‘남성 위주의 IT 개발 문화’를 비판하는 문구로 사용되고 있습니다. 미국에서도 컴퓨터 연구개발 분야의 여성 참여 비율은 매우 낮은 편입니다. 미국 전미대학여성협회에 따르면, 컴퓨터 분야 전문가들 중 여성의 비율은 1990년 35%에서 2013년 26%로 오히려 상당폭 하락했습니다.[6] 게다가 이 수치는 AI 분야로 옮겨가면 더욱 낮아집니다. 2016년 6월 블룸버그 보도에 따르면 인공지능 분야에서 가장 유명한 신경정보처리시스템 학회 (Neural Information Processing Systems, NIPS)가 2015년 캐나다 몬트리올에서 개최한 학회에 참가한 연구자들 중 여성 참가자 비율은 13.7%에 불과했습니다.[7] 페이페이 리는 AI 기술은 우리 삶과 관련된 모든 문제들에 영향을 주고, 윤리, 편견, 정의, 접근성 등에 영향을 준다고 말합니다.[8] 그렇기 때문에 AI 연구와 인류의 다양성을 대표하는 기술자들이 함께 하지 못한다면, 필연적으로 모든 인류를 대표하는 기술이 될 수 없을 것이라고 우려를 표합니다.[9] 아울러 현실 속 편향이나 편견들이 AI 개발 과정에서 시정되지 않으면 AI 역시 우리가 성별, 인종, 소득 수준에 따라 갖고 있는 편견(bias)을 고스란히 답습할 수밖에 없기 때문에 다양성 부족 문제 해결이 시급하다고 말합니다.
[사진 3] 멜린다 게이츠 회장과 좌담 중인 페이페이 리 교수 (출처: 백채널 홈페이지)'세일러스(Stanford Artificial Intelligence Laboratory’s Outreach Summer, SAILORS)’[10] 프로그램은 페이페이 리가 AI 연구 내 다양성 부족 문제를 해결하기 위해 직접 운영 중 인대 안들 중 하나입니다. 그는 지난해 자신의 제자인 올가 러사코브스키(Olga Russakovsky) 박사와 함께 이 프로그램을 파일럿(pilot) 형태로 시작했습니다. 대상은 진학 결정을 앞두고 있는 미국 내 9학년 여학생들(한국 기준 중학교 3학년)입니다. 프로그램의 목표는 첫째, 여학생들이 AI에 대한 관심을 가지게 하고, 둘째, 사회적 영향력(social impact)을 통해 기술적으로 복잡한 AI를 이해하도록 하고, 셋째, 컴퓨터 과학을 전공하고 싶어 하는 10학년 여학생들이 겪는 어려움 등을 미리 파악하고 그들의 진학 결정을 돕는 것입니다. [11] 파일럿 프로그램의 성공 덕분에 이 프로그램을 체계적으로 확대하기 위한 비영리재단 AI4ALL[12]이 빌앤드멜린다게이츠 재단과 엔비디아(Nvidia)의 창업자 젠센 후앙(Jensen Huang)의 후원으로 올해 설립됐습니다. AI4ALL 프로그램에는 올해 스탠퍼드 대학교뿐만 아니라, 프린스턴 대학교(Princeton University), 버클리 대학교(Berkeley University of California), 카네기멜론 대학교(Carnegie Mellon University)가 참여하고 있습니다. 이 대학들은 AI 연구를 주도하고 있는 대표적인 대학들입니다.
세일러스 프로그램에 참여하는 대학들은 각자 강점을 가진 AI 연구 분야에서, 참가 여학생들이 2주간 마음껏 AI를 탐구하고 실습할 수 있는 프로그램을 제공합니다. 페이페이 리는 참가 여학생들이 편견이 없는, 모두를 위한 AI를 만들어 가고, AI가 바꿔가는 세상을 함께 경험하기를 원한다고 말합니다. 특히 이 프로그램을 통해서는 사회적 영향력을 고려한 AI 프로그램을 제공하고자 노력하고 있습니다. 예를 들어, 자율주행 자동차를 안전과 효율성, 에너지 측면에서만 접근하지 않고 이동이 불편한 노인들과 장애인들의 이동 편의성까지 모두 고려하는 등 ‘사회적 영향력을 고려한 AI 개발’을 여학생들에게 가르치고 있습니다.[13] 이런 경험은 학생들이 나중에 자신의 영역에서 AI를 개발하거나 활용할 때 다양한 가치들을 함께 고려할 수 있는 토대가 될 것입니다. 세일러스 프로그램은 이외에도 2명의 멘토와 함께 병원의 위생 상태 개선, 재난 상황시 구조를 돕는 방법, 게놈(genome)을 이용한 암 진단, 교통 약자를 위한 안전한 운전 등의 과제를 해결하기 위해 상상력과 인공지능 기술을 결합하는 다양한 프로젝트들을 수행하고 있습니다. 페이페이 리와 함께 세일러스 프로그램을 설립한 올가 러사코브스키 박사는 “AI에 다양한 생각과 목소리를 불어넣게 되면 더욱 활력있고, 효율적이고 민주적인 공간을 창조할 수 있을 것”이라며 “AI 연구자 그룹이 다양한 배경을 가진 이들로 구성되면 더 창의적인 해결책을 낼 수 있고, 사회 모든 구성원들에게 도움을 주는 AI를 만들어갈 수 있을 것”이라고 말합니다.[14]
페이페이 리는 “AI 내 여성 연구자들의 참여를 늘리려는 (나의) 노력은 여전히 바다에 잉크 한 방울 떨어뜨린 정도(a drop in an ocean)에 불과하며, AI 문화와 기술 분야는 여전히 남성 연구자 들에 의해 주도되고 있다"고 말합니다. “우리는 여성과 소수자 그룹들에게 (인공지능 분야에) 더욱 적극적으로 참여하라고 권해야 합니다. 저는 실리콘밸리의 리더들이 이 문제에 대해 더 자주 발언해야 한다고 생각합니다. 이들이 AI 연구 조직내 여성 참여 비율이 최소 30% 이상 되어야 한다고 말할 수 있다면 정말 굉장할 것입니다.” (지난 5월 31일 신화통신과의 인터뷰 내용 중).[15]
페이페이 리는 다양성 부족 문제에 대해 끊임없이 목소리를 내왔지만 AI의 미래에 대해서는 긍정적입니다. 그는 백채널과 가진 인터뷰 말미에서 다음과 같이 말합니다. “우리 사회는 소수의 인재들만 천재(genius)라고 부르는 경향이 있습니다. 보통 사람들은 자신이 천재가 아니라고 부정합니다. 이는 근거가 없는 말입니다. 생물학에 뛰어난 사람도 인공지능과 의료 분야에서 빛을 발휘할 수 있습니다. 이처럼 인공지능은 여러 분야에 존재하고, 모든 곳에 존재합니다. 결코 미래를 위협하는 두렵고 무서운 기술이 아닙니다. 인공지능은 이곳에서 우리와 함께 하고 있습니다.”
글 | 정수헌 : noah.jung@kakaocorp.com
숫자의 숨은의미? 머니볼의 힘? 숫자들에서 남들이 찾지 못한 숨겨진 의미를 찾아내는 걸 좋아한다. 어릴적 모바일 게임을 개발하던 코딩 실력으로 딥러닝을 쫓아가려고 허덕거리며 달리고 있다. 하지만, 오래 달리는건 자신있다. 마라톤을 달리며 나와의 싸움을 이기는데 익숙해 있기 때문이다. 비록 늦게 출발했지만 언젠가는 트랙에서 함께 뛰고 있기를 기대하며, 지금도 비록 느리지만 달리고 있다.
[1] 참고 | CNN 기사, One immigrant's path from cleaning houses to Stanford professor, 2016.7.22, http:// money.cnn.com/2016/07/21/news/economy/chinese-immigrant-stanford-professor/index.html
[2] 참고 | Fei Fei Li 교수 소개, http://vision.stanford.edu/feifeili/wp-content/uploads/2014/09/LiFei-Fei_CV.pdf
[3] 참고 | 페이페이 리 TED 강연, 2015년 3월, https://www.ted.com/talks/fei_fei_li_how_we_re_teaching_ computers_to_understand_pictures
[4] 참고 | 마이크로소프트사의 테이(Tay)서비스 관련 기사, http:// www.bbc.com/news/technology-35890188
[5] 참고 | 멜린다 게이츠 회장과 페이페이 리 교수의 인터뷰, https://backchannel.com/melinda-gates-and-fei-fei-li-want-to-liberate-ai-from-guys-with-hoodies- 17f058889a4c
[6] 참고 | 포춘지 기사, ‘Report: Disturbing drop in women in computing field’ 2015.5.25, ‘http://fortune.com/2015/03/26/report-the-number-of-women-entering-computing-took-a-nosedive/
[7] 참고 | 블룸버그 기사, ‘Artificial Intelligence Has a ‘Sea of Dudes’ Problem’, 2016.6.23., https://www. bloomberg.com/news/articles/2016-06-23/artificial-intelligence-has-a-sea-of-dudes-problem
[8] 원문 | AI is a technology that gets so close to everything we care about. It’s going to carry the values that matter to our lives, be it the ethics, the bias, the justice, or the access.
[9] 원문 | AI is a technology that gets so close to everything we care about. It’s going to carry the values that matter to our lives, be it the ethics, the bias, the justice, or the access.
[10] 참고 | 스탠포드대학교의 세일러스 프로그램, http:// sailors.stanford.edu/
[11] 논문 | 세일러스 프로그램과 운영성과에 대한 내용, http://www-cs.stanford.edu/ people/sorathan/papers/SAILORS-SIGCSE2016.pdf
[12] 참고 | AI4ALL 재단, http://ai-4-all.org/
[13] 참고 | MIT Sloan Review, http://sloanreview.mit.edu/article/four-management-lessons-from-self-driving- cars/?utm_source=facebook&utm_medium=social&utm_campaign=sm-direct
[14] Kathy Davis, ‘Girl Power in the World of AI’ 2017.6.2., https://kathydavis.com/girl-power-in-the-world-of-ai/
[15] 참고| 신화통신 인터뷰 기사, Interview: "The ultimate power is love, not AI": top artificial intelligence expert, 2017.5.31, http://news.xinhuanet.com/english/2017-05/31/c_136329243.htm
[ 카카오 AI 리포트 Vol. 4 목차 ]
[1] Review - AI와 여성: Women in AI
01. 정수헌 : 페이페이 리의 꿈과 도전, ‘모두를 위한 AI’ (이번글)
02. 김대원 : 여성 AI 개발자들이 말하는 ‘AI와 나’
[2] Industry - AI 알고리듬의 비밀
03. 전상혁, 김광섭 : 내 손안의 AI 비서, 콘텐츠 추천 알고리듬
04. 최성준, 이경재 : 알파고를 탄생시킨 강화학습의 비밀
[3] Information
