"인공지능에도 사회과학의 엔진이 필요하다"

[AI Weekly Talk-11] 171117

이번 주 AI 동향에서 주목할 만한 부분은 AI(artificial intelligence)의 적용에 대한 사회적 논의였습니다. 논란이 된 부분은 입국 심사장 시스템으로의 AI 체계 적용이었습니다. 이민자 및 방문자들의 적합성을 판단하는 용도로 기계학습 기반의 자동화 소프트웨어를 사용하기로 한 미국 국토 안보국(the Department of Homeland Security)의 결정에, 미국의 AI 기업 등이 반대 의견을 냈습니다. 반대 의견의 주체는 구글(Google), 마이크로소프트(Microsoft), 뉴욕대(NYU), 스탠포드대(Stanford University), 스포티파이(Spotify), AI나우(AI Now)였습니다. 

논란이 되고 있는 이 자동화 프로그램은 아직 시행되고 있지는 않지만, 소셜미디어의 포스트 내용을 비롯한 디지털 정보들을 검열하고 포스팅의 주인공이 사회의 일원으로서 긍정적으로 기여하는 사람인지, 미국에 위협을 주는 사람은 아닌지를 판단하는데 사용될 수 있습니다. 극단적 입국심사(extreme vetting)라고 불리는 이 프로그램은 지난 6월 도널드 트럼프 대통령의 행정 명령(executive order)에 의해 촉진되었습니다. 그러나 전문가 54명은 위와 같은 기준(metric)은 오늘날 또는 미래의 개발될 머신러닝 또는 자동화 기술을 활용하여 판단될 수 없다고 말했습니다. 위와 같은 기준이란 잠재적 범죄자를 도출하기 위한 입국심사의 기준으로서 특정인이 개시한 소셜미디어 포스트를 뜻합니다. URL: https://techcrunch.com/2017/11/14/in-major-policy-change-youtube-is-now-taking-down-more-videos-of-known-extremists/

인공지능의 적용 범위가 확장되는 것은 일차적으로 인공지능 능력 향상 때문일 겁니다. 의료에서는 또 한 번 AI의 능력이 향상됐다는 보도가 나왔습니다. 구체적으로는 AI가 단 두 달만에 방사선 전문의보다 폐암 진단을 더 잘하게 됐다는 연구 결과입니다. 스탠포드 대학교 연구팀이 새로운 데이터 셋을 이용하여 인공지능 알고리즘이 인간과 같은 정확도를 갖도록 얼마나 빨리 훈련시킬 수 있는지에 관한 논문을 11월 14일 발표하였습니다. 이 논문은 미국립보건원(National Institutes of Health, NIH)이 공개한 1 만장의 엑스레이 사진을 데이터셋으로 이용한 것입니다. 인공지능을 이 데이터셋으로 훈련시킨 결과, 단 두달 만에 인공지능이 4명의 방사선 전문의들의 폐암 진단률과 동일한 수준을 보였습니다. 이 뿐만 아니라 엑스레이 사진을 분석해 섬유증, 탈장 등 14개 질병들도 진단할 수 있도록 훈련시켰습니다. 이번 연구는 훈련 속도를 향상시켰을 뿐 아니라 미국립보건원이 실시한 비슷한 연구에 비해 오류율도 감소시켰습니다. 세계적인 딥러닝 대가인 앤드루 응(Andrew Ng) 교수도 이번 논문의 공동 저자로 참여했습니다. 앤드류 응 교수는 10년 안에 의료분야에서 인공지능이 더 많이 사용될 것이며, 지금과는 다른 양상일 것이라며 기대를 나타냈습니다. URL: https://qz.com/1130687/stanford-trained-ai-to-diagnose-pneumonia-better-than-a-radiologist-in-just-two-months/

데이터 과학자들이 기계 학습 모델을 관리 및 배포하고, 회사 동료들과 모델을 공유할 수 있도록 도와주는 새로운 서비스를 출시되기도 했습니다. 알고리드미아가 지난 16일 발표한 새로운 서비스는 얼굴 인식(face recognition), 감성 분석(sentiment analysis) 등 기계학습에 중점을 둔 알고리듬을 판매하는 온라인 오픈마켓입니다. 이러한 서비스의 런칭은 기업들이 모델 자체를 운영하기 위해 개발한 구조 또는 서비스가 일종의 상품으로 전환된다는 것을 의미합니다. 사용자는 깃 허브(git hub)를 사용해 모델을 추가할 수도 있고, 조직 내 다른 사람들과 모델을 공유하거나 모델에 대한 권한을 부여할 수도 있습니다. 또한 이 서비스는 모델을 호스팅하고 배포하는데 필요한 모든 개발 작업을 처리한다고 합니다. URL: https://techcrunch.com/2017/11/16/algorithmia-now-helps-businesses-manage-and-deploy-their-machine-learning-models/

서비스 혹은 산업 내 적용 뿐만 아니라, AI 연구 분야의 확장도 예상되고 있습니다. 현재 많은 기업들이 인공지능의 발전을 위해 투자하고 있지만 인공지능이 사회에 미치는 영향이나 그 딜레마 등에 대한 연구는 부족한 실정입니다. 인공지능이 보다 멀리, 그리고 안정적으로 나아가기 위해서는 공학 외 사회과학의 지속적인 연구가 필요한 것이 사실입니다.  이 논의는 인공지능 연구기관인 AI 나우 연구소(AI Now Institute)는 사회에 인공지능을 도입하기 위해서는 인공지능의 사회적, 경제적 윤리적 프레임에 대한 연구 및 평가가 선행되어야 한다고 지적했습니다.AI 나우 연구소는 지난 달, 이에 대한 개괄적인 보고서를 발간하고, 다음과 같은 네 가지 주제에 대해 집중적으로 연구할 것이라고 밝혔습니다. 

인공지능의 편견과 포용 

노동과 자동화 

권리와 자유 

안전과 공공성

AI나우 연구소의 창립자인 케이트 크로포드(Kate Crawford) 와 메레디스 위태커(Meredith Whittaker) 는 구글과 마이크로소프트와 함께 이러한 분야를 몇 년간 연구해왔지만 진척에 큰 걸림돌이 있었습니다. 바로 인공지능을 만드는 사람과 인공지능이 미칠 영향에 대해 연구하는 사람들 사이에 소통이 부족하다는 것이었습니다. 그래서 AI나우 연구소에서는 데이터 과학자, 변호사, 사회학자, 경제학자 등이 모여 서로의 간극을 메울 계획입니다. URL: https://qz.com/1129307/the-field-of-ai-research-is-about-to-get-way-bigger-than-code/

썸네일 출처: shuttlestock.com