"법을 좋아하는 아이도 프로그래밍을 공부해야 할까요?"

'네'라고 답할 수 없었던 이유

나는 로스앤젤레스에서 살고 있는 인공지능, 기계학습 분야의 연구원이다. 최근, 대학교 전공 설명회에 패널로 참여할 기회가 있었고, 그곳에서 몇 가지 질문을 받았다. 그중에서 종종 머릿속에 맴도는 질문이 하나 있다.

"제 아이는 법에 관심이 많은데, 프로그래밍도 공부해야 할까요? 요즘 인공지능, 프로그래밍이 워낙 중요하다고 해서요." 나는 이렇게 대답했다. "아이가 성인이 되는 시점에 무엇이 중요할지 잘 모르겠습니다. 정말 프로그래밍에 관심이 있다면 모르겠지만, 저는 본인에게 흥미 있는 것을 먼저 잘 하는 게 중요하다고 생각해요. 열린 마음으로 다른 분야에도 관심을 갖고 변화에 적응하려는 태도도 중요합니다." 설명회가 끝난 뒤에도 이 질문을 곱씹어 보곤 하는데, 결국 내 결론은 '그렇다'보다는 '아니다'에 가깝다.

요즘은 어린이들을 위한 프로그래밍 교육이 열풍이라고. 해보면 재미있고 신기하다. 본인이 흥미가 있다면 추천한다.

요즘 프로그래밍, 인공지능이 뜨거운 이슈다. 인공지능은 너무나도 빠르게, 인지하지 못하는 부분까지 이미 생활 곳곳에 스며들어 있다. 예를 들면, 소셜 미디어, 검색, 쇼핑 등 온라인 서비스를 사용할 때, 눈에 보이는 (그리고 보이지 않는) 구석구석에 거의 다 적용되어 있다고 보면 된다. 하지만, 아직 적용되지 못한 분야가 너무나도 많이 남아있다. 미국에서 고급 프로그래머와 인공지능 전문가들의 몸값은 일반 '사'자 직종의 수입을 훌쩍 뛰어넘기도 한다. 본인이 흥미가 있다면 프로그래밍, 간단한 알고리듬 공부, 그리고 재미있는 프로젝트를 경험해보는 것을 추천한다. 하지만, 쉽게 전문성을 얻을 수 있는 분야는 아니며, 다른 사람들보다 더 뛰어난 고급인력이 되는 것은 더욱 어렵다. 무엇보다도, 점점 더 빨리 변하는 분야이므로 평생 공부를 넘어 점점 많은 공부를 해야 겨우 따라갈 수 있다.

나는 조금 다른 이유로 누구나 배워야 한다는 말에 찬성하지 않는다. 무엇보다, 누구나 배워야 한다는 말은 인공지능이 열어주는 새로운 기회를 차지하는 면에 편중되어 있고, 그 이면의 많은 것을 간과하고 있다. 인공지능은 새로운 기회이면서 동시에 너무나도 빠르고 독특한 변화 그 자체다. 빠른 변화에는 많은 갈등이 따르고, 그 안에서 이익을 얻는 자와 손해 보는 자로 갈리기 마련이다. 사회적 갈등을 인지하고 예측하고 조정하는 일, 사회적 합의를 이끌어내는 일, 법체계와 행정시스템을 수정하고 만드는 일도 혁신의 속도만큼이나 중요하다. 변화의 속도와 파급력이 큰 만큼, 다양한 분야의 전문가가 더 많은 관심을 기울여야 한다. 그런데, 이런 일을 수행할 때, 예를 들면 python이나 tensorflow의 기초지식이 어떤 도움이 될까? 나는 회의적이다.

인공지능의 자동 예측/판단 기술은 어디까지 허용해야 할까? 최근 범람하는 온갖 예측 모델에는, 흥미롭기는 하지만, 도덕적으로 허용되어야 할지, 부작용이 더 클지 의문스러운 것도 있다. 예를 들면, 프로필 사진만으로 그 사람의 성격, 직업, 테러의 위험까지 예측하는 인공지능 회사가 있는데, 그들의 기술이 실제로 테러를 얼마나 줄여줄 수 있을까? 또한, 그 인공지능이 잘못된 판단을 할 때, 그 피해는 누가 책임질까? 그 서비스를 개발한 자? 그 서비스를 활용한 자? 게다가, 이 기술의 정확도가 높다고 가정하더라도 개인의 외모만으로 범죄 가능성을 판단하여 조치를 미리 취하는 행위가 과연 정당한가? 심지어, 범죄가 일어날 지역을 미리 예측하는 기술도 공개된 적이 있다. 마찬가지로, 이 기술은 과연 범죄율을 줄이는데 도움이 될까, 아니면 그 지역에서 벌어지는 차별/학대를 부추기는데 그치고 말까? 부작용만 낳고 말았다면, 그 피해는 누가 어떻게 보상해줄 것인가? 인공지능의 예측/판단 기술이 적용되지 않아야 되는 영역이 분명히 있다고 생각하며, 그 판단은 프로그래머나 인공지능 전문가에게 맡길 수는 없다.

우리 사회는 인공지능의 오류나 부작용으로 파생된 손해의 법적 책임을 누구에게 어떻게 물어야 할지 분명한 기준을 정하지 못하고 있다. 또한, 법률 제도가 또 다른 피해를 예방하는 기능을 제대로 수행하지 못하고 있다. 특히, 정보의 소비자가 정보의 생성과 전달에도 부분적으로 참여하는 경우, 책임의 대상이 모호하다. 어떤 대기업은 공적 책임(public accountability)을 지겠다고 발표했지만, 어떻게 얼마나 보완이 될지는 아직 의문이다. 한편, 데이터의 질과 성격에 따라 인공지능 시스템의 성능과 성격이 달라지는데 데이터의 질을 평가하는 작업은 너무나도 많은 시간과 노력이 필요하고, (그래서) 간과되거나 무시되곤 한다. 또한, 데이터를 수집하고, 가공하고, 인공지능 모델의 한계를 인간이 개입해서 보완하는 과정에서 예측하지 못하는 변수가 끼어들 수 있다. 그 결과 인공지능 시스템은 사람들의 기대만큼 '객관성'이거나 '중립적'이지 않을 수 있다. 우리는 이런 측면들을 이해하려는 노력을 얼마나 기울이고 있는가? 기업들은 사용된 학습 알고리듬, 구체적인 모델링 방법, 변숫값 등을 공개하지 않으므로, 어디에서 어떻게 문제가 시작되었는지 파악하기 어렵다. 아니, 오히려 데이터와 방법론 공개는 더 위험할 수도 있다. 그리고, 공개한다고 해도 우리가 어떤 개선방법을 요구할 수 있을까?

나는 '인공지능의 민주화'(democratizing AI)라는 말에 공감하지 않는 편이다. 이 말을 하는 기업의 행위는 인공지능의 빠른 확산을 활용한 '인프라 사업의 확장과 권력의 집중화'에 더 가까워 보인다. 그리고 인공지능이 확산될수록, 많은 사람들이 주체적으로 그 기술을 활용하는 생산자가 되기 보다는, 종속적으로 기능하는 노동자가 되곤 한다. 자동차 공유경제 기업들, 예를 들면 우버나 리프트가 대중교통의 '민주화'를 이루었다고 말할 수 있을까? 본인의 의지로 운전자가 되기는 했겠지만, 인공지능이 결정하는 가끔은 터무니없이 낮은 요금과 제한된 운행 결정권에 종속되어 있으며, 인공지능은 그들에게 더 많은 노동시간(운행시간)을 유도하고 있다. 운전자들은 (회사에서 의료보험을 제공하지 않아도 되는) 개인사업자이지만 본인이 결정할 수 있는 영역은 지극히 적고, 나머지는 인공지능이 결정한다. 그리고, 공유경제 서비스로 눈부시게 치솟은 기업가치는 극히 소수의 플랫폼 생산자들만의 지갑으로 돌아간다. 인공지능으로 점점 더 가속화될 부의 편중은 어떻게 해결해야 할까?

나는 인공지능 분야에서 나름대로 희망을 품고 일하고 있고, 새로운 변화의 긍정적 영향을 믿고 있다. 하지만 오늘날 드러나는 문제와 앞으로 다가올 변화에 대한 고민도 지울 수 없다. 그래서, 법률가가 꿈인 아이도 코딩을 공부해야 하냐고 물어보았을 때, '그렇다'라고 답하지 못했다. 법에 흥미가 있다면, 먼저 훌륭한 법률 전문가가 되도록 그 분야를 열심히 공부하고 열린 마음으로 인공지능 전문가를 포함한 다양한 분야의 사람들과 교류하며, 정말 빠르게 변하는 세상에서 어떤 역할을 할지 고민해 주기를 바라는 마음이 있다. 기술의 효용과 이익이 보다 많은 사람에게 돌아갈 수 있도록, 보다 많은 사람들이 행복하게 살 수 있도록 하는 일에는 프로그래며와 인공지능 전문가 이외에도 정말 다양한 전문성이 필요하다.

한편, 인공지능 기술로 유명한 기업의 창업자들은 오히려 인공지능 전문가들이 아닌 경우도 많다. 오히려, 다른 분야를 깊이 이해하고 그 분야의 문제를 파악하고 해결할 수 있는 문제를 풀어나가는 계획을 수립하고 실행해나가는 능력은 그 분야의 전문가들에게 더 유리하다. 필요할 때 프로그래머나 인공지능 전문가와 함께 새로운 서비스를 개발할 수도 있을 것이다. 그러기 위해서는, 오히려 프로그래머와 인공지능 전문가의 학습도 중요하다. 그들은, 기술의 가능성과 한계를 명확하게 인지하고, 투명하고 공개하며, 다른 분야의 사람들과 쉽고도 정확한 소통을 할 수 있어야 한다. 기술과 지식의 습득과 함께, 이런 교육의 중요성도 강조되기를 바란다.