법과 인공지능에 관한 단상들
2018년 인공지능 학회 딥러닝 여름 단기강좌 참석 후기
지난 사흘간 인공지능학 회의 딥러닝 여름 단기강좌를 들었습니다. 사흘 동안 딥 러닝의 이론적 기초에서부터 최근 실무 동향에 이르기까지 많은 내용을 배울 수 있었습니다. 몇 가지 인상적인 생각들을 기록으로 남깁니다.
1. Universal Approximation Theorem과 법
인공신경망 AI의 가장 근본적인 수학적 기초는 universal approximation theorem입니다. 세상에 존재하는 무슨 함수이든지 간에 적절히 인공신경망으로 근사해 낼 수 있다는 수학적인 증명입니다. 1989년에 제시되어 그 이후에 발전된 이 이론은 인공지능 신경망의 무궁한 성장 가능성을 보여준 것이라고 하겠습니다. 뉴럴 네트워크는 단순히 뛰어난 성능을 보이는 인공지능 알고리즘 중 하나라는 정도로 생각하고 있었는데, 이 알고리즘이 갖는 잠재력이 매우 크다는 사실에 놀랐습니다. (그래서 90년대 초반에 잠시 인공지능의 붐이 일었었나 봅니다)
이 이론이 법에 관하여 시사하는 바는 의미심장합니다. 법은 할 수 있는 것과 해서 안 되는 것을 구분 짓는 decision boundary function이라고도 볼 수 있습니다. 예컨대 민법은 여러 파라미터를 통해서 소유권의 범위와 계약의 자유의 한계를 정합니다. 다른 예로 행정법은 다양한 분야에 있어 행위 제한을 가합니다. 법률행위에 영향을 미치는 수십, 수백 가지 정보를 계량화 할 수 있다면, 법을 이러한 변수의 함수라고 정의할 수 있을 것입니다. 그런데 Universal approximation theorem은 모든 함수가 인공지능 신경망의 형태로 표현될 수 있다고 합니다. 그러니 결국 법도 인공지능 신경망의 형태로 표현될 수 있을 것입니다.
2. 인공지능의 추론 능력
20년 전 대학 다닐 때 <철학과 굴뚝 청소부>라는 책이 베스트셀러였습니다. 그 책이 흄의 인지론을 소개하는 부분이 있었던 기억이 납니다. 인간의 사고는 "경험의 다발"을 종합한 것이는 것이 흄의 견해인데, 인공지능 신경망은 이러한 흄의 관점과 놀랍게도 일치합니다. 흄의 이론에 비추어 본다면, 결국 인공지능 신경망이 수행하는 학습 과정은, 인간의 과학적 사고와 본질적으로 다를 것이 없게 됩니다. 그래서 반대로 생각해 보면 인간의 과학적 추론 과정에 있어서 인공지능 신경망으로부터 도움을 얻을 수도 있게 됩니다.
이번 강의를 통해서 인공지능에 의한 학습 결과가 반대로 인간의 과학 연구에 도움을 주는 몇 가지 사례를 엿볼 수 있었습니다. 한 교수님은 AI 인간의 유전자들의 여러 상호 작용을 학습하고 시각화하여 표현한 결과, 이제가지 의학자들이 알지 못했던 상호 작용의 가능성을 발견한 사례를 소개하기도 했고, 다른 교수님은 설명 가능한 인공지능 기술이 의사의 진료 과정을 재현해 낸다고 이야기하기도 했습니다. 이미 제약회사들은 신약 개발을 위해서 인공지능을 쓰고 있기도 하고, 인공지능에 의한 발명이 특허를 받을 수 있는지에 대해서 진지한 논의가 이루어지고 있는 마당에, 놀라운 논의는 아닙니다만, 거듭 생각할 때마다 흥미로운 주제입니다.
물론 이에 대해서, 인공지능은 단순한 패턴 인식기에 불과하고, 그 이외의 작업(특히 추론 과정)에 대해서는 여전히 현저히 기대에 못 미치는 성과를 보이고 있다는 지적도 있습니다. 현실이 그렇다는 점에 대해서는 십분 동의합니다. 하지만, 기계가 세상을 분석한 다음 이제까지 인간이 알지 못했던 숨은 원리를 새롭게 발견해 낼 수 있을 것이라는 기대는, 그냥 접어버리기에는 너무도 낭만적입니다.
3. 설명 가능한 인공지능(explanable AI, xAI)
인공지능과 법과 관련해서 가장 인상적인 내용은 UNIST 최재식 교수의 설명 가능한 인공지능에 관한 설명이었습니다. 설명 가능한 인공지능 센터 소장을 맡고 있는 최 교수는 현재까지 구현된 설명 가능한 인공지능 기술의 사례를 쥬피터 노트북을 통해 시연해 주었습니다. 즉, 휴대폰에 장착된 센서들을 이용해서 그 사람이 서있는지, 걷고 있는지, 누워 있는지, 앉아 있는지를 판단하는 인공지능을 보여 준 다음, 그 인공 지능이 어느 센서로부터 발생된 어떠한 형태의 신호를 근거로 해서 그러한 판단을 내렸는지를 시각화해서 보여주는 것입니다. 또한 NVIDIA의 Self-driving AI가 어떠한 시각 정보를 근거로 해서 steering wheel을 돌리는지 보여주는 장면도 매우 인상적이었습니다. 제가 알고 있던 것보다 이미 해당 기술이 많이 발전하고 있다는 사실에 놀랐습니다.
xAI에 대해서는 여전히 논쟁이 이루어지고 있습니다. 논쟁의 한편에는, 인공지능이 우리 사회에 존재하는 사회적 차별과 불평등을 강화할 것이라는 주장이 있습니다. <대량살상 수학 무기>라는 책은 이러한 관점을 설득력 있게 제시하고 있습니다. EU의 GDPR이 right to explanation을 보장하고 있다는 식의 해석이 등장한 것도, 이 문제를 해결하기 위한 것입니다. 논쟁의 다른 한 편에는 xAI가 기술 발전을 가로막은 또 다른 규제 장벽이라는 관점이 있습니다. xAI를 적용하면 딥 러닝은 성능도 떨어지고, 느려집니다. 현재 단계에서 우리에게 필요한 것은 인공지능의 성능을 계속해서 갈고닦아, 더욱 쓸모 있는 인공지능을 만들어 내는 것이라는 주장도 일리는 있습니다.
xAI가 중요한 분야가 있고, 그렇지 않은 분야가 있을 것입니다. 저는 적어도 개인의 삶에 중대한 영향을 미치는 분야에 있어서, 우리가 AI를 우리 삶의 일부로 받아들이기 위해서는 xAI가 필수적이라고 봅니다. 인간은 스스로가 이해하지 못하는 어떤 "사물"이 자신의 삶에 중대한 영향을 끼칠 수 있는 의사 결정을 내리는 것을 결코 허용하지 않을 것입니다. 따라서 xAI는 불필요한 규제가 아니라, 인공지능 기술이 반드시 달성해야 할 목표이자 과제라고 보아야 할 것입니다.
