알고리즘에 목줄을 채워야 하는 이유
카타리나 츠바이크, 『무자비한 알고리즘』, 니케북스, 2021.
“사람들은(의사결정자들은) 어떤 훈련법으로 어떻게 강아지를 훈련시키는지는 알 필요가 없다. 그러나 강아지를 경찰견으로 훈련시킬지, 감시견으로 훈련시킬지는 알아야 한다.”
저자는 인공지능을 통한 의사결정에 환상을 가진 사람들에게, 알고리즘에 기반한 의사결정 시스템의 취약점과 의사결정자에 의한 기술적 감독의 중요성을 알려주려고 이 책을 썼다.
책의 전반부에서는, 자연과학적인 인식 방법들을 제시하고, 인공지능 시스템을 만들기 위한 도구를 소개한다. 학문적 방법에 따르면 검증되지 않은 순수한 가설은 팩트로 여겨지지 않는다. 여러 번의 실험으로 인과관계가 증명되어야 한다. 그런데 머신러닝은 관찰된 행동에 대한 데이터를 근거로 상관관계가 충분하면 새로운 데이터에 관해서도 결정을 내릴 수 있다고 약속한다. 저자는 이러한 문제 인식을 기초로 의사결정에 도움이 될 4가지 도구를 소개한다.
중반부에서는, 알고리즘, 빅데이터, 컴퓨터 지능을 설명하고 각 요소가 서로 어떻게 연관되는지 살펴본다. 이를 위해 알고리즘의 유래와, 알고리즘과 휴리스틱의 차이를 언급하고, 알고리즘의 부적절한 행동 사례에 대해 제시한다. 이어서 빅데이터를 활용할 때 정말 중대한 실수는 바로 결과를 해석하는 데서 벌어진다는 점, 기계학습 과정에서는 많은 것이 수작업으로 결정을 내려야 한다는 점을 강조하며 의사결정권자들이 적극적으로 개입해야 함을 말한다.
후반부에서는, 알고리즘에 기반한 의사결정 시스템이 어느 부분에서 윤리를 고려해야 할지 논의한다. 저자는 머신러닝이 투입될 전망이거나 이미 투입되고 있는 여러 영역에서 기계를 통한 예측을 신뢰하게 하는 기본적인 조건이 결여되어 있음을 강조하며, 알고리즘 기반 의사결정 시스템은 정확한 기술적 감독이 필요하다고 힘주어 말한다. 특히 시스템을 투입함으로써 인해 전 사회가 입을 수 있는 손실이 너무 클 때는 활용을 금지해야 한다고 주장한다.
나는 ‘카타리나 츠바이크’가 쓴 <무자비한 알고리즘>이 인공지능이 모든 결정을 올바르게 해 줄 것이라고 믿는 사람들에게, 인공지능 의사결정 시스템은 완벽하지 않으며 의사결정권자의 적극적인 기술적 감독이 필요함을 알려주는 좋은 책이라 생각한다.
왜냐하면,
첫째, 알고리즘과 휴리스틱의 차이점을 분명하게 보여주며, 우리가 지향해야 할 올바른 방향을 제시하기 때문이다. 알고리즘은 해답을 어떻게 찾을 것인지 계획을 가지고 있고, 그것이 해답임을 보장한다. 그러나 휴리스틱은 해답을 찾아내고자 하는 접근법이다. 시행착오를 겪으며 답을 찾아 나가는 머신러닝 휴리스틱은 베이즈 추론과 닮은 듯하다. 알고리즘과는 달리 휴리스틱은 인풋과 아웃풋이 불명확하다. 오늘날 딥러닝의 의사결정 과정 또한 인간이 알 수 없다. 따라서 인간이 개입할 수 있는 지점을 만들어야 한다는 저자의 주장은 타당하게 느껴진다.
둘째, 의사결정권자의 역할을 강조하기 때문이다. 저자는 잘못된 사람들(데이터 과학자들)이 인공지능이 정확히 무엇을 해야 할지를 결정하고, 원래의 의사결정자들은 우물쭈물하며 뭘 해야 할지 모르는 경우가 많다고 지적한다. 이 지점에서 많은 생각이 들었다. 나 스스로 인공지능이 모든 것을 결정해 주리라는 환상에 젖어있었던 것은 아닌지 반성한다.
셋째, 기술적 감독을 판단하기 위해 저자가 제시한 ‘리스크 매트릭스’가 무척 실용성 있다고 생각되기 때문이다. 가로축은 ‘손해잠재력’, 세로축은 ‘이의제기 및 변경 가능성’으로 구성된다. 여기에 투명성과 이해 가능성 요구를 반영하여 5개의 등급으로 구분한 ‘리스크 매트릭스’는, 특정 시스템이 어느 등급에 위치하고, 등급에 따라 의사결정자가 무엇을 해야 하는지 분명히 인식시켜 준다.
한 가지 아쉬운 점은, 전문적인 내용이 자주 언급되고, 특정 시스템을 분석한 내용이 길게 서술되어 있어 다소 지루하게 느껴진다는 점이다.
