AI는 '목표'를 위해 수단과 방법을 가리지 않는다

어떤 서비스에 문제가 생겨 논란이 벌어졌는데, 서비스 제공 업체들이 직원들이 그런 게 아니라 AI가 그런 거라는 명분으로 빠져나가려고 하는 장면이 요즘 종종 눈에 띈다. AI를 만든 회사들이 AI를 면피용으로 쓰려 하는 것이 좀 어이가 없지만 AI와 알고리즘이 갖는 속성을 고려하면 앞으로 AI로 인한 크고 작은 문제들은 계속 벌어질 것 같다.

AI 알고리즘은 목표를 위해서라면 수단과 방법은 가리지 않는 특징이 있기 때문이다. 더글러스 러시코프가 쓴 책 대전환이온다도 이와 관련한 흥미로운 내용을 담고 있다.

  우리는 인공지능에게 처음에 한가지 목표를 설정하면서 필요한 데이터를 모두 주고 그 목표를 달성할 방법은 스스로 알아내게 한다. 그때부터 인간은 인공지능이 정보를 어떻게 처리하고 전략을 어떻게 수정하는지 그 과정을 일일이 다 이해하지는 못했다. 인공지능은 우리에게 사건의 전말을 들려줄만한 의식을 가지고 있지 않기 때문이다. 인공지능은 그냥 모든 방법을 다 시도해 보고 그 중에서 효과가 있는 것을 계속 사용한다.

결국 목표가 중요하다는 얘기다. 그런데 AI를 비즈니스에 활용하려는 민간 기업들이 추구하는 목표들이 AI 사용에 따르는 부작용을 줄일 수 있을지는 미지수다.

  그렇기 때문에 우리가 알고리즘에 내리는 최초의 명령이 아주 중요하다. 효율, 성장, 보안, 순응 등 어떤 가치를 심어주든, 인공지능은 효과가 있는 수단이라면 뭐든지 동원해 그 가치를 달성할 것이다. 인공지능이 사용하는 기법은 아무도, 심지어 인공지능 자신도 이해하지 못할 것이다. 그리고 인공지능은 더 나은 결과를 내놓기 위해 자신의 기법을 연마하고 그 결과를 이용해 한 단계 더 나아갈 것이다.

  우리는 이미 인공지능 시스템을 채용해서 사람들의 업무 성과와 대출 자격을 평가하고 범죄 이력을 조회한다. 그리고 인공지능은 자신의 피드가 된 인간의 의사 결정과 똑같이  인종을 차별하고 편견에 찬 의사 결정을 내린다. 그러나 인공지능이 사용하는 기준과 절차는 상업적으로 너무 민감한 사안이라 밝힐 수 없는 것으로 여겨진다.

목표를 위해 수단과 방법을 가리지 않다 보면 다음과 같은 상황도 벌어진다.

  연구자들이 발견한 바에 따르면 소셜 미디어 플랫폼을 운영하는 알고리즘은 사람들에게 헤어진 애인이 즐겁게 노는 사진을 보여주는 경향이 있다고 한다. 물론 이용자들은 그런 이미지를 보고 싶어 하지 않는다. 그러나 여러 시행착오를 거쳐 알고리즘은 헤어진 애인이 즐거워 하는 사진을 보여주면 우리의 참여가 늘어난다는 사실을 발견했다. 우리는 그런 사진을 클릭해서 헤어진 애인이 요즘은 뭘하는지 보려는 경향이 있다. 헤어진 애인이 새로운 사람을 만다는 것에 질투심을 느낄 경우 사진을 클릭할 가능성은 더욱 높아진다. 알고리즘은 이게 왜 효과가 있는지도 모르고 관심도 없다. 그저 인간이 알고리즘에게 쫓으라고 한 지표를 극대화시키려고 할 뿐이다.