알고리즘과 감시사회
이 결정은 도대체 누가 내리는 걸까?
지난 3월 AI 안면인식 기술 업체인 클리어뷰(Cleaview AI)는 우크라이나 정부에 얼굴인식 기술을 무료로 제공한다고 밝혔다. 우크라이나 내 러시아 스파이를 색출하고 사망자 등의 신원을 확인하는 데 사용될 것이라고 한다. 분명 도움이 될 만한 기술이지만 뭔가 다른 의도가 숨어 있어 보였다. 사실 클리어뷰는 얼마 전 소셜미디어 상에서 사람들의 얼굴을 무분별하게 긁어다 알고리즘을 훈련시켰다는 것이 드러나면서 엄청난 후폭풍에 시달리고 있는 터였다. 우크라이나 정부가 이를 활용하게 되면 얼굴인식 기술의 긍정적인 면을 부각할 수 있다는 것이 숨은 의도였을 것이다.
Clearview AI | The World’s Largest Facial Network얼굴인식 기술은 분명한 장점이 있다. 신원을 정확하게 확인해 보다 안전하고 편리한 사회, 경제적 생활을 가져다준다. 그러나 단점 역시 너무 명백하다. 나도 모르는 사이에 누군가에 감시당하고 통제당하게 된다. 특히 빅데이터를 기반으로 한 학습 알고리즘은 개인을 알고리즘의 편향에 가둬 버릴 수 있다. 알고리즘이 분류하는 대로 자신도 모르게 행동하고 생활하게 되는 것이다. 대표적인 것이 네비게이션이다. 우리는 아는 길도 네비게이션이 시키는 대로 움직인다. 이렇게 모든 내 생활이 기록되고 관리되어진다면 영화 ‘마이너리 리포트’처럼 범죄 가능성만으로도 처벌받을 수 있다. 실제로 중국에서는 채팅을 통해 IS에 가입해볼까라는 대화 내용만으로도 사람을 구속시켰다. 세계 안면 기술 1위 기업인 중국의 센스타임(상탕커지)의 최대 고객은 중국 정부라는 점이 시사하는 바를 놓쳐서는 안 된다.
컴퓨팅 파워가 나날이 발전하고 이에 따라 처리할 수 있는 데이터의 양도 폭발적으로 증가하면서 다양한 분야의 알고리즘 성능이 갈수록 향상되고 있다. 문제는 이 알고리즘이 어떻게 작동하게 되는지에 대한 이유를 사람이 알 수가 없다는 것이다. 알고리즘에 의한 AI 재판에서 유죄를 선고받거나 은행 대출 금리가 결정되는 과정을 사람들은 전혀 알 수가 없다. AI의 판단에 무조건적으로 따라야만 하는 것이다. 아직 AI와 알고리즘이 무엇이지 조차 모르는 사람이 많지만 이미 우리 사회 다양한 분야에서 알고리즘이 돌아가고 있다. 각 개인에게 영향을 미치는 많은 결정들이 사실상 이미 알고리즘의 의해 통보되고 있는 것이다.
2020년 CES에서 공개된 양자컴퓨터 IBM Q. 구글이 슈퍼 컴퓨터로 1만 년 걸려 계산할 연산을 양자컴퓨터로 200초 만에 해결했다. 컴퓨터 계산에 기반 한 알고리즘과는 달리 인간사회는 생각보다 훨씬 복잡하고 비정형적이다. 이성적으로 그러하나 감정적으로는 절대 용납이 안 되는 일이 얼마나 많은가? 기계가 주는 편리함은 위대하지만 그로 인한 에러는 당장에 사람의 생명을 앗아갈 수 도 있다. 공학자 주도의 알고리즘 사회에 사회과학자들이 적극적으로 나서야 하는 가장 큰 이유도 알고리즘이 주도하는 사회가 이미 실현되고 있고 그 영향력도 갈수록 막강해지고 있기 때문이다.
Database | Algorithm Tips - Resources and leads for investigating algorithms in society미국은 연방대법원을 통해 기업들의 알고리즘 소스 코드까지 밝히게 강제하고 있다. 또 알고리즘 팁스(algorithm tips)를 통해 미국 정부에서 사용되고 있는 정책 결정 알고리즘을 목록화하고 있다. 이제 한국의 사회과학자들과 언론이 당장에 해야 할 일이 있다. 우리 사회 각 분야에 알고리즘이 어떻게 적용되고 그에 따른 어떤 결정들이 내려지는지에 대한 정보를 목록화시켜 계속 업데이트해야 한다. 사람들이 어떻게 통제당하고 있는지 사람들이 알 수 있도록 친절히 알리는 것이 저널리즘의 가장 기본적인 본분이지 않은가?
