AI에 숨은 권력, 보이지 않는 힘

흔히 인공지능(AI)이 인간보다 객관적이고 합리적인 선택을 할 것이라고 믿는다. 

인공지능은 인간과 달리 개인의 감정이나 성격, 취향, 가치관 등에 휩쓸린 선택을 하지 않을 것이라 생각하기 때문이다. 더 나아가서는 인공지능이 내린 결정을 맹신하는, 즉 신격화하는 현상도 일어난다.   

정말 인공지능이 내린 결정은 객관적이고 합리적이고 무결할까?

우리는 다수의 의견을 따르는 민주주의 사회에 살고 있다. 

집단 지성이 있으니 그래도 다수가 옳을 거라고 믿는 것이다. 

그러나 우리는 우리의 생각과 감정, 가치관이 어떻게 형성되는가를 살펴보아야 한다. 우리의 생각과 감정, 가치관은 개인의 성격, 취향 등 개인적인 특성뿐만 아니라, 가정환경, 교육 등 외부환경에 의해서도 형성된다. 그리고 이러한 가정환경과 사회 전반적인 문화,  지리적 환경, 교육 등은 어떤 보이지 않는 힘에 의해 설계되거나 의도적으로 형성될 수 있다. 그것이 정치일 수도, 미디어일 수도, 거대한 자본에 의한 것이든.. 뭐가되었든 우리의 사회경제문화는 의도된 어떠한 큰 흐름 안에 자리 잡고 있다. 

예를 들어 어떤 한 패션이 유행한다고 하자. 이 패션은 유명 패션쇼라든지, 유명 디자이너라든지, 유명 연예인이 입었다든지 하면서 붐이 일어나고, 이 패턴은 시기적으로 반복된다. 과거에는 한물간 촌스런 나팔바지가 어느새 다시 세련된 패션 아이템으로 자리 잡는다. 이에 따라 백화점이나 상점, 온라인 쇼핑몰 등에서는 기다렸다는 듯이 재고로 남은 나팔바지를  창고에서 꺼내 들고, 높은 랭킹에 든 나팔바지를 더 비싼 가격에 팔아넘긴다. 한 개인은 이러한 흐름에 쉽게 흔들린다. 이러한 큰 흐름을 자신의 취향인 것 마냥, 자신의 선택인 것 마냥 속아 버린다.  

그렇다면 인공지능은 어떠한가? 

인공지능을 형성하는 토대는 데이터다. 그것도 아주 아주 많은 데이터. 1980년부터 확률론적 접근법으로 전환되면서, 어떠한 가치나 의미, 이해, 해석보다는 데이터 집합의 크기가 인공지능의 품질을 좌우하는 핵심적인 사항으로 자리 잡았다. 그리고 자주 등장하지 않는 데이터는 상대적으로 중요하지 않은 데이터로 여겨지며 배제되었다. 

그러나 데이터는 그 생성된 시점의 시기, 장소, 문화, 정치, 맥락 등의 결과이며 기록이다. 그리고 이 데이터는 하나의 뭉텅이로 수많은 역사와 맥락들이 뒤섞여 있다. 인공지능은 주관적인 데이터들의 뭉텅이로 인한 결과에 불과한 것이다. 그럼에도 인공지능에 대한 맹목적인 믿음과 환상을 심고, 그것들을 믿게 만든다. 

더 큰 문제는 데이터가 어디서 어떻게 수집되었는지, 어떤 절차로 전처리 되었는지도 알기 어렵다는 것이다. 그것들은 블랙박스, 영업기밀 등이라는 이유로 투명하게 공개되지 않고 있으며, 누구도 책임지려 하지 않고 있다. 어느 누군가 의도 하에 데이터를 수정하거나 삭제, 수정하여도 우리는 알 길이 없다. 그렇게 누군가의 의도 하에 조작된 데이터를 기반으로 인공지능이 결정을 내렸을 때, 그 결정을 객관적이고 합리적인 것이라고 맹신하는 것만큼 무서운 일도 없을 것이다.