brunch

매거진 짧은 생각들

라이킷 33 댓글 3

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by Forest Writer Apr 09. 2022

편견 없는 편견

인공지능의 편견은 편견인가

몇 년 전, 미국의 어느 유통업체에서 임산부 옷과 신생아 물품 등의 임산부에게나 필요한 쿠폰 우편을 여고생에게 보내서 화제가 된 적이 있었다. 학생의 부모는 뭐 하는 거냐고 노발대발했지만, 나중에 학생은 실제로 임신을 하고 있음이 확인되었다.

해당 학생은 이전에 대형 마트에서 무향 티슈와 마그네슘 보충제 등을 구입했는데, 이러한 구매 패턴을 보고 인공지능이 '임산부'를 위한 물품을 '추천'한 것이다. 이전에 다른 임산부들이 구매했던 패턴 그대로.

여기서 중요한 점은, 마트의 인공지능은 학생이 임신을 했는지 아닌지 모른다는 것. 아니, 임신 여부에 관심이 없다. 그저 마그네슘 보충제와 무향 티슈를 구매한 사람은 신생아 물품을 언젠가는 구매한다는 '경향성'을 확률적으로 계산하여 추천 여부를 판단한 것뿐이다. 고객에게 필요한 물건일 가능성이 높으니 미리 안내를 한 것일 뿐, 고객이 어떤 사람인지는 관심 대상이 아니다. 그래서 인공지능은 항상 '편견 없이' 상황을 판단한다.

편견이란 뭘까. 사전적 의미로는 '치우쳐서 본다' 라는 뜻으로, 선입견, 고정관념, 패러다임 등과 비슷하지만 그들보다는 조금 더 부정적인 느낌을 준다. "이 사람은 이런 행동을 하니, 이런 사람일 거야" 한 가지 면만 보고 미리 단정 지어 버리는 것.

만약 무향 티슈와 마그네슘 보충제를 어떤 여성이 구매한다면, 인공지능은 그 여성이 누구인지 상관없이 임산부용 물품을 추천한다. 여고생이든 여대생이든, 미혼이든 기혼이든, 종교, 인종, 지역, 소득 수준이 어떻든 상관이 없다. 그저, '이 물건'을 구매한 다른 사람들은 여태껏 '저 물건'을 많이 구매했다는 기록, 즉 '빅데이터' 를 보고 경향성을 계산한 것뿐이다.

그런 측면에서는 인공지능에게 박수를 보내야 하는 게 마땅하다. 결국엔 '편견 없이' 학생에게 필요한 물품을 추천하는 데 성공했으니 말이다. 학생이라는 신분을 배제하고, 구매 이력 그 자체로만 판단하여 필요한 서비스를 제공한 것이다. 알고리즘 앞에선 만인이 평등하다는 격언을 다시 한번 확인한 것.

하지만 이렇게 생각할 수도 있다. 무향 티슈와 마그네슘 보충제를 사는 여성은 왜 임산부라고 인공지능은 섣불리 판단하는거지? 그것도 또 다른 편견 아니야?

인공지능은 빅데이터를 통해 편견 없이 상황을 분석하고 판단했지만, 그러한 분석의 결과 역시도 어쨌든 새로운 편견을 생성했다고도 볼 수 있다. 말 그대로 '편견 없는 편견'을 만들어 낸 것.

우리는 알고리즘의 시대를 살아가고 있다고 해도 과언이 아니다. 필자의 경우에도, 최근에 봄 코트를 하나 구매하려고 포털 사이트와 쇼핑몰에서 여러 번 검색을 했는데, 그 이후로 몇 날 며칠 동안 배너 광고에 봄 의류와 관련된 상품들이 계속해서 나온다. 다른 알고리즘으로 덮어버리지 않으면 여름옷까지 가겠네.

유튜브에서 우연히 뜬 옛날 드라마 영상을 하나 둘 보다 보니 점점 알고리즘이 드라마 추천으로 물들어 가고, 특정 가수의 노래를 들으면 비슷한 장르나 연관된 노래들이 계속해서 나온다. 알고리즘은 특정 콘텐츠에 대해 수많은 사용자가 다음에는 어떤 콘텐츠를 보는가? 에 대한 통계적인 분석을 내리고, 가장 확률이 높은 선택지를 판단하고 추천한다.

인공지능의 판단 과정은 사실 인간지능을 그대로 모방했기 때문에, 인간이 가지는 편견이 그대로 담겨 있을 수밖에 없다. 예를 들어, 어떤 사람이 마트에서 카운터로 일한다면, 오랜 시간 동안 쌓인 고객들의 구매 경향성이 한눈에 들어올 수밖에 없겠지. 분명히 마그네슘 보충제와 무향 티슈를 동시에 사가는 여성들의 배는 다른 여성들보다 불룩하며 다음에 올 때는 꼭 분유를 사가더라, 라는 판단이 자연스레 나오게 된다.

인공지능은 사실 이러한 현상을 수학적으로 기록한 것, 그 이상도 이하도 아니다. 대신에 컴퓨터에 정보가 저장이 되어 있으니 사람보다 잊어버리는 부분 없이, 판단의 일관성을 길게 유지할 수 있다.

어떤 여자 입장에서, 퇴근길 버스 정류장에서부터 어떤 남자가 따라오는데 뒤를 힐끗 보니 원빈 또는 김수현처럼 생긴 사람이 정장을 입고 있으면 그리 긴장하지 않을 수도 있다. 반면에 남자 얼굴에 상처가 있고, 검은색 마스크에 검은색 모자에, 츄리닝을 입고 있다면 비상 경계태세가 발동될 것이다. 이는 수많은 경험을 토대로 나온 자연스러운 방어 본능일 뿐, 차별이니 혐오니 이런 것과는 무관하다. 미래에 보안 인공지능의 도움으로 살아가는 세상이 와도 판단은 크게 다르지 않을 것이다.

얼마 전 어느 대도시 주택가에 특정 종교 사원 건립 문제로 거주민들과 종교인들 간의 대립이 심해지고 있다는 기사를 봤다. 주민들의 입장은, 종교 건물이 들어서면 폭력 및 안전 문제가 생길 수 있으니, 주택가 한복판에 사원을 지을 수 없다는 것. 분명히 그들이 모였을 때 나타났던 문제들을 사람들은 기억하고 있다.

자, 그럼 편견은 어디에 있을까? 특정 종교인들이 문제를 일으킨다는 사실이 편견일까? 아니면 특정 종교인들을 그렇게 바라보는 사람들의 시선이 편견일까?

결론은, 둘 다 편견인 것. 세상 모든 판단은 경험과 편견으로부터 이루어지기 때문이다. 인공지능은 인간의 인지과정을 모방한 것이며, 당연히 차별과 편견, 선입견, 고정관념 모두가 담겨있다. 인과관계와 상관관계를 혼동하는 흔한 오류 역시도 인공지능은 그대로 가지고 있다.

이런 측면에서 인공지능의 도움으로 살아가는 먼 미래에도 차별 논란과 불합리성, 불공정, 갈등 이러한 것들로 세상은 계속해서 시끄러울 것이다. 이상 사회는 쉽게 오지 않아. 이게 맞네, 저게 맞네, 하면서 멱살잡이도 여전하겠지.

하지만 시끄러워야 결국엔 건강한 세상이다. 가장 두려운 것은, 모두가 하나의 생각만 하고 살아가는 전체주의 사상, 절대자가 등장하는 것. 물론 빅데이터 시대의 다양성은 이것을 쉽게 허락하지 않을 것이다.

어쩌면 삶이 내는 문제에 정답이 없다는 것, 게다가 인공지능 조차도 쉽게 정답을 내리지 못한다는 것이, 우리들에게 커다란 축복이 될 수 있지 않을까.

-부기.

세상에서 가장 쓸데없는, "어떻게 살아야 정답일까?"라는 질문이 떠오르려고 할 때마다 꺼내 보려고 쓴 글.

인공지능도 완전하지 않고 편견에 모순 덩어리, 정답을 찾아주지 못한다. 그저 경향성 만을 확인시켜줄 뿐.

keyword