by
Jan 05. 2021
AI 추천 알고리즘의 해악
편의성을 위한 AI가 우리의 편향성을 강화시킬 수 있음을 자각해야 한다.
편의성을 위한 AI가 우리의 편향성을 강화시킬 수 있음을 자각해야 한다.
우리가 접하는 수많은 콘텐츠(contents)는 과연 우리의 의지에 의한 선택일까?
그렇지 않다는 것은 이미 어느 정도 SNS, 유튜브, 뉴스, 쇼핑 등의 다양한 채널을 이용하는 사용자라면 알 것이다.
특히 '추천'이라는 명목 아래 제공되는 이런 콘텐츠는 적지 않게 우리의 무의식에 영향을 미칠 수 있다.
'무의식'이란 구글링을 해보면 위키백과 서두에 다음과 같이 적시되어 있다.
무의식은 자신과 주위 환경에 자각이 없는 상태 즉, 자신이 의식하지 못하는 두뇌의 활동...
다시 말해서, 자각되지 못한 채 뇌가 뭔가를 주입해서 기억하고 판단한다는 것이다.
우리가 아무리 시간이 없다고 해도 배고플 때 내 뱃속에 아무 음식이나 넣을 수 없듯이, 우리 뇌에도 정보를 입력할 때는 이것이 객관적 과학적 사실이 전제된 합리적 논리 논증의 콘텐츠인지 최소한의 필터링은 필요하다. 이것들을 자각하지 않은 채 가능하게 해서는 안된다.
작금에 AI 추천 알고리즘은 우리가 어떤 것을 선택함에 있어서 편의성을 제공한다는 점에 착안한 서비스다.
우리가 하는 혹은 해야 하는 '선택'이라는 것은 순수 이성과 감정의 사고 과정에서 촉발된 판단이어야 그 진정성이 인정될 수 있다. 하지만 AI의 추천은 오로지 선행된 각각의 선택에 이끌린 추천이거나 나의 취향을 멋대로 여러 사람들의 데이터로 빗대어 예단하여 밀어 넣는 식의 추천이 대다수다. 비록 생각할 필요가 없어, 사고 과정에서 필요한 나의 뇌가 소비할 에너지를 아낄 수 있다는 점에서 보면 유용하다고 볼 수 있을지 모르지만, AI의 추천 콘텐츠가 나도 모르게 나의 선입견, 편견을 강화시켜 뻔한 스테레오 타입의 인간으로 내 뇌를 고착화시킬 수 있다는 점은 자각을 넘어서 두려워할 필요가 있다.
얼마 전 신년기획 특집으로 1월 2일 방영된 'KBS 시사기획 창'에서도 이런 우려를 '당신의 민주주의는 진짜인가요?'라는 제목으로 담아낸 것을 보았다.
현재 우리 사회가 보수, 진보로 나뉘어 극단으로 치닫는 현 상황을 분석함에 있어서, 각 진영의 콘텐츠들이 적지 않게 영향을 미쳤다는 것을 설명하면서, 그 콘텐츠 확산에 주요 역할을 한 것이 바로 AI추천 알고리즘임을 언급한 내용이었다.
인간은 스스로 굉장히 합리적이고 이성적이라고 착각하는 경향이 있다.
그 이유는 위에 언급한 해당 방송에서도 불특정 다수의 사람들을 통한 실험에서 관찰된 바와 같이, 사람은 먼저 판단하고 그 이유를 끼워 맞추듯 생각하는 성향의 태생적 본능적 *스키마 구조를 갖고 있기 때문이다.
*스키마(Schema)란?
이러이러한 상황에서는 이렇게 생각하고, 저렇게 느끼며, 어떻게 행동해야 한다'라고 각 개인의 의식 혹은 무의식에 내재되어 있는 일종의 규칙.
다시 말해서, 내가 설령 내심 원치 않는 선택을 했다고 하더라도 혹은 무의식적 선택을 했다고 하더라도 대외적으로 그것을 돌이키기에는 이미 늦었다거나 적절치 못한 여건(상황)에서는 어떻게든 선택된 결과에 대해 수용하려 한다는 것이다. 그 과정에서 자기 합리화하려는 경향 역시 강하게 나타난다. 그러므로 현재 보수와 진보의 대결을 해소시키고, 각 진영에 소속되어 있다고 생각하는 이들에게 서로의 입장과 처지를 이해시키는 데 있어서 AI 추천 알고리즘은 결코 도움되지 않는다고 볼 수 있다. 오히려 더욱더 극단적으로 치닫게 되는 강화 효과만 가속화시킬 수 있다고 보는 것이 옳을 것이다. 이유는 지속적인 편향성에 노출되면, 그 편향성의 중심(평균)은 이미 객관성을 잃을 정도의 위치에 있을 수밖에 없기 때문이다.
얼마 전 YTN 저녁 뉴스를 보다가 앵커가 한 언론사의 편향된 보도 기사의 제목을 언급한 것이 기억에 남는다.
해당 제목은 2가지로 각각 '한국, 빨라야 3월 백신 접종 가능', '일본, 이르면 3월 백신 접종 가능'이라는 뉴스 기사가 주는 어감과 시청자가 느낄 기사의 인지 편향성에 대해서 지적하는 코멘트였다. 제목만 봐도 해당 언론사가 도대체 한국 언론사인지 일본 언론사인지 헷갈릴 정도다. 이렇게 두 뉴스 기사 제목을 동시에 비교할 땐 문제점을 우리는 자각할 수 있다. 그러나 만약 각각의 뉴스를 시차를 두고 접했다면, 우리 뇌는 무의식 중에 한국 정부는 무능하고 일본 정부는 유능하다고 느꼈을 것이다. 편향된 정보를 우리가 거르는 데는 한계가 있음을 보여주는 사례다. 그럼에도 불구하고 위 앵커가 찾았듯 우리도 사고의 폭을 넓히면 가능하다. 그래야 저런 언론 행태도 사라질 수 있다.
우리 뇌는 슈퍼 컴퓨터보다 엄청난 기능을 갖고 있다. 그것이 바로 예측하는 능력이다.
빠른 판단만이 우리의 생명을 유지시켜 줄 수 있기 때문에 인간이 이 지구에 등장한 수백만 년 전부터 진화 발달된 기능이다. 예를 들어 어두컴컴한 밤 산행 중에 어떤 소리를 듣고 스치는 뭔가를 보았을 경우, 컴퓨터는 그 소리를 분석하고 이미지를 분석하는 데 있어서 엄청난 데이터와 비교하여야만 그나마 해당 소음과 이미지의 실체를 추정할 수 있다. 아무리 빅데이터로 무장한 슈퍼컴퓨터라도 최소 수 초에서 수 분 이상, 아니면 몇 시간 그 이상이 소요될 수도 있다. 그러나 인간은 0.5초 만에 이것이 나무에서 낙하하는 열매인지 아니면 산짐승이 날 위협하기 위한 소리인지 구분하고 계속 산행을 하든지 아니면 도망치든지 판단 선택할 수 있다.
신이 선물한 엄청난 인지 기능이기에 가능하다.
그런데 이를 하찮은(?) AI 따위에게 미뤄 판단 능력을 흐리게 할 필요가 있겠는가?!
편의를 위한 수준이라도 최소한 무비판적 수용 태도는 경계해야 한다.
