brunch

매거진 어떤 시선

라이킷 12 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 우은지 Mar 19. 2023

인간다운 알고리즘

당신이 그리는 이상적인 미래는 무엇인가

어느 순간부터 ‘온라인 플랫폼’과 ‘오프라인 플랫폼’이라는 표현은 특별히 구분되지 않는 시대가 되었다. 플랫폼은 일상생활의 깊숙이 침투해 있고, 온-오프라인에서의 경험이 분절되어 있지 않고 연속적으로 연결되어 있다. 그 덕분에 우리의 삶은 굉장히 편리해지기도 했고, 많은 부분에서 알고리즘의 도움을 받고 있다. 얼마 전 도쿄 여행을 다녀왔는데, 에어비앤비, 인스타그램, 유튜브 알고리즘 덕분에 굉장히 독특한 경험을 했다. 일본어를 전혀 못하는 데에도 도쿄 외곽 주택가에서 건축가 할머니와 고양이 두 마리가 살고 있는 예쁜 집을 발견했던 것이다. 이처럼 알고리즘은 사용자에게 전혀 예상치 못한 기쁨을 선사하기도 한다.

그러나 과연 알고리즘의 커다란 흐름은 어디로 흘러가고 있는가 하는 의문이 든다. 플랫폼 알고리즘은 최종 사용자(end user)의 니즈를 고려하며, 시스템의 전체적인 효율을 위해 설계된다. 그런데 이때 사각지대에 놓이게 되는 이들이 있으니 바로 플랫폼에서 수익을 창출하는 노동자이다. 에어비앤비 호스트나, 유튜브 크리에이터, 배달플랫폼 노동자 같이 말이다.

플랫폼기업이 알고리즘을 통해 노동자들이 ‘말을 잘 듣도록’ 통제하는 것에 대한 윤리적 문제는 오랜 시간 끊임없이 제기되어 왔다. 플랫폼 기업은 ‘누구나, 원하는 때와 장소에서, 원하는 만큼 일할 수 있다’라는 자율성을 강조하고 있기는 하지만, “기업의 위험을 기업에서 노동자로 전이시키고, 노동의 조직화를 불가능하게 하며, 낮은 고정비용을 통해 거대한 규모의 이익을 뽑아내는 것이다(Asher-Schapiro, 2014)”라는 비판을 받고 있기도 하다. 그것이 단순히 ‘플랫폼 노동자들의 선택이었을 뿐’이라고 이야기하기엔, 이들과 알고리즘 간의 인터랙션이 나비효과처럼 커져 최종 사용자에게, 그리고 더 나아가서는 사회적 문제로도 커지고 있다.

일례로, 나는 카카오택시를 이용하며 ‘플랫폼 노동자가 알고리즘에 대해 갖는 불만이 사용자에게 분노로 표출되는 경험’을 몇 번 했었다. 처음엔 택시 기사가 나에게 불만을 쏟아내는 것에 대해 굉장히 불편했고 무시했으나, 일단 그런 사람이 한 두 사람이 아니었고, 또 디자인 연구자라는 직업병이 발동해서 어느 순간 기사님들을 인터뷰하기 시작했다.

(배차 방식에 대한 불만) “왜 이렇게 멀리서 나를 부르냐”: 내가 부르지 않았다. 나도 카카오택시의 배차 알고리즘이 어떻게 되는지는 모르겠지만 나는 ‘일반 택시’를 불렀는데 꽤 먼 거리에 위치한 ‘블루 택시’가 호출되었고, 택시 기사는 화가 난 채로 나를 맞이했다.

(목적지 비공개에 대한 불만) “왜 탑승하고 목적지가 어디인지 말을 안 하냐”: 난 언제부터 목적지 미표시제가 실시되었는지도 몰랐고, 당연히 택시기사가 목적지를 알고 있는 줄 알았다. 그런 나에게 기사는 플랫폼이 목적지를 비공개하는 것에 대한 불만을 토로했다.

(사용자 추천 경로에 대한 불만) “저 길이 더 빠른데 왜 이 길로 추천했냐”: 카카오택시는 승객이 선택하지 않더라도 기본적으로 알고리즘이 추천해 주는 경로를 ‘사용자 추천 경로’라는 이름으로 기사에게 보여준다. 따라서 택시기사는 지금 내비게이션이 안내하는 경로가 알고리즘이 추천한 것인지 혹은 사용자의 개입이 들어간 것인지 알 수 없다. → 그리고 이 지점에서 내가 느꼈던, 택시기사 기저에 깔려있는 불만은, 자신의 암묵지 (tacit knowledge)나 경험적 지식에 대해 인정/존중받지 못하는 것에 대한 불만이었다. (예. 내가 택시일을 수십 년을 했는데, 알고리즘은 몰라도 나만 아는 빠른 길이 있는데~)

이처럼 알고리즘에 대한 불신, 불만, 의문, 불확실성을 해소할 곳이 없어지면서 플랫폼 노동자의 불만은 대면하는 애먼 사용자에게로 향하게 된다. 그리고 억울한 사용자 입장에서는 이런 플랫폼에 대한 경험이 안 좋아지면서 이용하기가 꺼려지게 된다. 이런 비슷한 일들은 아마 카카오택시뿐만 아니라 에어비앤비나 배달플랫폼에서도 있었던 것으로 알고 있다.

플랫폼 사용자가 아닌 디자인 연구자로서 나는, 조금 안타까운 마음이 들었다. 시스템의 효율이라는 관점에서 알고리즘이 설계되어 플랫폼 노동자를 길들이려 하고, 인간이기 때문에 당연히 느낄 수 있는 감정들 (인정받고 싶고 존중받고 싶음, 억울함을 토로하고 싶음, 수고로움에 대해서 격려받고 싶음 등)을 무시하고 있는 것은 아닐까? 플랫폼 노동자와 최종 사용자조차도 서로를 ‘사람’으로 바라보지 않고 ‘알고리즘의 대리인’ 보고 있는 게 아닐까? 그러다 보니 사람 사이의 인내심이 부족해지고 서로 불신하고 의심하는 관계가 되어버리고 있는 것은 아닐까? 하는 생각이 들었다.

흔히, 인공지능이 ‘인간답다’라고 이야기할 때, 인간을 얼마나 잘 모사하는가에 방점이 실려있는 경우가 많다. 그러나 정말 ‘인간답다’라는 것은, 사람에 대한 배려, 인내심, 인정을 발휘하는 것이 아닐까. 따라서 플랫폼 알고리즘은 노동자/이용자를 길들이고 교정하고 통제하는 법을 숙련하기보다는, 이들을 좀 더 인간답게 대우하는 법을 먼저 배워야 하는 게 아닐까 하는 생각을 해본다.

기술이 가치중립적이라면 얼마나 좋을까. 그러나 자본주의라는 사회 구조 속에서 기술은 모두에게 마냥 평등하게 작용하지는 않는다. 또한 알고리즘이 우리 삶 깊숙이 침투한 이상, 그것의 활용은 더 이상 개인 사용자의 자율과 선택에만 달려있지 않다. 따라서 우리 디자이너는 알고리즘을 디자인할 때 (그러니까, 알고리즘의 UX/UI를 디자인할 때) 단순히 눈에 보이는 사용자의 불편만을 해결할 것이 아니라, 이 거대한 흐름이 어디로 흐르고 있는지 생각해 볼 책임을 가져야 한다고 생각한다. 당신이 그리는 preferable future는 무엇인가?