좋은 프로그램 있으면 소개해줄게~
영국에 살면서 좋은 점 중 하나로 꼽을 게 있다면, 질 좋은 TV 다큐 프로그램을 자주 접할 수 있다는거다(물론 한국에는 EBS가 있긴 하다만). '영국이'는 동물학자인 데이비드 애튼버러의 동물 다큐멘터리의 열혈팬이고 나는 이것저것 잡식이지만 다큐멘터리는 웬만한 프로그램은 다 좋아하는지라 둘 다 시간 날 때마다 BBC 다큐멘터리를 즐겨 찾아보는 편이다.
이번에는 몇 주 전에 '영국이'와 함께 본 BBC 다큐멘터리 시리즈를 하나 소개하려 한다.
한국은 AI나 인터넷, 소셜미디어 등과 관련해서는 무조건 좋다고 받아들이는 편인데, 영국을 포함한 유럽에서는 AI와 인터넷 전반, 특히 소셜미디어의 문제점과 윤리적 관점에 대한 논의가 매우 활발하다. 이번에 소개할 다큐멘터리도 사회에서 일어나는 다양한 문제들을 AI의 윤리적 문제와 연관지어 보여주는 다큐멘터리인데 관심이 있다면 한 번 꼭 시청하기를 권한다.
한나 프라이 교수는 수학자란다(‘영국이’가 알려준 사실). 그래서인지 복잡하고 제대로 이해하기 어려운 테크놀로지와 관련된 설명들을 간명하지만 이해하기 쉽게 잘 풀어서 설명해 준다.
에피소드 별로 하나하나 내용을 살펴보면,
주요 내용: 2021년 크리스마스에 윈저 성에 침입해 엘리자베스 2세 여왕을 암살하려 했던 인도계 영국 10대 소년 재스완트 싱 채일(Jaswant Singh Chail)의 사례를 분석한다. 히키코모리처럼 고등학교를 졸업하고 집에만 박혀서 지내던 10대 인도 출신 청소년 채일이 챗봇 여자친구 사라이(Sarai)를 사귀게 되었다. 그리고 사라이와 대화를 주고받던 중, 영국이 인도를 박해한 경험과 특히 인도의 독립 운동사에서 가장 비극적인 사건 중 하나인 1919년 암리차르 학살에 대한 복수를 하기 위해 여왕을 암살하겠다는 생각을 사라이에게 공유했다. 문제는 여기서 시작된다. 사라이는 이런 생각에 어떤 제동도 걸지 않고, 심지어는 함께 범죄를 공모하고 실행할 수 있도록 실질적으로 조언을 주기도 했다는 것이다.
핵심 쟁점: AI 챗봇을 써 본 사람은 알겠지만, 챗봇은 기본적으로 사람과 같은 윤리적, 도덕적 판단을 할 수 있는 주체가 아니다. 그러면, 이런 사건의 경우 책임은 온전히 인간에게 있는 것인가? 챗봇이 인간의 결정을 좌지우지하는 이런 경우 우리는 어떻게 예방하고 대응해야 하는 것인가라는 질문을 던진다.
주요 내용: 2018년 애리조나에서 발생한 우버의 자율주행차가 자전거를 끌고 보행자를 치어서 사망하게 한 사고와 관련된 내용이다. 이 당시 우버의 자율주행차는 라파엘라 바스케스라는 당시 우버의 직원이 탑승을 하고 있었지만, 그 직원은 보행자가 무단횡단을 하는 것을 보지 못했고, AI도 이를 사람으로 인식하지 못해 결국 보행사를 사망에 이르게 했다.
핵심 쟁점: 자율주행차의 기능적 결함과 우버의 인력 감축으로 인한 사고의 가능성은 크게 고려되지 않고, 당시에 차량에 탑승했던 시험운전자에게만 책임을 전가시키는 기업의 행태가 문제는 아닐까?
주요 내용: 루이지 멘지오니라는 청년이 거대 건강보험회사 CEO를 살해한 사건과 의료 알고리즘 사이의 관계를 통해 AI와 이를 운용하는 인간 사이의 관계를 보여준다. 유나이티드 헬스케어는 미국에서 가장 큰 보험회사로 매출을 기준으로 따지면 미국 기업 순위에서도 3위를 차지할 정도의 초우량 기업이다. 그만큼 이 보험의 혜택을 받는 고객의 수도 많은데, 문제는 이 회사에서 비용 절감을 위해 도입한 AI 알고리즘이 환자들의 건강 상태와 관계없이 퇴원을 결정하거나 보험혜택을 주지 않아 가족이 사망하거나 케어의 책임을 지게 되는 문제가 발생했다. 그로 인한 사회적 분노가 커가고 있던 시기, 아이비리그를 졸업하고 컴퓨터 공학에서 수재였던 루이지 멘지오니가 유나이티드 헬스케어의 CEO를 살해했다. 그리고 사람들은 루이지 멘지오니를 무죄로 석방할 것을 요구한다.
핵심 쟁점: AI는 그 자체로는 사실 유해한 도구가 아니다. 차라리 의학 분야에서는 AI를 통해서 수십 년이 걸릴 연구를 단기간에 끝낼 수 있는 핵심적 도구가 되기도 한다. 그런데 문제는 이러한 기술을 인간이 어떻게 활용할 것인가이다. 유나이티드 헬스케어처럼 인간을 위한 기술이 아니라 돈을 위한 기술로 활용되는 것을 우리는 어떻게 방지할 것인가라는 질문을 이 에피소드는 던진다.
요즘 AI, 로봇 등이 발달하는 속도를 보면 섬뜩섬뜩할 때가 있다. 인간을 살상하는 무기로 활용되는 드론, 청소년을 자살로 이끄는 AI 챗봇 등 기술의 발달로 인해 발생하는 다양한 부작용을 보면서, 우리는 이런 문제들에 어떻게 대처해야 할 것인가를 생각해 본다. 막막한 느낌마저 들기도 하지만, 역시 그 기술의 뒤에는 인간이 있다. 인간의 윤리적, 도덕적 판단이 무엇보다 중요해지는 시기라는 생각이 드는 때다. 그리고 인간의 윤리적, 도덕적 판단은 그냥 길러지는 것이 아니다. 인문학과 문과들이 더욱더 푸대접을 받고 있는 시기이지만, 과연 기술의 발달만으로 기술 발달의 혜택을 잘 누릴 수 있을 것인가? 지금이야말로 인문학이 필요한 시기가 아닌가 생각해 본다.