윤리를 이야기하는 것은 발전을 저해하는 것인가, 아니면 북돋는 것인가
학창 시절, 그래도 시험 치르는 것은 곧잘 했던 나는 어지간한 과목은 90점을 넘기곤 했었다. 딱 두 가지, 미술과 도덕 과목만큼은 80점 대에 머무는 일이 많았다. 우르르 수가 박혀야 할 2000년대 초반 성적표에 이런 티끌 같은 오점이란.
두 가지 해석을 내려볼 수 있겠다. 하나는, 기존의 미술 교육 시스템이 나의 창의성을 따르지 못하고, 기존의 도덕 교육은 나의 가치관을 담기에 충분치 못했을 것이라는 오만방자한 해석. 또 다른 한 해석은, 말 그대로 시험 문제를 잘 풀어내는 이에게 꼼꼼함을 요구하는 미술 과제들은 눈치껏 되는 일이 아니었고, 도덕책이 내세우는 엄밀한 잣대 또한 눈대중으로 찍어서는 풀리지 않는 과목이어서가 아닐까 생각된다. 어찌 됐든, 나는 미술과 도덕 과목을 그다지 좋아하지 않았다. 그런 내가 인공지능 시대를 살아가는 사람들이 겪게 될 꽤 많은 양의 윤리적 딜레마를 논하는 상황이라니.
인공지능을 둘러싼 윤리 이슈는 주로 '차별'이나 '개인정보', '도덕적 딜레마' 같은 키워드와 얽혀 있다. 얼굴 인식 기술이 흑인 여성을 잘 구분해 내지 못하고(Buolamwini and Gebru, 2018), 취업 정보 시스템에서 성별 편견이 반영된 직업 추천을 하고, 인종차별 주의자들의 데이터를 흡수한 알고리즘이 극도의 인종차별주의자로 변모하는 모습이 실시간으로 트위터에 중계되는 모습들은 인공지능의 차별을 보여주는 강력한 장면들이 됐다.
개인정보는 '도용'과 '권리'의 관점에서 가장 핫한 키워드다. 국내 인공지능 윤리 담론을 최전선으로 이끌어낸 '이루다 사태'는 단순히 차별적 대답을 하는 챗봇의 존재뿐 아니라, 연인 사이 데이터를 무단으로 가져다 알고리즘에게 학습시킨 개인정보 도용 사례로도 주목을 받았다. 구글과 페이스북을 비롯한 여러 기업은 개인의 캐시와 쿠키 데이터를 가져다 개인 맞춤형 광고 제공으로 이용했고, 이내 철퇴를 맞았다. 2018년 발효된 EU의 GDPR은 개인의 로그 데이터를 수집하고자 한다면 이에 대한 동의를 의무적으로 받고 이를 어길 시 천문학적인 과태료를 물도록 강제하고 있다. 한국은 마이 데이터 사업을 펼치며 개인 정보의 권리에 대한 산업적 확장성을 이야기하고 있지만, 다른 한쪽에서는 공항에서 찍힌 대규모 얼굴 데이터셋을 고스란히 민간업체에 넘기는 일을 반복하고 있다.
도덕적 딜레마는 자율주행차에서 특히 뜨거운 키워드다. 이른바 '트롤리 딜레마'로 불리는 이 내용은, 운전자를 사망에 이르게 할 것인가, 아니면 남을 칠 것인가에 대한 살벌한 문제를 기계에게 어찌 맡길 수 있겠느냐는 의제를 다루고 있다. 여전히 누구도 답하지 못하고 있다. 심지어는 어린이를 칠 것인가, 노인을 칠 것인가에 대해 문화권별로 각기 다른 해석을 하고 있기 때문에, 자율주행 시스템을 만드는 데 있어 문화적 차이를 고민할 필요도 있다는 논문도 나온 바 있다. 동서양이 다른 해석을 하고 있다는 것인데, 그렇게 따지면 사실 개인별 차이도 크기 때문에 개인의 도덕적 결정에 얼마나 의존해야 하는지, 그에 대한 논란으로까지도 충분히 번질 수 있는 내용이다.
우리는 이런 키워드들을 'AI 윤리'라는 명칭에 담아낼 수 있을까? 윤리의 사전적 뜻 자체가 "사람으로서 마땅히 행하거나 지켜야 할 도리"나 "인간 행위의 규범", "도덕의 본질, 기원, 발달, 선악의 기준 및 인간 생활과의 관계" 등으로 정의된다는 점을 감안하면, 인공지능 기술이 인간사에 깊이 개입해 규범을 어기고 도덕의 본질을 뒤흔드는 일이 벌어지는 것에 대한 경고가 중점적인 연구 대상이 되고 있는 셈이다. AI를 인간이란 존재와 동일시하는 것이 아닌 이상, 기계 자체에 대한 규범이나 그가 주체적으로 품은 도덕의 본질을 논할 수는 없다. 그렇기 때문에 'AI 윤리'라는 표현보다는 "AI를 만드는/쓰는 사람들에 대한 윤리"라는 표현이 더 정확한 것이다.
AI는 앞으로 더 많은 의사결정 권한을 가지게 될 것이다. 결정권자로서 인간은 오케이 사인만 남기게 될 수도 있다. 따지고 보면 이미 그 결정 자체도 하지 않게 되는 상황이 이어지고 있다. 스테이크를 그만 굽는 게 나을지, 세탁물 오염 정도를 파악해 추가로 더 세탁기를 돌려야 할지 말지 같은 것은 이미 기계가 알아서 잘 결정해 시행하고 있으니 말이다. 인간의 가치판단이 들어가는 곳에서는 여전히 갈 길이 멀지만, 그 가치판단이라는 행위 자체의 역치도 어느 순간 흐려지고 나면, 기술은 그렇게 우리 삶에 조용히 침투할 것이다.