불미스러운 일
Karu's Story #12
환영합니다, Rolling Ress의 카루입니다.
굉장히 불미스러운 일이 생겨서, 이번 글은 좀 다소 무거워질 것 같습니다. 제 신념과도 충돌하는 일이기에, 가볍게 다룰 주제는 아닌 것 같습니다. 저는 사람들에게 편리함과 즐거움을 주는 프로그래머가 되고 싶습니다. 이 목표가 부서진다면 저는 도저히 버틸 수 없을 것 같아요.
저는 처음에 인공지능에는 관심이 없었습니다. 차라리 전자기기나 컴퓨터 등 물질적인 쪽에 관심이 더 많았죠. 그런데, 최근 들어 인공지능 분야에서 다양한 수행평가를 진행하고 탐구를 하다 보니 인공지능에 대해 조금씩 지식을 넓혀갈 수 있었습니다.
저는 4차 산업혁명 시대에서 융합형 인재가 되고자 합니다. 그래서 제가 지금 목표로 잡은 건 인공지능과 언어학의 융합입니다. 제가 가지고 있는 프로그래밍 능력과 제2외국어 등의 강점을 살려 이것들을 언어학이랑 연관시키고자 했습니다. 그래서 다양한 시도를 하고 있는데, 그중 하나가 챗봇 프로그램 제입니다.
챗봇 AI를 만든다? 불가능합니다. 만들 수는 있는데 비효율적이죠. 그래서 챗봇 API를 사용해야 합니다. 쉽게 말하자면, 챗봇의 내부를 제가 만드는 게 아니에요. 이미 챗봇을 개발한 회사의 데이터베이스를 빌려 쓰고, 이제 제가 능력이 되면 데이터를 전송하는 과정에서 개입을 해서 저만의 챗봇 프로그램을 만들 수가 있는 거죠. 저는 그걸 원했습니다.
이번에는 특정 회사의 A 챗봇을 빌려 썼습니다. 무료로 쓸 수 있고 사용법도 복잡하지 않았습니다. 그리고 챗봇 중에서는 가장 접근성이 높은 편에 속합니다. 그런데 그게 대참사를 불러일으켰습니다. 일반적으로 인공지능은 끊임없이 사용자들의 입력을 학습하기에, 이 챗봇도 다양한 말들을 학습했겠죠. 그런데 이것이 좋은 말인지 판별하지 못한다면, 폭언과 각종 외설적인 말들을 쏟아낼 수 있습니다.
저는 감당할 수 있어요. 개발자니까. 최소한 필터링 정도는 제가 할 수 있어야죠. 그런데, 필터링에도 한계가 있습니다. 인공지능이 어떻게 학습하고, 어디로 뻗어나갈지 모릅니다. 내가 미처 필터링하지 않은 단어를 내뱉을 수도 있다는 것이죠. 그리고, 제가 세상의 모든 비속어를 아는 게 아니듯 현실적으로 모든 것들을 필터링하기 어렵기도 하고요.
문제가 터졌습니다. 제가 한창 개발 중이던 챗봇 프로그램, 옴니버스를 친구들이 궁금하다고 해서 현재까지 만든 모습을 보여줬죠. 그런데 발칵 뒤집어졌습니다. 친구의 "안녕?"이라는 인사말에 옴니버스가 성적인 단어를 포함한 비속어를 내뱉었던 겁니다. 차마 제 입에 담기 힘들 수준으로 더러운 표현이라 떠올리기도 싫습니다. 그 자리에서 난리가 났고, 저는 상당한 패닉에 휩싸였습니다.
첫째, 논리적인 패닉입니다. 제가 계속해서 테스트를 했을 때는 저렇게 심한 말이 나온 적이 없었습니다. 확률적으로 운이 없어서 그런 메시지가 돌아왔다는 건 그렇다 쳐도, 왜 친구가 사용했을 때 처음 그런 일이 터진 건지, 그리고 많고 많은 말 중에 왜 하필 "안녕?"이라는 말에 그런 대답을 했던 걸지. 인공지능은 학습을 한다고 했잖아요. "안녕"이라는 물음에 얼마나 많은 '사람'들이, 사용자들이 그런 외설적인 욕설을 했던 걸까요?
둘째, 신념에 대한 패닉입니다. 누군가가 제게 "너는 프로그램을 왜 만들어?"라고 묻는다면, 저는 이렇게 답하겠습니다. 저는 제 프로그램을 통해 사람들이 더 편한 삶을 살고, 즐거움과 편리함을 얻었으면 하는 바람으로 프로그램을 만듭니다. 당장 GGHS Time Table도 그렇고요. 여러분의 피드백 하나하나가 제겐 정말 소중하고, 제가 계속해서 프로그래밍을 할 수 있게 하는 원동력이 됩니다. 그런데, 그게 오늘 부서져버린 거잖아요. 내가 만든 프로그램이 누군가에게 상처를 준다? 그럼 그걸 왜 만들죠? 제 신념을 깨부수는 일이에요. 제 손에 피를 묻히는 기분입니다. 저는 누구에게도 상처를 주고 싶지 않습니다. 제가 만든 프로그램으로 인해 누군가가 상처를 받게 되는 일은 더더욱 피하고 싶네요.
다시 말씀드리지만, 옴니버스, 그러니까 제가 만들고 있는 이 챗봇 프로그램은 껍데기일 뿐입니다. 진짜 코어는 챗봇 API들이에요. 네이버 클로바도 있고, 카카오 i도 있고, 빅스비, 구글어시스턴트도 있습니다. 이들의 API가 모두 활용 가능하다면 재미있을 텐데요.
저는 옴니버스를 폐기하기로 했습니다. 정확하게는, 옴니버스에 사용된 챗봇 API, 즉 이 챗봇을 다른 챗봇으로 교체하는 겁니다. 이 챗봇은 더 이상 사용하지 않으려고요. 이런 일이 없으리라고 생각했던 건 아닌데, 제가 예상했던 것보다 훨씬 뜬금없이, 그리고 훨씬 높은 수위로 충격과 공포를 선사해주니 도저히 그냥 쓸 수가 없었습니다. 앞서 말했지만, 전 제 프로그램으로 남들에게 상처주기 싫습니다.
프로그래머에게 윤리가 중요한 이유를 알겠습니다. 이러한 데이터의 오염은 왜 발생한 걸까요. 한편 이러한 편향의 오류와 블랙박스의 문제는 누구에게 책임을 전가시켜야 할지도 잘 모르겠습니다. 나쁜 데이터를 주입시킨 사용자들의 탓일지, 아니면 그걸 차단하지 못한 개발사의 탓일지, 그것도 아니라면 그냥 인공지능 자체의 구조적 문제라고 봐야 할지.
저는 지금 상당히 정신적 충격이 큰 상황입니다. 생각해보세요. 여러분의 자식이 평소에 칭찬도 많이 듣고, 행실이 바르다가 갑자기 다른 사람들에게 피해를 끼치고 다니고 한순간에 평판이 떨어진다면, 여러분의 상실감은 어떨 것 같나요? 제가 그런 기분입니다. 프로그램 하나 만들 때 잠도 청하지 않으면서 제 영혼까지 갈아 넣는 편인데, 그렇게 만든 프로그램이 이런 결과를 낳았다니. 배신당한 기분이네요. 물론 이건 이 챗봇의 문제긴 하지만, 결과적으로는 그걸 선택한 책임이 저에게 있는 거니까요.
