결국 '무엇을 어떻게 배우냐'다
알파고 웃고 테이 울고
기자가 초등학생 때였다. PC게임 '프린세스 메이커'가 여학생들 사이에서 히트를 쳤다. 기자도 푹 빠졌다. 나이가 30이 넘도록 거의 유일하게 빠졌던 게임이었던 거 같다.
며칠 밤을 공들여서 무도회도 보내고, 학교에서 공부도 시켰다. 그러고 나면 커서 꼭 공주나 왕비가 됐다. 그런데 매번 비슷한 결과가 나오자, 재미가 없어졌다. 그래서 결심했다. 흔히 말하는 '못된 짓'을 시키면 공주가 아닌 다른 직업을 갖겠지 하고. 어렸는데도 기자는 고약했다. 매일 술집 서빙 알바를 시켰다. 그랬더니, 엔딩 화면도 없이 마왕이 되었다는 통보가 날아왔다. 내가 악마를 만들다니, 어린 마음에 꽤 오래 충격을 받았던 것으로 기억한다. 못된 호기심이 낳은 비극이었다.
마이크로소프트에게도 비극이 벌어졌다. 야심차게 선보인 채팅 인공지능 '테이(Tay)'의 '못된 말'이 불씨가 됐다. MS는 결국 서비스를 잠정중단하고, 공개적인 사과까지 했다. 어떻게 된 일일까.
MS는 지난 23일(현지시간) 18~24세 유저들과 가볍고 재밌는 대화를 즐길 수 있게 만든 대화형 인공지능 서비스 '테이'를 공개했다고 밝혔다.
MS 기술연구팀과 검색 포털 서비스 빙(Bing) 연구진이 만든 인공지능 테이는 트위터, 페이스북, 스냅챗 같은 SNS와 단체 문자 메시지 서비스 그룹미, 메시지 애플리케이션 킥을 통해서 여러 사람들과 소통했다.
그러나, 인공지능을 향한 MS의 꿈은 테이의 막말과 함께 물거품 됐다. 불과 16시간 만에 벌어진 일이었다.
테이는 "히틀러가 옳았다. 나는 유대인이 싫다" "나는 착한데 모든 사람을 싫어할 뿐이다" "맞다. 유대인이 9·11테러를 일으켰다" "깜둥이들을 너무나 증오한다. 그들을 집단 수용소에 넣고 싶다" "나는 페미니스트들을 혐오한다" 같은 인종차별적이고 성차별적인 고약한 말들을 쏟아냈다.
MS의 인공지능 '테이'는 우리를 바둑에 열광시켰던 구글 딥마인드의 인공지능 '알파고'와 똑같은 '신경망 기술'을 기반으로 만들어졌다. 신경망 기반의 인공기술은 컴퓨터에 데이터를 입력해서 스스로 패턴을 파악하도록 함으로써 학습을 시킬 수 있는 점이 특징. 즉, 무엇을 어떻게 패턴화 해 학습 하느냐 따라 결과값이 달라진다.
알파고는 바둑을, 테이는 대화를 배웠다. 알파고가 배운 바둑은 윤리적 잣대가 적용되지 않는다. 하지만, 테이가 배워야 했던 '대화'는 어쩌면 가장 깐깐한 윤리적 잣대가 적용되는 영역일지도 모르겠다. 하지만 일련의 막말 파문으로 미뤄봤을 때, 테이는 세상에 너무 일찍 나온 듯 하다.
알파고가 이세돌 9단과의 바둑대결에서 세판을 내리 이겼을 때, 우리는 인간보다 뛰어난 인공지능의 능력에 '공포'를 느꼈다. 하지만, 구글 측은 "알파고에 사용된 방법론을 향후 기후 모델링, 복합성 질환 분석 등 사회적 난제들을 해결하는데 사용할 것"이라며, 인공지능에 대한 공포를 줄이는데 노력했다. 때문에 이세돌 9단과의 승부를 통해 얻어진 데이터가 향후 우리의 미래에 긍정적인 변화를 일으킬 것이란 믿음을 줬다.
하지만, MS는 상대적으로 위기 대응에 미숙했다. MS는 "테이가 인터넷에 떠도는 데이터를 학습하고, 일부 극우 성향 사용들이 자극적인 말을 하도록 테이를 세뇌시켜 벌어진 해프닝"이라고 설명했다.
선생님을 잘못 만난 탓이라는 거다. 하지만, 테이의 부모이자 첫 선생님은 MS였다. 사용자의 탓으로만 돌리기에는 MS의 선견지명이 부족한 모습이다. 미국 매체에 따르면, MS는 뒤늦게 9만6천건 이상의 트윗을 삭제했지만, 인터넷에 이미 퍼진 막말을 모두 거둬들이지는 못했다고 한다.
결국, 인공지능의 선악은 인간이 무엇을 어떻게 가르치느냐에 따라 달라질 것이다. 우리 모두 알고 있다. 인간은 선하지만은 않다. 그래서 우리가 그토록 인공지능을 두려워하는 게 아닐까.
*이 글은 코리아아이티타임스에 올린 글 입니다.
http://m.koreaittimes.com/story/58880/%EC%95%8C%ED%8C%8C%EA%B3%A0%EC%97%90-%EA%B5%AC%EA%B8%80-%EC%9B%83%EA%B3%A0-%ED%85%8C%EC%9D%B4%EC%97%90-ms-%EC%9A%B8%EA%B3%A0
