모랄 머신이 남긴 뜻밖의 호러물
설계의 섬세함에 대하여
앞서 마주한 아이의 “지금도 신분제 사회 아닌가요?”라는 질문이 인공지능에 투영된 사회적 민낯을 보여주었다면, 이번 이야기는 기술을 교실로 가져오는 교사의 ‘설계’가 얼마나 섬세해야 하는지에 대한 뼈아픈 기록이다.
인공지능 융합교육을 전공하며 교실로 복귀한 나는 나름 힙한 인공지능 교사를 꿈꿨다. 최신 기술 담론을 아이들의 눈높이에 맞춰 세련되게 전달하겠다는 의욕이 앞섰다. 중학교 1학년 주제선택 수업 시간, 그날 나는 두 가지 보따리를 풀었다. 하나는 로봇이 주방을 정리하고 쓰레기를 버리며 인간의 명령에 다정하게 응답하는 최신 기술 영상이었고, 다른 하나는 MIT에서 개발한 자율주행 윤리 테스트인 모랄 머신(Moral Machine)이었다.
먼저 보여준 영상 속 로봇은 기특할 정도로 영리했다. 인간의 복잡한 요구를 척척 알아듣고 집안일을 수행하는 모습에 나는 흐뭇한 미소를 지으며 아이들의 반응을 살폈다.
"얘들아, 정말 편리한 세상이 오지 않겠니? 이제 귀찮은 일은 로봇이 다 해줄 거야."
나의 장밋빛 멘트가 채 끝나기도 전, 한 아이가 창백해진 얼굴로 손을 들었다.
선생님, 그런데 저 로봇 왠지 무서워요. 저렇게 똑똑한데 갑자기 마음이 변해서 우리를 공격하면 어떡해요? 우리를 도와주는 척하다가 갑자기 해치면요... 애초에 저런 걸 왜 만드는 거예요?
아이의 눈에는 편리함에 대한 기대 대신, 정체 모를 존재가 내 안방까지 들어온다는 것에 대한 본능적인 거부감과 실존적 공포가 서려 있었다. 나는 분위기를 반전시켜보고자 두 번째 보따리인 ‘모랄 머신’을 꺼냈다.
모랄 머신이란 자율주행 자동차가 사고를 피할 수 없는 절박한 순간에 누구를 희생시키고 누구를 구할 것인지 선택하게 하는 가상 실험이다. 화면에는 잔인한 선택지들이 놓인다. 직진하면 무단횡단을 하는 할머니를 치게 되고, 핸들을 꺾으면 벽에 부딪혀 차에 탄 젊은 운전자가 죽게 되는 식이다. 인공지능이 인간의 나이, 직업, 사회적 가치를 계산기에 넣고 누구의 목숨이 더 '무거운지'를 결정하게 하는 딜레마를 던진 것이다.
나는 이 수업을 통해 알고리즘의 이면에는 결국 인간의 가치 판단이 숨어 있다는 사실을 알려주고 싶었다. 인공지능이 내놓는 결과는 결코 절대적인 진리가 아니며, 그 이면에는 정답이 없는 가치 문제에 대한 사회적 합의가 반드시 필요하다는 것을 아이들이 깨닫기를 의도했다. 이를 통해 미래의 설계자가 될 아이들이 기술에 대한 윤리적 책임감을 체감하기를 바랐던 것이다.
하지만 이것은 불붙은 공포에 기름을 붓는 격이 되었다.
“선생님, 인공지능 자동차가 사고가 나기도 전에 누구를 죽일지 미리 점수 매기고 결정해둔다는 게 너무 소름 끼쳐요. 기계가 우리 생명을 심판하는 것 같아 무서워요.”
아차 싶었다. 나는 기술이 마주한 윤리적 과제를 설명하고 싶었지만, 아이들은 그것을 내 삶을 위협하는 냉혹한 침입자이자 차가운 심판자로 받아들였다. 기술의 사회적 책임을 논하고 싶었던 수업이, 졸지에 미래 기술에 대한 괴담 유포 현장이 되어버린 순간이었다.
교무실로 돌아와 텅 빈 모니터를 보며 깊은 반성에 빠졌다. 인공지능을 설계할 때 내부 로직(Logic)이 아무리 완벽해도, 사용자가 마주하는 화면인 인터페이스(Interface)가 불친절하면 결국 실패한 설계가 된다.
나의 수업 역시 그랬다. 기술과 윤리적 책임이라는 단단한 알맹이를 만드는 데만 급급했을 뿐, 그것이 아이들의 감수성이라는 화면 위에 어떤 차가운 표정으로 그려질지는 미처 배려하지 못했던 것이다. 결국 교사인 나의 설계가 아이들의 마음이라는 인터페이스를 고려하지 못해 발생한, 뼈아픈 설계의 미스매치였다.
여기서 결여된 것은 기술에 대한 지식이 아니라, 바로 정서적 리터러시(Emotional Literacy)였다.
정서적 리터러시란 감정을 읽고 이해하며 그것을 적절하게 조절하는 능력을 뜻한다. 감수성이 예민한 아이들에게 기술을 소개할 때는, 효율성보다 그 기술이 아이들의 내면에 일으킬 정서적 파고를 먼저 읽어냈어야 했다. 쓰레기를 버려주는 다정한 손길이 누군가에게는 '나의 공간을 침범하는 낯선 힘'으로 느껴질 수 있고, 최선의 사고 방지 알고리즘이 누군가에게는 '생명을 수치화하는 잔인함'으로 다가갈 수 있음을 간과한 것이다.
국어 교사로서 텍스트의 맥락은 읽을 줄 알면서, 정작 수업이라는 거대한 텍스트가 아이들에게 줄 정서적 충격의 행간은 읽지 못했다. 기술이 정교해질수록 우리에게 필요한 것은 역설적으로 마음의 문해력이다. 알고리즘의 논리를 배우기 전에, 그 기술이 우리 삶에 어떤 감정적 궤적을 남기는지 성찰하는 과정이 선행되어야 한다.
기술이 차가워질수록 그 기술을 교실로 옮겨오는 교사의 손길은 더욱 따뜻하고 섬세해야 한다. 다음 수업은 부디 호러가 아닌, 우리가 서로의 마음을 읽으며 길을 찾아가는 휴먼 드라마가 되기를 꿈꾸며 나는 오늘도 설계도를 다시 그려본다.