인공지능의 윤리성 강의 및 마이클 샌델 <정의> 특강을 듣고
교양 필수로 지정되어 듣게 된지라 별 기대가 없었던 인공지능 교양 수업은 예상외로 매번 꽤 큰 즐거움을 가져다주었다. 물론 인공지능 수업이라 부르기엔 입문자용 순한 맛 강의겠지만, 수업을 들으며 새삼스럽게 내가 역사와 사회, 인문학만큼이나 수학 과학도 좋아했었다는 사실을 깨달았다. 그런데 “윤리성”을 다뤘던 이번 강의만큼은 조금 힘들었다. 강의가 별로였다는 뜻이 아니다. 강의 초반부터 교수님이 제시한 트롤리 딜레마가, 내가 한동안 외면하고 있던 지점을 정확히 찌르고 들춰냈기 때문이다.
<정의란 무엇인가> 속 트롤리 딜레마를 처음 접한 건 중고생 때 수업 시간이었던 것 같다. 그때에도 지극히 혼란스러웠으나, 아아, 지금의 나는, 이 질문들에 어떠한 선택도 옳다 그르다 대답 할 수 없는 상태인데. 과제 제출 기한이 임박했음에도 교수님이 수업 자료에 첨부해 주신 한 시간짜리 하버드 특강을 봤다. 날카로운 송곳처럼 틈을 파고드는 마이클 샌델 교수의 질문에 나름대로 주관과 확신을 가지고 대답하는 학생들이 부러웠다.
영상 속에서 더들리와 스티븐스 재판에 대한 이야기가 나오자마자, 곧바로 영화 <피스 오브 파이>가 해당 사건을 모티브로 만들어진 영화라는 사실을 알 수 있었다. 그 영화도 아주 오래전에 봤었는데・・・・・・. 역시 나에게 어떠한 해답보다는 크나큰 충격과 혼란만 안겨준 기억이 있다. 그럼에도 지금보다 조금 더 순수했던 그때는, ‘그래도 어떻게 사람을 먹어. 나 같으면 죽고 말지.’라고 생각했던 것 같다. 더들리와 스티븐스가 유죄냐 무죄냐를 놓고 이야기하던 중 한 학생이 “불가피할 경우 범법 행위가 용납된다고 생각하진 않지만, 불가피함이 어느 수준에 달하면 죄를 물을 수 없다”고 말한 것이 인상적이었다. “타인의 욕구나 욕망보다 내 욕구나 욕망이 우선이 될 때 범죄가 발생한다”고 말한 학생도 있었는데 와닿는 말이었다.
영상 속에서는 ‘최대 다수의 최대 행복’을 추구하는 것이 선이라고 말하는 공리주의적 관점에 다수의 학생이 동의하는 듯 보였다. 나는 지금껏 살아오면서 행복한 ‘다수’이기보다 소외된 ‘소수’에 속하는 일이 많았다. 약물에 민감하게 반응하는 예민한 몸을 가진 나는 코로나 백신을 끝까지 맞지 않았다. 그러자 나라에서 말 그대로 나를 ‘왕따’시켰다. 식당에도, 카페에도 못 가게 했고 심지어 새로운 일자리는 구할 수도 없었다. 일하던 곳에서도 눈치를 줬다. 같이 알바하던 스물여덟 언니는 백신 맞고 심근염에 걸렸으며, 두 다리 건너면 백신 부작용으로 죽은 사람이 있다. 그런데도 당시 주변에는 “난 백신 맞아서 죽게 되더라도 맞을 거야”라고 말하는 사람이 꽤 많았다. 그런 반응에 당황하면서도, 글쎄, 그런 단언은 당신 아니면 당신 가족이 진짜로 죽거나 죽을 만큼 아파 본 다음에 하는 게 낫지 않을까, 라고 생각했다.
공리주의에서는 다수가 행복한 것이 그 사회의 최대 행복인 것처럼 말하는데, 만약 모두를 위한다는 명목으로 희생된 한 명의 불행이 나머지 모든 사람의 행복을 합친 것보다 훨씬 크다면 어떨까? 과연 인간의 행복과 불행을 정량적으로 측정할 수 있을까?
마이클 샌델은 철학이 친숙한 것을 낯설게 하며, 친숙한 것이 한번 낯설어지기 시작하면 되돌릴 수 없다고 말했다. 자기 인식은 순수함을 잃는 것. 자기 인식으로 불안을 느낀다고 해도 생각과 지식은 되돌릴 수 없다. 철학은 관습적인 것이나 기존의 관념, 신념에서 우리를 떼어놓기 때문에 철학적 자기 인식을 시작하면 개인적이고 정치적인 위험이 닥칠 수 있다. 이러한 위험이 닥쳤을 때 전형적으로 나타나는 반응은 회피, 즉 회의주의적 관점에 서게 되는 것이다. 이치를 따지는 건 불가능하며, 개개인의 주관과 선택에 대해 타인이 감히 왈가왈부할 수 없다고. 그렇다. 이와 같은 생각으로 웬만한 행위에 대한 선악 판단을 뒤로하고 꽁무니 빼는 비겁한 회의론자가 바로 나다. 그래서 화요일 아침 아홉 시부터 답 없는 질문을 가져와 나를 괴롭히는 교수님을 내심 원망했다.
이러나저러나 인공지능 기술은 발달하고 있고, 인간은 많은 것을 선택해야 하는 입장에 놓여있다. 책임의 주체가 될 수 없는 인공지능을 인간은 어떤 방식으로 학습시켜야 하는가? 수업 중에 자율주행 자동차의 학습 및 제도화에 대해 조별로 의견을 나눴다. 먼저, 발생 가능한 사고에는 너무 많은 경우의 수가 존재하기 때문에, 우선하는 가치를 기준으로 최소한의 행동 결정 패턴을 분류하는 것은 필요해 보인다. 예를 들어 ‘탑승자 최우선 모드’부터 ‘인명피해 최소화 모드’까지 행동 패턴을 다양하게 범주화할 수 있겠다. 그다음, 시민의 의견을 취합한다. 개인 단위로 의견을 수용하고 적용하는 것은 어려우므로, 마을이나 구 등 지역별로 의견을 취합하여 해당 지역마다 다른 주행 규칙을 적용하는 방안이 있을 수 있겠다. 그러나 자율주행 자동차의 상용화 자체를 반대하는 지역이 있을 수도 있고, 마을 안에서도 의견 통합이 잘 이루어지지 않을 수 있다는 한계가 존재한다. 또한 시민이 질문 자체에 대해 잘 이해하지 못하거나 깊이 생각해 보지 않은 경우도 많을 것 같다. 이 수업을 듣기 전까지의 내가 그랬듯이, 아직도 ‘인공지능’이라는 개념 자체가 너무 낯선 사람들이 존재한다. 시민에게 의견을 물어보기에 앞서 인공지능 및 철학적 의제에 대한 기본적인 교육이 필요할 것 같다.
자율주행 자동차 전용 보험 서비스의 개발은 꼭 필요하다고 생각한다. 자율주행 자동차의 구매자가 탑승자 최우선 모드와 인명피해 최소화 모드 중 어느 쪽을 선택하는지에 따라 보험료 등에 차등을 두는 것 또한 방안으로 제시되었다. 물론 구매자뿐 아니라 자율주행 자동차를 제조하는 기업 측에도 분명한 책임과 의무를 부여해야 한다. 인공지능에는 해당 인공지능을 학습시키는 인간의 의도가 분명히 들어가므로, 기술자나 사업가에게도 책임 의식이 필요하다.
비용이 많이 들겠지만, 자율주행 자동차 전용 도로를 신설하는 것도 방법이 될 수 있을 것 같다. 어쩌면 ‘도로, ‘보행’ 따위의 개념을 새롭게 정비하는 과정이 필요할지도 모른다.
인공지능의 비약적인 발달과 함께 떠오르는 철학적 의제들과 같이, 완전한 예방이나 해결은 불가능하지만 피할 수도 없는 문제들이 수없이 존재한다. 샌델은 회의주의는 인간 이성의 쉼터이며 그곳에서 이성은 이념적 방황에 대해 성찰 가능하지만, 그곳에 영구적으로 정착할 수는 없다고 말했다.
나는 자기 인식과 성찰을 지나치게 하는 자의식 과잉형 인간이다. 대학에 진학하지 않고 보낸 시간 동안 다양한 경험을 쌓았지만, 무슨 일을 하든 어느 지점에선가 딜레마에 빠지곤 했다. 가면 갈수록 동서남북 사방 팔방 어느 쪽으로도 힘 있게 발을 내딛기 어려워졌다. 그렇게 이도 저도 아닌 상태로 대학에 왔다. 내 목을 조여오는 질문들을 피하고 싶은 마음과, 파고들어 돌파하고 싶은 마음이 둘 다 존재하지만, 아무래도 순수함을 잃어버린 내게 평생 모른 척 도망치기란 불가능할 것 같다. 자꾸만 뭘 더 배우고 보고 알게 되면서, 복잡해진 머리로 수많은 피할 수 없는 문제와 맞닥뜨리게 될 것이다. 이런 어중간하고 불안정한 상태로 평생 어영부영 살아야 한다고 생각하니 눈앞이 캄캄해진다. 제명에 죽기 위해서는 아무래도 종교나 하나 가져야 될 성싶다.
2025.4.8. 대학 입학 첫 학기에 수강한 인공지능 교양 수업 에세이 과제.