왜 우리는 기계보다 먼저 자신을 탓할까

도덕적 크럼플 존, 모든 책임을 떠안는 자동화 시대의 인간

박사과정을 함께 했던 실리콘그래픽스 컴퓨터

나이가 있는 사람들은 기억할 것이다. 책상의 반이상을 차지하던 무겁고도 거대한 데스트탑 컴퓨터를. 지금의 컴퓨터는 책 한 권 정도의 크기 정도로 얇고 가벼워졌다. 게다가 터미널에 복잡한 명령어를 칠 필요도 없다. 손가락으로 슥슥 비비기만 해도 척척 알아서 번개같이 일한다. 이런 기계로 하지 못하는 일이 있다면 그건 당연히 무식한 내 탓이다. 이토록 빠르고 강력한 기계를 만들어준 기술이나 시스템을 비판할 생각은 없다. 나는 기계를 이해하고 한 몸처럼 움직일 때 가장 기분이 좋다. 그것을 자유자재로 다루지 못하는 건 전적으로 나의 무능이다.

어렸을 때, 아버지는 쓰시던 니콘 FM2라는 필름 카메라를 물려주셨다. 무겁다는 단점만 빼면 정말 기특한 도구였다. 조리개, 셔터속도, 필름 감도 같은 것들을 눈으로 보지 않고도 감으로 빠르게 바꿔가며 사진을 찍을 수 있었다. 나는 사람들이 준비하기도 전에 자연스럽게 웃고 있는 순간을 찍는 걸 좋아했다. 왜 말도 없이 찍었느냐고 눈이 동그래져서 짐짓 화난 듯, 활짝 웃는 얼굴들. 그런 사진들이 포즈 잡고 찍은 것보다 훨씬 좋았다. 미안할 정도로 못 나왔으면 혼자보고 조용히 버리면 그만이었다. 결과에 대한 책임도, 판단도, 모두 나에게 있었다.

역시 충직한 니콘 기계식 카메라

시간이 흘러 디지털카메라가 나왔다. 필름도 필요 없고, 현상도 필요 없다. 결과는 즉시 확인할 수 있고, 보정도 가능했다. 수백, 수천 장을 마음껏 찍고, 흔적도 없이 버릴 수도 있었다. 정말 대단한 발명품이지 않나? 그런데 그 카메라는 내 사진 생활의 분수령이 되었을까. 결론만 말하자면 그렇다. 그 카메라 이후 나는 사진 찍기 취미를 아예 접었으니까.

새로 산 카메라는 할 수 있는 것이 정말 많았지만, 정작 내가 원하는 대로 움직이지는 않았다. 너무 많은 것이 자동으로 미리 세팅돼 있었고, 그걸 바꾸려면 겹겹의 미로 같은 메뉴 속을 헤매야 했다. 기능은 많았지만, 몸으로 익힐 수 있는 ‘감’은 없었다. 흔들리고, 어둡고, 눈이 빨간 사진이 계속 나왔다. 그런데 더 괴로웠던 건, 내가 무엇을 잘못하고 있는지도 알 수 없었다는 점이다. 나는 몹시 부끄러웠다.

유튜브도 없던 시절, 매뉴얼은 두꺼운 책 한 권이었다. 회사가 만들어낸 생소한 용어로 가득했다. 그런데 읽고 싶지가 않았다. 뭔가 주도권이 바뀐 느낌이 들었기 때문이다. 이유야 어쨌든 그 카메라에 적응하지 못한 건 내 책임이었다. 적응 못한 걸 넘어, 기계식 로터리 스위치를 그리워하는 꼰대가 돼 버렸다. 카메라는 서랍 속에 넣어버렸다. 얼마 쓰지도 않았는 데, 고물이 돼 버렸다. 그게 더 미안했다.

지금은 카메라 욕심 전혀 없다. 그냥 폰 카메라를 쓴다. 폰 카메라도 생각보다 기능이 많지만, 굳이 찾지 않는다. 그냥 자동으로 찍는다. 결과가 마음에 들지 않아도 그러려니 한다. 이제는 사진을 잘 찍고 싶다는 욕심 자체가 사라졌다. 나의 사진 취미는 그렇게 죽었다.

나이가 들어가며 저런 일이 점점 더 많아지는 것 같아 의기소침하던 얼마 전 "도덕적 충격흡수장치: 인간과 로봇 사이의 책임소재문제: Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction"이라는 논문을 접했다. 자동화 시스템에서 오류가 발생했을 때, 책임과 비난은 사용자에게만 집중된다는 이야기였다. 논문을 보고 알았는 데 자동차 내부에는 엔진을 보호하기 위한 크럼플 존이라는 충격흡수구조가 있다고 한다. 저자는 자동화 시스템에 이상이 생겼을 때 그것에 대해 책임을 흡수하는 건, 시스템도 자본도 아닌 사용자라는 면에서 인간이야말로 시스템의 도덕적 크럼플 존이라는 표현을 제안한다. 그 개념은 디지털카메라 앞에서 느꼈던 나의 부끄러움에 조금이나마 면죄부가 되었다. 나는 찾을 수 없는 메뉴의 미로를 이해하지 못하는 나 자신을 탓하는 도덕적 크럼플 존에 있었다.

카메라는 사실 약과다. 너무나 많은 것이 자동 설정으로 출고되는 전자 제품들, 애써서 내 마음에 들도록 세팅해 놓으면, 자주 업데이트되며 멋대로 바뀌는 환경들을 접할 때 우리는 파워유저가 되지 못한 나 자신을 탓하고, 변화에 적응하지 못하는 나이 탓을 한다. 시스템이나 자본을 비난하기보다, 먼저 알아서 고개를 숙인다. 이런 시스템에서 다수의 사용자의 고통은 곧바로 개인의 무능함으로 낙인찍힌다. 어려움을 극복한 소수에게 파워유저라는 훈장이 주어지지만 그들이라고 거기에 오를 때까지 자책 한 번 안 했을까? 사람이 자진해서 이렇게 행동하는 데, 기계나, 시스템, 또는 자본이 나에게도 책임을 나눠 달라고 나설 이유는 없어 보인다. 그러므로 인공지능의 시대에는 이 구조가 더 노골적으로 작동할 것이다.

나를 도와준다는 기능이 끝없이 붙은 기계들을 쓰다 보면 가끔 이런 생각이 든다. “주인님, 이걸 입으세요. 이걸 드세요. 이걸 보세요. 잘하고 계십니다. 저만 믿으세요.” 나는 번쩍이는 성에 사는 주인이다. 하지만 너무 많은 것을 대신해 주는 집사 때문에, 정작 방 밖으로 나가지도 못한다. 그리고 그 방 밖에서 벌어지는 일의 책임은 누가 지게 될까.

이런 주제가 언젠가 한번쯤은 사회적 담론이 되기를 바란다. 우리 보통 사람의 어깨는 그렇지 않아도 너무 무겁다.