책임지지 않는 사회

AI는 잘못하지 않아요.

우리는 지금 AI가 제공하는 편리함이라는 독사과를 아무런 경계심 없이 받아먹고 있는 건 아닐까?
그 달콤한 유혹에 빠져, 우리 스스로의 주체성과 사고력을 잃어가면서, 누군가의 꼭두각시처럼 움직이게 되는 건 아닐까?

AI는 빠르고 정확하다. 우리가 생각하기 힘든 내용들까지도 수십문장 깔끔하게 답변해 준다. 그런 나머지 인간보다 더 객관적일 것이라는 믿음까지 준다. 우리가 생각하지 못한 객관적인 통찰력을 가진 것처럼 보이는 AI를 보면서 우리는 점차 많은 것을 AI에게 위임하고 의존하게 된다.

우리는 점점 스스로 판단하는 걸 포기한다. 굳이 내가 머리를 싸매고 고민할 필요가 없으니까. 실수도 줄어들고, 실패도 덜 할 것 같으니까. 그렇게 AI를 믿고 따르는 횟수가 늘어가면서, 어느새 생각하고 선택하는 행위마저 AI에게 내맡기게 된다.

"오 좋은데? 한 번쯤은 따라볼까?"라는 가벼운 시작은,

"AI가 이렇게 말했으니 이게 맞겠지."라는 확신이 되고,

"AI를 따르는 것이 가장 안전한 길이다."라는 무의식적 신념으로 변해간다.

이렇게 AI의 기준이 사회의 기준이 되기 시작하면, 사람들은 점점 스스로 판단하는 힘을 잃어간다. 더 나아가, 생각하는 것 자체를 귀찮아하고 두려워하게 될 것이다. 생각하는 행위에는 반드시 책임이 따르기 때문이다. 반대로, "나는 그냥 AI가 시키는 대로 했을 뿐이에요."라고 말할 수 있다면, 책임의 무게를 다른 데로 떠넘길 수 있다.

그러던 중, 세계 곳곳에서 문제가 터지기 시작할 것이다. AI의 결정을 맹목적으로 따른 결과, 선을 넘은 사건들이 뉴스에 오르내리게 된다. 어떤 사람은 말할 것이다.

"그건 내가 선택한 게 아니라, AI가 추천한 거예요."
또 다른 사람은 말할 것이다.

"나는 그냥 AI의 판단을 믿었을 뿐이에요."
책임의 주체가 희미해진다. 그 누구도 자신이 잘못했다고 말하지 않는다. 모두가 AI라는 방패 뒤에 숨어버린다.

진료 현장에서는 AI가 내린 진단을 그대로 전달하는 의사가, 법정에서는 AI의 판결을 그대로 따른 판사가, 학교에서는 AI가 짜준 커리큘럼에 따라 학생을 관리하는 교사가, 회사에서는 AI가 작성한 인사 평가에 따라 승진과 좌천을 결정하는 관리자가 나타날 것이다. 그리고 모두가 이렇게 말한다.

"나는 그냥 AI를 따른 것뿐입니다."

그 누구도 책임을 지려 하지 않는다. 아무도 자신의 판단과 행동에 대해 답하지 않는다. AI가 내린 결론이기 때문에, 나는 잘못이 없다는 논리다.

그러나 시간이 지나면 알게 될 것이다.
AI의 결정으로 만들어진 결과에 대해, 우리가 떠넘긴 책임들에 대해, 인간이 결국 책임을 져야 한다는 사실을.
AI는 잘못하지 않는다. AI는 실수하지 않는다. 그렇게 AI를 무비판적으로 믿고 따르기로 선택한 것은 인간이다. 선택에 대한 책임이 뒤늦게 왔을 뿐, 그 과정에서 발생하는 수많은 선택과 결과, 책임들은 스스로 책임질 수 있는 기회를 준 게 아닐까 생각이 든다.

"우리는 정말 책임을 AI에게 넘기고 싶었던 걸까? 아니면 처음부터 책임지고 싶지 않았던 걸까?"