AI가 알고 있던 비극의 시나리오, 그리고 침묵

캐나다의 평온한 일상을 깨뜨린 ‘텀블러 리지(Tumbler Ridge) 중등학교 총기 난사 사건’은 교육 공동체 전체에 깊은 슬픔과 함께 뼈아픈 질문을 던졌습니다. 이 비극의 이면에는 우리가 매일 편리하게 사용하는 인공지능(AI) 기술과, 그 기술이 놓쳐버린 '인간적 책임'에 대한 무거운 진실이 자리 잡고 있습니다.

AI의 알고리즘이 포착한 위험, 그러나 멈춘 보고

사건의 가해자였던 18세 청소년은 범행 전 수개월 동안 오픈AI(OpenAI)의 챗봇과 대화를 나누며 자신의 폭력적인 시나리오를 구체화해 나갔습니다. 실제로 작년 6월, AI 시스템은 이 계정에서 명백한 이상 징후를 포착해 차단 조치를 취했습니다.

하지만 거기까지였습니다. 업체는 이 사실을 수사 기관에 즉시 알리지 않았습니다. "즉각적이고 실질적인 위협으로 판단하지 않았다"는 업체의 해명은, 소중한 아이들을 잃은 이곳 캐나다 부모들에게는 너무나 차갑고 무책임한 대답일 뿐입니다.

오타와로 소환된 기술 권력: "신고 의무를 강화하라"