증언 불가능성—AI 이미지의 윤리 4
딥페이크의 문제는 단순히 '가짜 이미지'라는 데 있지 않다. 역사적으로 가짜 이미지는 항상 존재했다. 딥페이크의 진정한 위험은 이미지와 증언 사이의 연결을 붕괴하는 데 있다. 사진이 증거로 기능할 수 있었던 것은, 사진이 현실의 흔적이었기 때문이다. 딥페이크는 흔적 없이 흔적의 형식을 모방함으로써, 모든 흔적의 신뢰성을 부식시킨다.
전쟁 범죄의 증거가 '그건 AI가 만든 것일 수 있다'는 한마디로 부정될 수 있는 세계. 인권 유린의 기록이 '딥페이크일 수 있다'는 의혹으로 무력화될 수 있는 세계. 우리는 이미 이 세계에 진입하고 있다. 사진이 200년간 축적해온 증언적 권위가, AI 이미지의 등장과 함께 급속히 침식되고 있다. 이러한 상황에서 새로운 이미지 윤리가 요구된다. 그것은 금지의 윤리가 아니라 분별의 윤리—AI 이미지가 무엇을 할 수 있고 무엇을 할 수 없는지를 정확히 인식하는 것이다.