AI 시대에 더욱 필요한 것이 윤리라는 생각이 듭니다.
안녕하세요 겨울방주입니다.
오늘 아침 이국종 병원장에 대한 딥페이크 영상을 기사로 접하고 재작년인 2024년 11월에 했던 실험이 떠올랐습니다. AI 툴을 이용해서 이미지와 영상을 합성하여 이미지가 영상의 동작을 따라 하도록 만든 영상입니다.
실험을 해보고 든 생각이 있습니다. 비록 조잡하기는 했지만 기술이 발전하게 된다면 상당히 정교한 기술과 프롬프팅을 통해 딥페이크 영상을 충분히 만들고도 남겠다는 생각입니다. 한번 더 실험해 보니 실제인물과 영상을 합성시키는 것은 더 큰 문제가 될 수 있겠다는 생각을 하게 되었습니다.
실험 결과물은 전부 삭제했습니다.
그로부터 상당 부분 시간이 지났는데, 오늘 그 기사를 접하고 경악을 하였습니다. 실제인물인 이국종 병원장의 이미지와 그의 목소리를 학습시켜서 딥페이크 영상을 만든 겁니다. 상상만 해도 소름 돋는 일입니다. 이국종 병원장 같은 경우 의사인데, 게시자가 그의 이미지와 목소리를 따서 의학지식을 담은 내용의 영상을 올렸지요. 마치 이국종을 사칭해서요. 이에 대해 전문적인 의료지식이 아니라는 지적도 나옵니다. 당연히 본인도 자신의 개인정보가 누출됐다고 신고를 했을 겁니다.
기술을 악용한 딥페이크가 이렇게 위험한데 만약에 이를 성적 행동을 하는 영상으로 만들어서 수치심을 유발하면 과연 어떻게 될까요? 그 자체만으로도 큰 문제가 될 수 있습니다. 그래서 윤리가 상당히 중요한 것입니다. AI가 어떻게 튀어나갈지 알 길이 없습니다. 어떤 변수를 만들어낼지 알 길이 없습니다. 그래서 윤리 기준을 보다 엄격히 세워야 합니다. 그런데 우리가 만들어낸 AI 기본법... 윤리기준이 제대로 세워져 있지 않습니다. 이게 어찌 된 일인지 알 길이 없습니다. 단순히 AI를 발전만 시키면 끝이 아닙니다. 물론 발전하는 것도 좋지만, 적어도 윤리문제는 계속해서 생각해야 합니다. 안 그러면 N번방 보다도 심각한 범죄가 발생할지도 모릅니다. AI를 통해서 말이죠.
AI 윤리... 정말 시급합니다.
이상 겨울방주입니다.