내가 하지 않은 말들이 떠다닌다면 어떨까?
기사 요약: 유튜브와 SNS를 중심으로 AI와 딥페이크, TTS(text to speech) 기술을 활용한 전문가 광고가 빠르게 퍼지고 있다. 전문가 대담이나 토크쇼, 팟캐스트의 형식을 빌려 실제 전문가인척 위장해 소비자에게 접근. 영상에는 "살이 빠지지 않으면 전재산을 주겠다.", "암과 치매까지 예방이 가능하다"는 식의 과장된 표현 난무. AI 기술이 점차 발달하며 음성과 입모양의 불일치와 부자연스러운 동작이 사라졌다. 누구나 고품질 가짜 영상을 만들 수 있어 일반인의 진위 판단이 어려워졌다. 식약처는 가짜 의사와 약사 등의 전문직인 합성인물이 등장하는 광고를 소비자 기만으로 판단해 단속 대상에 포함하기로 결정했다. 내년에는 생성형 AI의 결과물에 대한 워터마크 의무화를 도입할 예정이다.(뉴스출처: https://www.newstomato.com/ReadNews.aspx?no=1275504)
나는 이 기사를 보고 굉장히 흥미가 생겼다. 그래서 수업에서 이 주제를 발표하고, 내가 직접 만든 영상물도 한번 첨부해봤다. 결과는 대성공이었다. 지금은 전 대통령님인 윤석열 전대통령님이 다이어트약을 파는 그런 컨셉으로 한번 영상을 만들어보았다. (이 영상은 앞서 밝히기를 거짓임을 밝힌다.)
이것 말고도 AI의 활용은 무궁무진하다. 이재명 대통령님이 날아오르는 영상, 문재인 전대통령님이 제로투를 추는 영상도 만들 수 있었다. 내가 하지 않은 말과 하지않은 행동을 이제는 모두가 볼 수 있는 것이다.
"가장 무서운 상태는 진실과 거짓이 섞여있는 상태이다."
이 말처럼 진짜 내가 했던 말과 내가 하지 않은 말이 섞여있는 상태에서 다른 사람은 진위여부를 가리기 어려울 것이다. 가짜뉴스를 퍼뜨리기 쉬워진 것이다. 우리는 AI에 대한 윤리의식도 갖추어야 하지만, 동시에 무엇이 진실인지 가려낼 수 있는 상태가 되어야 한다는 것이다.