앗 이거 AI로 만든 거였네요
한 번만 더 살펴보시지
얼마 전 흥미로운 기사를 하나 읽었다.
https://factcheck.afp.com/doc.afp.com.64QL6ZW
몇 장의 사진과 짧은 영상이 온라인을 들썩이게 만들었다. 러브버그도 소중한 생명이니 방제하지 말자는 환경 단체 회원의 인터뷰 장면이었다. 그 사진은 한 네티즌이 페이스북에 올렸고, 외국 언론이 이를 기사화했다. 그런데 기사 내용은 놀랍게도, 그 사진과 영상이 생성형 AI로 만든 가짜라는 것이었다. 기사에서 직접 말하진 않았지만, 생성형 AI 콘텐츠를 무비판적으로 믿어버리는 태도에 대한 경고가 담겨 있는 듯했다.
애덤 그랜트의 『Think Again』에는 이런 글귀가 나온다.
“확증 편향은 자신이 기대하는 것만 보게 만들고, 소망 편향은 보고 싶은 것만 보게 만든다. 이 두 가지는 단순히 지능을 막는 데 그치지 않고, 진리를 왜곡하고 그에 저항하게 만든다.”
생각해 보면 그 페이스북 유저가 딱 그 예시 같았다. 그는 평소에 환경운동가들을 비판적으로 바라봤던 듯하다. 요즘 갑자기 많아진 러브버그를 보며 혐오스럽다는 생각도 했을 것이다. 그런 와중에 환경운동가가 러브버그에게 욕을 하며 도망친 ‘사진’을 보자, 자기 생각에 딱 맞는 사진을 찾은 듯한 느낌이 들었을 것이다. 그러다 보니 반갑고 기쁜 마음에 그 사진을 페이스북에 바로 올린 것이 아닐까.
요즘은 AI 윤리라는 말을 자주 듣게 된다. 특히 생성형 AI로 글, 이미지, 영상을 만들 수 있게 되면서 AI 윤리에 대한 논의도 늘어나는 것 같다. 그동안의 논의는 주로 콘텐츠를 ‘만드는 사람’의 윤리에 초점이 맞춰져 있었다. 대부분 남의 콘텐츠를 허락 없이 베끼거나, 누군가를 속이거나 괴롭히는 콘텐츠를 만들지 말자는 것이었다. 하지만 현실적으로 그렇게 문제 있는 콘텐츠만 만드는 사람은 많지 않다. 대부분은 AI를 활용해 더 좋은 결과물을 만들고, 더 효율적으로 일하려 한다.
문제는 콘텐츠의 질보다 콘텐츠의 ‘노이즈’에 있다. 이상한 콘텐츠가 더 눈에 잘 띄고, 더 빨리 퍼진다. 그러다 보니 ‘문제 있는 콘텐츠’가 실제보다 많아 보인다. 사람들이 문제 있는 콘텐츠를 안 만들면 좋겠지만, 그런 이상은 이루어지지 않는다. 그러니 이제는 콘텐츠를 만드는 사람의 윤리만 강조할 것이 아니라, 콘텐츠를 받아들이는 사람의 윤리를 더 중요하게 다루어야 한다. AI 윤리에 대한 논의의 방향을 콘텐츠를 받아들이는 사람들이 그 콘텐츠를 한 번 더 생각해 보도록 하는 쪽으로 바꿔야 할 때가 되었다고 생각한다.
우리는 지금, 콘텐츠를 끊임없이 의심해야 하는 시대에 살고 있다. 콘텐츠가 사실을 그대로 보여주고 있는지 아니면 거짓을 전달하는지, 그 컨텐츠가 특정한 의도를 가지고 만들어진 것은 아닌지, 또한 자신의 마음에 드는 콘텐츠만 받아들이는 것은 아닌지 등등을 생각해봐야 하는 것이다.앞서 말한 네티즌도 사진을 조금만 자세히 뜯어보았다면 그 사진이 생성형 AI로 만들어졌다는 사실을 금방 알 수 있었을 것이다. 하지만 그는 그 사진이 자기 마음에 너무 쏙 들었던지 그 간단한 검증 작업도 하지 않았다.
그래서 애덤 그랜트는 자기 생각을 너무 확신하기보다 한 번쯤은 돌아보고 의심하는 것이 필요하다고 말한다.
“자신의 생각에 대해 생각하는 능력, 메타인지 기술이 부족하면 자기 능력의 부족도 인지하지 못하게 된다.”
정보의 양이 폭발적으로 늘어난 시대, 생성형 AI가 만든 진짜 같은 가짜가 넘쳐나는 이 시점에서, 그 어느 때보다 필요한 역량은 바로 이 메타인지 기술이다. 보고 싶은 것만 보지 않기 위한, 우리 자신을 향한 의심이 필요하다.
