AI로 가짜 사진을 만든 국제앰네스티

fleeting notes

며칠 전 세계적인 인권 단체 국제앰네스티가 2021년 최소 38명이 숨진(시위대 쪽에서는 89명으로 집계한다) 콜롬비아 반정부 시위를 비판하려는 목적으로 AI가 만든 가짜 사진을 사용해 논란을 일으켰다. 끌려가는 여성이 두른 엉터리 국기 색깔, 지금은 입지 않는 구식 제복 등에 덜미가 잡힌 것이다.

"현재 구금 중인 100여명 등 시위대의 신원 보호를 위한 조치"라는 게 앰네스티 쪽 입장이었지만, "현장에서 목숨을 걸고 일하는 기자들에 대한 모독"이라는 사진 기자들의 반발이 계속되자 꼬리를 말고 사진을 내렸다.

실제 시위 현장은 더 살벌했다.

오랫동안 깎아온 윤리 감각은 '이것은 그릇된 일'이라고 찰나의 신호를 보내지만 한편으로 이런 생각도 든다. 만약 이 어설픈 이미지가 AI가 0과1을 조합해 만든 게 아니라 물감으로 채색된 그림을 다시 0과1로 바꾼 것이었다면? 그래도 이만한 파급력이 있었을까? 정말 전세계 뉴스 토픽이 되었을까? 이 이미지는 존재하지 않는 얼굴들로 구성되었으되 존재하지 않는 사실을 지어내진 않았다.

2021년 콜럼비아 시위는 2019년 시위의 연장선에 있다. 2019년, 청년실업률 17.5%에 달하던 콜럼비아 정부는 "청년층에 최저임금의 75%까지만 주겠다"고 발표해 청년들의 거대한 분노를 샀다. 당시 시위에서도 수십명이 숨졌고, 경찰에 의한 여성 시위대원 강간 범죄 등이 밝혀졌다. 코로나 탓에 한풀 꺾였던 반정부시위 흐름은 2021년 다시 불이 붙었다. 빈곤율이 42.5%에 달했다. 휴먼라이트워치는 이때 시위에서 한 달 동안 60명 넘게 숨진 것으로 보고 있다.

기자들도 이를 모르지는 않을 터. 이런 맥락에서 본다면 이 사건은 단순히 '목적이 수단을 정당화할 수 없다'는 교훈성 해프닝처럼 보이지만은 않는다. 걷잡을 수 없이 뻗어가는 AI에 대한 막연한 공포와 제동에 대한 열망이 직업 영역에서 표출된 현상 같기도 하다.

updated : 2024-05-04

관련문서(브런치 링크)

- 제텔카스텐 인덱스

- 저널리즘 인덱스