생성AI의 이슈들 - 환각과 표절, 그리고 허위조작정보
트럼프 체포장면 거짓 사진과 광고용 스시 촬영 사진을 보며
[환각과 표절(Hallucination & Plagiarism)] & [허위조작 정보(Falsely Manipulated Information)]
생성 AI에 관한 뉴스가 연일 쏟아진다.
그만큼 챙겨봐야 할 이슈도 늘고 있다.
특히 ChatGPT가 내놓는 '그럴 듯한 대답'을
당연한 사실처럼 오인하는 경향이 많다보니,
'세종대왕 맥북사건' 같은 황당한 장면도 등장한다.
'그럴 듯한'의 연장선에서 '환각'과 '표절'이 제기된다고 할 수 있다.
'Got It AI'의 공동창업자 피터 리란(Peter Relan)은 "대략 ChatGPT의 환각률은 15~20%"라고 진단한 바 있다. GPT4 이후 계속 발전해 나가면 줄어들거라고들 하지만 그래도 5% 남짓의 환각률은 넘어서기 어려울거란 진단도 나온다.
그리고, 표절 문제도 심각하다. 최근 노엄 촘스키가 뉴욕타임스에 기고글에서 "기본적으로 (현재의 생성 AI는) 하이테크 표절의 시스템이고 배움을 회피하게 한다"고 주장했듯, 다수의 전문가와 교육현장에서 우려가 있는 게 현실이다.
실례의 하나로, 스테이블 디퓨전을 서비스중인 Satble AI를 상대로 게티이미지가 소송을 제기한 사건도 있다. 위의 이미지처럼 게티이미지의 사진을 '무단으로' 사용한 것은 도둑질이란게 게티이미지측 주장이다. 반면 스테이블AI측은 '학습 차원'이었다고 주장하고 있다. 여기서 'AI는 창작자인가?' 혹은 'AI의 학습권은 인정될 수 있는가?' 등의 이슈도 제기된다.
그런데, 이런 논의는 그래도 낭만적(?)이다.
오늘 페북 타임라인에서 접한
AI가 만들어낸 트럼프 체포 사진과 스시 촬영 사진을 보며,
'교묘한 기술'에 대해 다시금 생각하게 된다.
무엇보다 우선, 더욱더 손쉬워지고 '교묘정치'해진
'허위 조작 정보'의 생산이 만연해질거란 걱정이 크게 닥친다.
트럼프가 며칠전 스스로 "나, 담주 화욜에 체포될 것 같아"라며 시위를 촉발하다보니 어수선한 상황에서, '옳거니'하며 생성 AI 활용해 체포장면이 만들어졌고 온라인에서 바이럴되는 이미지들이다.
(팔짱 낀 경찰 중에 바이든 닮은 선글라스 낀 백발의 인물도 있다.^^)
허위조작정보, 소위 말하는 가짜 뉴스(Fake News) 이슈가 한층 더 심각해질 거란 생각을 들게 하는 장면이다. 교묘하고 정치한 '교묘정치(巧妙精緻)'는 [명사] 솜씨나 재주 따위가 정교하고 치밀함을 뜻한다. 생성AI의 교묘정치한 기술 경쟁력은 고약한 심보를 가진 유포자들에게 날개를 달아주는 셈 아닐까, 그런 걱정이다.
워낙에 '가짜 뉴스'란 말 자체가 오해를 낳기 쉬워 가급적 '허위 조작 정보'라는 표현을 쓰자는 주장이 많고, 정말 동감하고 있다.
한편, 생성 AI를 활용한 교묘정치한 사진이 꼭 부정적으로만 쓰일 리는 없다. 당연하게도 긍정적 효과를 주는 경우도 상당할 것이다.
미드저니 v5와 챗GPT4를 활용해 만든 이미지라고 한다.
해당 프롬프트(prompt)는 아래와 같다고 한다. (프롬프트 엔지니어링이 왜 중요한지도 실감나는 대목)
The prompt:
A tantalizing, mouthwatering photograph of a delectable sushi combo plate, featuring eight perfectly crafted, golden-fried pieces. The scrumptious assortment is expertly arranged on an elegant plate, with each piece standing out and inviting the viewer to indulge in its exquisite flavor. The photograph is skillfully captured using a Canon EOS 5D Mark IV DSLR camera, paired with an EF 100mm f/2.8L Macro IS USM lens, renowned for its ability to capture stunning, lifelike detail in close-up food photography. The camera settings are meticulously chosen to highlight the textures and colors of the sushi, with an aperture of f/4, ISO 200, and a shutter speed of 1/125 sec. The scene is illuminated by a soft, natural light source, which casts a gentle glow on the succulent, crispy sushi pieces, accentuating their appealing golden hue and emphasizing the delicate ingredients within. The shallow depth of field ensures the focus remains on the sushi, while the background is subtly blurred, further drawing attention to the irresistible culinary masterpiece before the viewer. --ar 4:5 --q 2
누군가, "아직 기술적 완결성이 덜한 상황에서 사회적 실험을 '과하게' 하는 것은 곤란하다"는 지적도 했던데 무척 공감이 된다.
