생성형 AI: 쓰레기 데이터 양산의 역습
(저는 생성형 AI 매우 좋아하고 많이 사용하는 사람입니다)
"쓰레기가 들어가면 쓰레기가 나온다"
생성형 AI의 사용에 있어서 가장 자주 쓰이는, "쓰레기가 들어가면 쓰레기가 나온다"(Garbage in, Garbage out)라는 말이 있다. 정제되지 않은 프롬프트를 생성형 AI 모델에 넣으면 질이 낮은 결과물이 나올 수 밖에 없다는 이야기다.
그 쓰레기들이 온갖 DB를 잠식하기 시작했다
동영상:
생성형 AI 붐이 일고나서 이를 통해 수익을 얻고자 하는 사람들이 가장 많이 취하는 방식은 블로그에 에버그린 컨텐츠(ever-green contents)를 자동으로 양산하고 그 컨텐츠에 광고를 붙여 패시브 인컴을 얻는 것이었다.
생성형 AI는 특정 명령을 하면 그 특정 명령을 반복하거나 그 특정 명령에 집착하여 그 명령에 대한 아웃풋은 꼭 내놓는 경향이 있다. 그렇기 때문에, SEO에 영향을 미치는 요소를 잘 아는 사람이라면, 그 요소를 조건으로 붙여 프롬프트를 작성할 것이다.
하지만 패시브 인컴을 만들고자 하는 사람들의 목적은 '노출', '클릭', '수익'이기 때문에, 생산된 컨텐츠의 질은 그렇게 중요한 부분이 아니다. 더 심각한 부분은, 위에 말한 대로, 생성형 AI는 SEO에 영향 미칠 부분은 교묘하게 작성해 놓기 때문에 미시적으로 보면 문제없는 컨텐츠처럼 보이지만, 컨텐츠 질 자체를 놓고 봤을 때는 말도 안되거나 해당 컨텐츠에서 다뤄야할 내용은 정작 다루지 않는 사태도 발생한다.
겉보기엔 문제 없어 보이지만, 최종 사용자(end-user)의 경험은 극적으로 떨어진다.
개인이 돈을 벌고, 검색 엔진은 광고 노출로 매출도 올리고, 재무적 관점으로 보면 아무 문제 없어보인다. 하지만 검색 엔진 플랫폼이라는 제품이 달성해야 할 절대적인 목적은 '정보를 찾는 사람이 원하는 정보를 탁월하게 얻는 것'에 있다.
검색 엔진이 그 목적을 이루기 위해 알고리즘을 구성해뒀지만, 그 알고리즘으로 인해 오히려 절대적인 목적이 달성할 수가 없는 상황으로 변질되고 있다. 간편하게, 혹은 직관적인 UX를 기반으로 검색을 하고자 하는 검색 사용자가, 그러한 쓰레기 컨텐츠들 때문에 검색 엔진에서 특수한 쿼리 문법을 사용해야 하는 상황이 오고 있다.
물론 구글 같은 큰 규모의 빅테크 기업은 어떻게든 방법을 찾을 것이다. 하지만 돈에 눈이 멀어 천문학적인 쓰레기 컨텐츠를 들이붓고 있는 현상 자체에 주목하고 경계할 필요가 있다.
생성형 AI의 아이러니: 더 편하게 검색하지만, 더 엄격하게 정보를 구분해야하는 사용자
생성형 AI는 기존의 발산적인 검색 쿼리 깊이(depth)와 과정들을 종합적으로 응축하여 보다 직관적인 검색 경험을 할 수 있는 장점이 존재한다. 사용자는 힘을 덜 들이고, 원하는 정보를 얻을 수 있는 것이 장점으로 떠올랐다.
하지만 위와 같은 상황들 때문에, 더 편하게 검색할지라도 사용자는 기존보다 더 엄격하게 정보를 구분해야한다. 더 엄격하게 정보를 구분하려면, 사용자가 가지고 있는 지식이 AI가 내놓은 정보의 대조군으로 작용할 만큼의 유의미한 진실 혹은 사실성을 지녀야 한다. 그런 진실을 분간하기 위해서 사용자는 더더욱 노력해야 할 상황이 올 수 있지 않을까 하는 생각이 든다.
생성형 AI가 무서울 수 있는 점은, 능동성을 거세시킬 수 있다는 점이다. 이 UX에 물들어 인지 구조가 여기에 흡수되어 버리면, 생성형 AI가 내놓은 결과물을 진실로 곧이곧대로 받아들일 수도 있는 상황이 발생할 수도 있지 않을까라는 생각이 든다.
즉, 의심할 수 없으면 그 사람 자체도 쓰레기 데이터/컨텐츠와 별반 다르지 않은 무언가가 될 가능성이 매우 커질 수 있다는 위험성을 내포한다.
