내가 매력적인가? 사람들이 ChatGPT에게 묻습니다.
친구들은 당신의 감정을 보호하려 한다. 그러나 AI는 봐주지 않는다.
Ania Rucinski는 자신에 대해 우울감을 느끼고 있었다.
그녀는 자신이 괜찮게 생겼다고 말하지만, 친구들은 그녀가 '존잘' 남자친구에 비해 외모가 떨어진다고 은근히 암시한다. 그 같은 사람들은 그녀가 더 매력적으로 보이기 위해 무엇을 할 수 있는지 절대 말해주지 않을 것이라고 그녀는 덧붙인다.
그래서 32세의 Rucinski는 차갑고 냉정한 진실을 위해 비전통적인 소스인 ChatGPT로 눈을 돌렸다.
그녀는 봇의 프롬프트 필드에 타이핑하며, 덜 매력적인 사람으로 느끼는 것에 지쳤고 더 잘 보이기 위해 무엇을 할 수 있는지 물었다. 봇은 그녀가 태연머리를 하면 더 예뻐 보일 거라고 했다.
"사람들은 자신의 편견을 통해 필터링하고 이런 종류의 민감한 질문에 자신의 주관성을 가져온다"고 시드니에 사는 Rucinski는 말했다. "ChatGPT는 실생활에서 얻을 수 없는 수준의 객관성을 가져다준다."
2022년 말 출시 이후, OpenAI의 ChatGPT는 전 세계 수억 명의 사람들이 이메일 작성, 연구 수행, 아이디어 브레인스토밍에 사용해왔다. 그러나 새로운 사용 사례로, 사람들은 자신의 사진을 업로드하고 외모에 대한 가차 없는 평가를 요청하며 결과를 소셜 미디어에 공유하고 있다.
많은 사람들은 또한 봇에게 "글로우 업(glow up)" 또는 외모 역변(역대급 변신)을 위한 계획을 세워달라고 요청한다. 사용자들은 봇이 염색약에서 보톡스까지 특정 제품을 추천했다고 말한다. 일부 사람들은 인공지능의 제안을 따르는 데 수천 달러를 썼다고 한다.
이러한 트렌드는 사람들이 정보와 사실뿐만 아니라 미(美)와 같은 매우 주관적인 주제에 대한 의견을 위해 챗봇에 의존하려는 의지를 강조한다. 일부 사용자는 AI의 응답을 더 공정하다고 보지만, 전문가들은 이러한 도구들이 훈련 데이터나 제작자의 재정적 인센티브를 반영하는 숨겨진 편견을 가지고 있다고 말한다.
챗봇이 말할 때, 그것은 동료 검토 연구에서 여성혐오적 웹 포럼에 이르기까지 방대한 인터넷 콘텐츠에서 끌어오고 있다. 기술 및 미용 비평가들은 외모에 대한 피드백을 위해 AI 도구로 전환하는 것이 위험하다고 말한다.
AI 회사들이 쇼핑과 제품 추천을 제공하기 시작하면서, 챗봇은 소비자들에게 더 많이 지출하도록 압박할 수도 있다고 애널리스트들은 말한다.
AI는 "온라인에서 본 것을 메아리칠 뿐이고, 그 중 많은 부분이 사람들이 자신에 대해 기분 나쁘게 느끼고 더 많은 제품을 구매하도록 설계되었다"고 Forrester 상거래 애널리스트 Emily Pfeiffer는 말했다.
그럼에도 많은 소비자들은 친구와 가족과는 다른 관점을 제공하는 챗봇의 비판을 가치 있게 여긴다고 말한다.
32세의 Kayla Drew는 집을 꾸미는 방법부터 식료품점에서 무엇을 살지까지 "모든 것"에 대한 조언을 위해 ChatGPT를 찾는다고 말했다. 최근 그녀는 봇에게 어떻게 더 매력적으로 보일 수 있는지에 대한 정직한 피드백을 요청했다. 봇은 피부, 머리, 눈썹, 속눈썹, 메이크업, 옷에 대한 제안을 했고, Drew는 모두 따랐다고 말했다. 지금까지 그녀는 약 200달러를 썼다.
실제 사람들이 그녀의 외모에 대해 직설적인 피드백을 준다면 아마 그녀의 감정을 상하게 할 것이라고 Drew는 말했다. 하지만 Drew가 "그녀"라는 대명사로 부르는 ChatGPT에서 나오면 전체가 더 받아들이기 쉽게 느껴진다.
"오늘 치아 미백에 대해 물었더니 '치과 위생이 좋은지 확인하세요'라고 하더라고요. '와, 이런'이라고 생각했죠"라고 Drew는 말했다. "다른 누구도 저에게 다가와서 그런 말을 하지 않을 거예요. 꽤 멋있었어요. 들어야 했던 것 같아요."
사용자들은 ChatGPT를 친절함이나 유머 같은 자질을 고려하지 않기 때문에 친구나 가족과 달리 더 객관적인 미의 척도로 본다고 Review of Beauty 뉴스레터를 쓰는 미용 비평가 Jessica DeFino는 말했다. 인터넷 시대의 미의 기준은 자아를 객체로 바꾸며, 객체를 평가하는 데 다른 (AI 구동) 객체에게 묻는 것보다 더 나은 방법이 무엇이겠는가?
"우리가 아름다운 객체로서 자신을 최적화하려고 한다면, 우리를 사랑하는 인간의 입력을 고려할 수 없다"고 DeFino는 말했다.
봇이 조언을 할 때, 실제로는 누가 말하고 있는가?
OpenAI는 이번 달 사용자가 쇼핑하는 것처럼 보일 때 이미지, 세부 정보, 링크를 포함한 제품을 보여주도록 ChatGPT를 업데이트하고 있다고 말했다. 일부 기술 및 미용 전문가들은 봇의 제안이 사용자가 아닌 제작자의 목표에 봉사한다고 경고한다.
AI 회사들은 새로운 수익원이 필요하다 - 일부는 AI 도구를 구축하고 호스팅하는 데 수십억 달러를 지출하고 있다. 챗봇이 후원 제품과 광고를 표시하는 것은 하나의 잠재적인 방향이다: 이미 Perplexity AI는 챗봇 인터페이스 내에 쇼핑 기능을 통합했으며, 미용은 세 번째로 많이 검색되는 카테고리라고 대변인이 말했다.
쇼핑 기능이 출시되면서, 소비자들은 봇이 왜 그 제품들을 선택하는지 모른 채 제품 추천을 보기 시작할 수 있다고 Forrester의 Pfeiffer는 말한다. 봇은 예를 들어 지식이 풍부한 YouTube 메이크업 인플루언서나 악의적인 Reddit 스레드에서 아이디어를 끌어올 수 있다. 가짜 제품을 만들거나 실제 제품에 대해 잘못된 주장을 할 수도 있다고 그녀는 말했다. 훈련 데이터가 너무 방대하고 불투명하여 봇은 편견과 실수에 취약해진다.
그러나 같은 훈련 데이터가 전통적인 검색 엔진과 비교하여 쇼핑 및 미용 어시스턴트로서 챗봇에게 우위를 줄 수도 있다고 Perplexity 대변인 Jesse Dwyer는 말했다. 완벽한 안티에이징 제품을 위해 수십 개의 Reddit 스레드나 YouTube 비디오를 뒤지는 대신, 쇼핑객은 봇에게 눈 밑의 다크서클에 지쳤고 도움이 되는 것을 원한다고 설명할 수 있다. 이상적으로는 그녀의 의미를 이해하고 쇼핑 시간을 절약할 것이라고 Dwyer는 말했다.
ChatGPT에 글로우업 추천을 요청하는 한 TikTok 비디오는 22만 이상의 조회수와 많은 긍정적인 댓글을 끌어냈다. 한 댓글 작성자는 봇이 그들의 매력을 10점 척도로 평가했다고 말했다.
"저에게 중간이고 메이크업과 필러의 도움으로 5에서 7로 갈 수 있다고 했어요"라고 그들은 말했다.
ChatGPT 제작자 OpenAI는 AI 시스템이 어떤 데이터로 훈련되는지 공개적으로 공유하지 않지만, 훈련 데이터에는 아마도 사람들이 다른 사람들의 매력을 평가하는 온라인 포럼(주로 남성이 여성을 평가하는)이 포함될 것이다. 예를 들어 서브레딧 r/RateMe나 웹사이트 Hot or Not 같은 것이라고 Distributed AI Research Institute의 연구 책임자 Alex Hanna는 말했다.
훈련 데이터에는 다양한 아이디어가 포함되어 있지만, 챗봇은 여성이 지속적으로 외모를 개선해야 한다는 확신과 같은 가장 일반적인 주제로 치우치는 경향이 있다고 Hanna는 말했다.
"우리는 남성의 시선을 자동화하고 있다"고 생성 AI를 전문으로 하는 전산 언어학자이자 Hanna와 함께 "The AI Con"의 공동 저자인 Emily Bender가 덧붙였다.
OpenAI 대변인 Leah Seay Anise는 회사가 모델의 편견을 줄이기 위해 일하는 팀이 있다고 말했다. 그녀는 ChatGPT의 기술이 매력을 평가하는 콘텐츠로 훈련되었는지 여부에 대해서는 언급을 거부했다. 쇼핑 기능은 새롭고 여전히 개선되고 있다고 그녀는 말했다.
그럼에도 편견 가능성은 많은 사람들이 민감한 대화를 위해 인간보다 봇으로 전환하는 것을 막지 못했다. 이미 일부 사용자는 정신 건강 치료 스타일의 토론을 포함하여 동반자 관계를 위해 챗봇에 의존한다. 때때로 사람들이 원하는 것은 인간의 복잡함이 없는 공명판뿐이다.
ChatGPT에 외모에 대한 피드백을 요청한 사용자들은 봇이 인식된 불완전함을 지적했을 때조차 결과에 만족했다고 말했다. 워싱턴 주의 39세 Michaela Lassig는 결혼식 전에 글로우업을 도와달라고 ChatGPT에 요청했다. 프롬프트에서 그녀는 봇에게 목표(흠 없고 젊은 피부), 예산(2,500달러), 일정을 말했다.
"이상적으로, 7월 16일까지 내가 가질 수 있는 최고의 피부와 얼굴을 위해 언제 해야 하는지 절차나 서비스 목록을 주세요"라고 그녀는 봇에게 프롬프트했다.
봇은 그녀 얼굴의 노화 징후에 대한 상세한 목록을 내놓았다. 하지만 결국 그녀는 추천을 환영했다 - 심지어 그녀의 주사 시술자가 제안할 보톡스 단위를 정확하게 추정했다. Lassig는 보편적인 기준보다는 개인적인 피부 목표에 초점을 맞추도록 프롬프트를 신중하게 작성했다고 말했다.
31세의 Haley Andrews는 자신의 외모에 대한 필터링되지 않은 진실을 원했고 "좋은 말을 찾지 않았다." 그녀는 언니가 설탕을 입히지 않고 비판을 주는 방식을 항상 감사했기 때문에 특별한 요청과 함께 봇을 찾았다.
"저는 '당신을 사랑하고 당신에게 절대적으로 최선을 원하기 때문에 진실을 말하는, 비록 조금 가혹하더라도, 언니처럼 말해주세요'라고 말했어요"라고 Andrews는 말했다.
봇은 그녀의 눈썹이 얇아지고 있고 블러시 없이는 안색이 밋밋하다고 말했다.
"정말 정확했어요"라고 그녀는 말했다.
<출처:The Washington Post>
