Reddit 사건과 최신 연구로 본 새로운 신뢰의 문제
얼마전 테크 미디어에서 놀라운 뉴스를 읽었어요. 스위스 취리히대 연구팀이 Reddit 커뮤니티에서 수개월간 AI를 이용한 댓글을 달며 실험을 진행했던 사실이 드러난 거에요. 댓글들은 '트라우마 상담사', 'Black Lives Matter에 반대하는 흑인 남성', '성폭력 피해 생존자' 등 감정적 스토리텔링을 기반으로 작성됐고, 타겟 사용자의 최근 게시물을 분석해 해당 사용자의 성별/연령/지역 등을 추정한 뒤 맞춤형으로 논점을 구성해 설득을 시도했다고 해요.
연구진은 ‘AI 댓글이 사람보다 설득력이 뛰어나며, 최대 6배 높은 비율로 의견을 바꿨다’고 밝혔어요. 하지만 Reddit 측은 이를 ‘심각하게 부적절하고 비윤리적인 실험’이라 규정하며 법적 대응까지 언급했고 취리히대 윤리위원회도 연구 책임자에게 경고 조치를 내렸어요. 논문은 결국 철회됐고, 연구팀은 커뮤니티에서 퇴출당했죠.
해당 연구에 대해 더 자세히 알고 싶었는데 논문 발표가 철회된 상황이라 더 알아볼수는 없었어요. 다만 이와 유사한 연구들을 통해서 AI의 설득력에 대해 알아보았습니다.
Summary
1️⃣ Reddit 플랫폼을 이용한 AI 맞춤형 댓글의 설득 실험이 최근 큰 논란이 되었어요.
2️⃣ 기존에도 트위터, Mastodon, 챗봇 등 다양한 플랫폼을 통해 AI가 자연스럽게 사람들과 상호작용하며 의견과 신념을 바꿀 수 있다는 걸 보여준 연구들이 있었어요.
3️⃣ AI 설득 기술은 앞으로 더 많은 기회를 열어줄 수 있지만, 동시에 사용자에게 미치는 영향력을 항상 고민하고 책임감 있게 다뤄야 할 것이라 생각해요.
본문은 아래 링크에서 확인하세요!
https://maily.so/inspirex/posts/2qzpl17wr4x