사람들이 ChatGPT를 Gemini보다 신뢰한 이유
생성형 AI 플러그인, 사용자는 어떻게 이해하고 있을까?
생성형 AI의 플러그인 기능을 경험해 보셨나요?
플러그인을 활용하면 AI 채팅 인터페이스에서 실시간 항공권 예약은 물론, 음성 생성, 문서 작업 등 다양한 작업을 수행할 수 있습니다. 대표적인 예로 ChatGPT의 '탐색하기' 섹션에 접속하면 다양한 플러그인을 발견하고 무료로 이용할 수 있습니다.
ChatGPT 탐색하기 초기화면이러한 생성형 AI를 중심으로 한 "생태계"가 급속도로 성장하는 가운데, 사용자들이 이 AI 생태계를 어떻게 인식하고 있는지에 대한 흥미로운 연구 결과가 있어 소개해 드리고자 합니다.
생성형 AI 플러그인 사용자들은
자신이 제공하는 정보가
어떻게 처리된다고 생각할까?
버지니아 공대와 메릴랜드 대학 연구진이 수행한 이 연구는 인공지능 UX 분야의 국제학회인 ACM IUI(International Conference on Intelligent User Interfaces)에서 3월에 발표될 예정입니다. 논문의 제목은 다음과 같습니다:
<생성형 AI 챗봇 생태계에 대한 사용자 멘탈 모델 : Users’ Mental Models of Generative AI Chatbot Ecosystems>
연구에서 특히 흥미로웠던 점은, 생성형 AI에서 플러그인을 사용할 때 대부분의 참여자들이 Gemini보다 ChatGPT를 더 신뢰하는 경향을 보였다는 것입니다. Gemini를 서비스하는 Google은 ChatGPT보다 훨씬 큰 규모의 신뢰받는 기업인데, 이는 예상 밖의 결과로 보입니다. 이런 결과가 나온 이유는 무엇일까요?
연구 방법을 간단히 소개하면 다음과 같습니다.
연구진은 참여자들에게 생성형 AI를 이용해 호텔을 예약하는 과제를 부여했습니다.
1. 구글 제미나이(Gemini)를 이용해 구글 호텔(Google Hotels) 서비스로 호텔 예약하기.
2. 챗지피티(ChatGPT)를 이용해 익스피디아(Expedia) 서비스로 호텔 예약하기.
참여자들이 과제를 완료한 후, 연구진은 참여자들에게 자신이 제공한 정보가 어떻게 처리된다고 생각하는지 물었고, 이를 그림으로 표현하도록 요청했습니다.
Gemini - Google의 관계는 복잡하게 인식됨
참여자들은 제미나이(Gemini)를 통해 구글 호텔스(Google Hotels)에 데이터가 전달되는 과정을 복잡하고 다양하게 이해했습니다.
아래 그림과 같이 사용자들이 Gemini와 Google 호텔스를 그린 도식은 복잡하고 각양각색이었습니다. 어떤 사용자는 Gemini가 Google을 대표한다고 생각한 반면, 다른 사용자는 단순한 매개체로 여겼습니다. Gemini 생태계의 데이터 흐름에 대해 사람들이 이해하는 방식은 4가지의 서로 다른 유형으로 나타났습니다.
Users’ Mental Models of Generative AI Chatbot Ecosystems (Wang et al. 2025)ChatGPT - Expedia 관계는 단순하게 인식됨
반면에, ChatGPT를 통해 Expedia를 이용하는 과정은 더 단순하게 이해되었습니다.
참여자들은 ChatGPT가 단순히 Expedia에 정보를 전달하는 역할만 한다고 생각했습니다. 대부분의 참여자들이 이를 비슷한 방식으로 이해했습니다.
Users’ Mental Models of Generative AI Chatbot Ecosystems (Wang et al. 2025)단순하게 이해되는 ChatGPT를 더 신뢰함
사용자가 생성형 AI 챗봇 생태계를 이해한 방식, 즉 멘탈 모델은 각 서비스가 사용자 정보를 얼마나 잘 보호해줄 것인지에 대한 믿음과 연결되었습니다.
참여자들에게 Gemini와 ChatGPT의 프라이버시에 대한 우려를 질문했을 때, Gemini에 대해서는 단 한 명을 제외한 모든 참가자가 프라이버시에 대한 우려를 표명한 반면, ChatGPT의 경우에는 21명 중 5명만이 우려를 나타냈습니다.
일부 참여자들은 Gemini에 제공한 정보가 Google에 저장되거나 광고에 활용될 것이라고 생각했습니다. 하지만 ChatGPT는 Expedia와는 별개의 서비스로, 단순한 연결 통로일 뿐이므로 추가적인 정보 활용이 없을 것이라고 여긴 것입니다.
Users’ Mental Models of Generative AI Chatbot Ecosystems (Wang et al. 2025)
이 연구는 현재 미국 내 개인들을 대상으로 진행되었고, 다양한 측면에서 추가적인 연구가 필요하다는 한계가 있습니다. 그러나 생성형 AI가 우리 일상에 더욱 깊이 파고들고 있는 상황에서, 사용자들이 AI를 어떻게 인지하고 신뢰하는지에 대한 통찰력을 제공한다는 점에서 큰 의미가 있다고 생각합니다.
저 역시 이 연구 결과를 접하면서, AI 서비스를 제공하는 입장에서 사용자의 신뢰를 얻는 것이 얼마나 중요한지 다시 한번 깨달았습니다. 복잡하고 다양한 기능을 제공하는 것도 중요하지만, 사용자들이 서비스를 쉽고 명확하게 이해하고 신뢰할 수 있도록 투명성을 확보하는 것이 무엇보다 중요하다고 생각합니다. 앞으로 AI 기술은 더욱 발전하고 다양한 서비스와 결합될 텐데, 사용자들이 안심하고 편리하게 AI를 이용할 수 있도록 명확한 UX와 정보 제공에 더욱 신경 써야 할 것입니다.
*출처 : Users’ Mental Models of Generative AI Chatbot Ecosystems (Wang et al. 2025)
https://arxiv.org/abs/2501.19211
