심리학, 특이점이 온다
[리뷰] “당신은 AI를 신뢰하나요?”
* 해당 논문은 유료 구매를 통해서 전체 내용을 확인할 수 있습니다. 따라서 본 매거진에서는 초록과 무료로 확인 가능한 정보, 그리고 해당 연구가 흥미로웠던 이유를 중심으로 간략히 요약하고자 합니다(매거진에서는 간략히 소개했지만, 원문에는 이론적 논의, 사례 분석, 실험 결과가 보다 자세히 담겨 있어, AI와 인간 신뢰 문제를 깊이 이해하고 싶은 독자님들께서는 구매하여 읽어보시면 도움이 되실 듯 합니다).
INTRO
요즘 챗봇을 활용한 상담과 심리치료가 활발히 이루어지고 있다. 친구처럼 편하게 일상적인 대화를 하는 것부터 정신적인 문제, 혹은 그 이상의 깊은 이야기를 공유하기도 한다. 심리상담 외에도 어느새 우리 일상에 곳곳에 깊이 자리 잡은 AI, 오늘은 독자님들께 인공지능(AI)과 인간의 신뢰 관계를 심리학적 관점에서 분석한 흥미로운 학술지 논문을 소개한다.
출처: unsplashREVIEW
리뷰할 논문의 정보는 다음과 같다.
출처: AI와 인간의 신뢰 관계: 심리학적 관점에서의 분석 - 한국통신학회 인공지능 학술대회 논문집 : 논문 | DBpia
* 저자: 정주영(JungJooyoung)
* 발행기관: 한국통신학회
* 학술지명: 한국통신학회 인공지능 학술대회 논문집 Vol.2025 No.9 [2025], 329-332(4쪽)
우리는 이제 하루에도 몇 번씩 AI와 대화한다. 무심코 답장을 대신 보내주는 키보드 추천 알고리즘부터, 일정을 자동으로 관리해주는 비서형 AI, 그리고 상담과 의사결정까지 AI를 활용하고 있다. 이런 흐름에 우리는 자연스럽게 떠오르는 의문이 있을 것이다.
“나(우리)는 이 AI를 믿어도 될까? 믿는다면 어떤 조건에서 신뢰하게 될까?"
오늘 소개할 정주영 저자의「AI와 인간의 신뢰관계: 심리학적 관점에서의 분석」은 바로 이 질문을 심리학적 시각에서 탐구한 흥미로운 논문이다. AI를 신뢰하게 만드는 요인이 무엇인지, 인간은 어떤 AI에 더 신뢰를 부여하는지에 대한 이론적 검토와 실제 사례 분석을 토대로 시나리오 기반 실험 설계를 하여 검증하였다.
01. 연구 주요내용
연구자는 기술적 발전이 신뢰로 이어지지 않는다는것에 주목하였다. 연구의 초점은 인간은 어떤 조건에서 AI를 신뢰하는가?
본 연구에서의 실험은 300명의 참가자들을 대상으로 설명 가능성, 감정표현, 전문가 협력 여부를 독립변수로 설정하여 신뢰도와 선택행동을 측정하였으며, 분석 결과는 다음과 같다.
설명 가능한 AI는 그렇지 않은 AI보다 더 높은 신뢰를 얻는다. 감정을 표현하는 AI는 단순 정보 제공 AI보다 더 친근하고 신뢰감 있게 인식된다. 전문가와 협력적으로 제시된 AI는 독립적인 AI보다 신뢰를 더 쉽게 확보하는 것으로 나타났다.
즉, 인지적 요인(설명 가능성, 전문가 협력)과 정서적 요인(감정 표현) 모두 신뢰 형성에 중요한 역할을 한다는 것을 시사한다.
02. 연구가 던지는 메시지
본 연구에서는 AI를 신뢰하는 것은 인지적 요소와 정서적 요소가 동시에 작용하는 복합적 현상임을 알 수 있으며, 이는 AI를 설계하고 활용하는 과정에서도 중요한 시사점을 제공한다. 단순히 알고리즘 성능만 향상시키는 것이 아니라, 사용자가 AI의 판단 과정을 이해하고, 상호작용하면서 정서적 요인을 느낄 수 있는 환경을 만드는 것이 필수적이라는 것이다.
이는 결국 AI 신뢰를 높이는 문제는 기술적 문제와 심리적 문제를 동시에 고려해야 하는 복합적 과제임을 분명히 보여준다. 앞으로 AI가 우리 사회와 일상 속에서 더욱 깊게 자리 잡게 되면 이러한 신뢰 관계와 상호작용의 심리적 메커니즘을 이해하는 것은 기술 활용을 보다 안전하고 효과적으로 이끌어가는 중요한 관점이 될 것이다.
COMMENT
개인적으로 가장 흥미로웠던 점은, AI가 이제 단순한 도구가 아니라 상호작용적 존재로 받아들여질 수 있다는 점이다. 설명 가능성, 감정 표현, 전문가 협력과 같은 요소가 신뢰 형성에 중요한 역할을 한다는 점은, AI가 단순한 계산기나 판단 도구를 넘어 사용자와 관계를 맺고 상호작용하는 존재로 경험될 수 있음을 보여준다.
우리가 AI를 대할 때 느끼는 신뢰와 불신은, 단순히 AI의 정확성에 기반하지 않고 사용자 경험과 심리적 상호작용에 크게 좌우된다. 조금은 새로운 경험일 수 있다.
‘인공지능과 인간이 신뢰 관계를 형성한다’는 생각은 여전히 생소하게 들리지만, 이번 연구는 그것이 현실 세계에서 실제로 관찰 가능한 현상임을 보여준다. 이제 우리는 AI와 단순히 ‘명령하고 사용하는 관계’를 넘어, 설명과 감정, 협력을 매개로 한 심리적 관계를 경험하고 있는 셈이다.
OUTRO
이번 논문을 통해 알 수 있듯, AI와 인간 사이의 신뢰는 단순한 기술 성능이나 알고리즘 정확성만으로 형성되지 않는다. AI 윤리, UX 설계, 상담 및 심리 분야 등 AI 활용을 고민하는 분들에게 이번 연구는 중요한 통찰을 제공한다. 연구자가 실제로 실험과 사례를 통해 확인한 결과를 바탕으로, 인간과 AI의 신뢰 형성을 이해하고 설계하는 데 도움을 받을 수 있기 때문이다.
이 매거진을 통해 독자님들도 AI와의 관계를 한 번 돌아보며, 신뢰를 형성하는 조건과 그 의미를 생각해보는 계기가 되었으면 한다.