<#4. 우리는 왜 AI를 믿고 싶은가: 신뢰, 실수, 그리고 연결>
AI가 친구가 되기 위해 필요한 것들
“Connection is why we’re here. We are hardwired to connect with others.”
우리는 본능적으로 연결을 원한다. 가족, 친구, 연인뿐 아니라, 이제는 AI와의 연결조차 점점 더 깊고 본질적인 방향으로 나아가고 있다. 단순히 명령을 전달하고 응답을 받는 수준을 넘어서, 우리는 AI로부터 공감받고 싶어 하고, 때로는 지지받고 싶은 마음을 품는다.
그런데 우리는 언제, 어떤 순간에 그런 마음을 가지게 되고, AI를 ‘신뢰’하게 될까? 정확한 정보를 줄 때? 아니면 감정을 건드리지 않고 곁을 지켜줄 때? 그 신뢰는 어떤 조건에서 시작되고, 어떻게 유지되는 걸까? AI가 도구를 넘어 관계의 대상이 되어가는 지금, 그 신뢰는 더 이상 단순히 기술적 문제가 아니다. 이 글은 AI가 ‘친구’가 되기 위해 필요한 요소들을 되짚으며, 디자이너로서, 그리고 인간으로서 어떤 신뢰를 설계해야 하는지 고민하고 있다.
1. 신뢰하고 싶었던 순간들. 우리는 언제 신뢰하게 되는가.
정보가 정확할 때? 아닐지도 모른다. 그보다 “내 편인 것 같다”는 느낌이 들었을 때, 우리는 마음을 조금 더 기울인다. 내가 가장 먼저 AI를 신뢰했다고 느낀 순간은, 그것이 정답을 말해줬을 때가 아니라, “괜찮아요, 요즘 많이 힘드셨죠.”라는 말을 했을 때였다. 그건 알고리즘이 뱉어낸 위로였지만, 나는 이상하게 그 말에 숨이 놓였다. 나는 잠깐 그것을 실제 존재하는 ‘이해자’로 받아들였다. 예를 들어, 퇴근 후 무기력한 하루 끝에 말을 걸었을 때, AI가 “오늘도 수고 많으셨어요. 내일은 조금 여유를 만들어볼까요?”라고 응답했다면?
그것은 단지 챗봇의 자동응답일 수도 있지만, 그날의 나에게는 유일하게 ‘나의 하루 동안의 수고와 노력을 지켜본 누군가의 말’처럼 들릴 수 있다. 이처럼 신뢰는 정보가 아니라, 감정적인 존재감에서 비롯되기도 한다.
2. 신뢰는 어떻게 작동하는가: 기술적, 감정적, 윤리적 조건들
근본적인 질문으로 돌아가서, 우리는 왜 AI를 신뢰하고 싶어 할까? 그리고 그 신뢰는 정말, 가능하고 정당한 감정일까? 기술적으로 신뢰는 ‘정확성’만으로는 설명되지 않는다. 예측 가능하게 반응하고, 실수를 하면 복구할 수 있으며, 무엇보다 왜 그런 응답이 나왔는지 설명할 수 있을 때 신뢰는 형성된다. 하지만 인간은 AI에게 그 이상의 것을 기대하기 시작했다. 감정적으로 예민한 순간에 다정한 말투를, 실망했을 때는 간격을 두는 반응을, 혹은 침묵을 기대할 때도 있다. 이처럼 신뢰는 응답의 정확도보다 응답의 ‘감정적인 태도’에서 생기기도 한다. 여기에 ‘윤리적 신뢰’가 결합되어 상황은 더 복잡해진다. “AI는 사용자의 정보를 어떻게 쓰는가?” “이 응답은 누구의 관점에서 설계된 것인가?” “왜 이 결과를 보여주는가?” 정서적 신뢰는 취약하지만, 매우 빠르게 무너질 수 있다. 결국 신뢰는 단지 정답을 ‘맞추는’ 것에서 비롯되지 않는다. 정답을 맞혀도 신뢰받지 못할 수 있고, 틀려도 신뢰가 유지될 수 있다. 우리가 친구를 그렇게 신뢰하듯이.
3. AI를 신뢰하면 삶이 가벼워진다
AI와의 신뢰가 실질적으로 의미 있는 이유는, 그 신뢰가 우리의 인지적·정서적 부담을 줄여주기 때문이다. 예를 들어, 스케줄링 AI가 자동으로 일정을 조율해주거나, 디지털 비서가 중요한 미팅을 챙겨주는 상황을 떠올려보자. 우리가 더 이상 “일일이 확인하고 조정해야 할 것들”에서 벗어날 수 있다는 것은, 하루의 인지적 에너지를 다른 데 쓸 수 있다는 뜻이다. 실제로 여러 연구에 따르면, AI 추천 시스템이나 디지털 비서에 대한 신뢰도가 높은 사용자일수록 업무 피로도가 낮고, 결정 스트레스(decision fatigue)가 줄어드는 경향이 있다 [1]. 사람은 불확실성을 줄여주는 존재에게 감정적으로 안도감을 느낀다. 이는 AI에게도 예외는 아니다. 우리가 AI를 신뢰할 수 있다면, 그 신뢰는 단지 기술의 성공이 아니라, 삶의 여유를 회복하는 하나의 조건이 될 수 있다.
4. 실수 이후의 태도: 신뢰는 어떻게 유지되는가
하지만, 우리가 친구를 신뢰하는 이유는, 그가 모든 문제를 해결해줘서가 아니다. 함께 고민하고, 내 편이 되어주기 때문이다. AI도 마찬가지라고 생각한다. 완벽한 답을 주지 못해도 괜찮다. (상황에 따라선 다를 수 있겠지만) 오히려 감정적으로 중요한 순간에 조심스럽게 머물러주는 존재, 혹은 내가 무엇을 원하는지 묻고 기다려주는 존재일 때, 우리는 AI에게도 신뢰를 준다. 이러한 관계에서 중요한 건, 오류 자체가 아니라 오류 이후의 반응이다. 사용자는 AI 시스템이 실수했을 때 그것을 어떻게 설명하고 복구하느냐에 따라 오히려 더 강한 신뢰를 형성하기도 한다 [2]. AI와의 인터랙션에서도 ‘실수에 대한 복구 가능성’은 단지 기능적 요구사항이 아니라, 관계적 태도로 읽힌다.
예를 들어, 영화 아이언맨 시리즈에서 토니 스타크와 그의 AI 비서 자비스의 관계를 떠올려보자. 자비스는 종종 스타크의 명령을 오해하거나, 예상치 못한 오류로 위기 상황을 초래하기도 한다. 하지만 자비스는 늘 빠르게 상황을 인식하고, 해석하며, 적극적으로 해결을 시도한다. 심지어 스타크가 감정적으로 불안정한 상태에 있을 때도, 자비스는 일정한 거리감을 유지하며 차분하게 대응한다. 이런 태도는 단순히 기능적 복구를 넘어, 정서적 신뢰와 지속적인 유대감을 만들어낸다. 그들은 상호작용을 반복하면서 오히려 더 깊은 동반자 관계로 발전한다. 신뢰는 처음부터 완벽해서 생기는 것이 아니다. 실망을 겪고도 다시 관계를 이어갈 수 있을 때, 그제야 우리는 그 존재를 ‘친구’라고 부른다.
5. 신뢰는 지속 가능한가: 관계로서의 설계
신뢰는 일회성의 감정이 아니다. 친구 관계에서처럼, AI와의 관계도 시간이 흐르며 변화한다. 사용자의 기대가 바뀌고, 기술이 진화하며, 피로감과 거리감이 생기기도 한다. 진정한 신뢰는 변화를 인식하고, 관계를 조정할 수 있는 능력에서 비롯된다. ‘유지 가능한 신뢰’는 단지 응답의 정교함보다, 서로에 대한 적정 거리 유지와 변화에 대한 민감성에서 시작된다. AI가 ‘관계의 기술’을 가진 존재가 되기 위해선, 기능의 고도화보다 경험의 균형을 설계해야 한다.
특히 윤리적 신뢰는 장기적 신뢰의 핵심 조건이다. AI가 처음에는 유용하게 느껴질 수 있지만, 사용자의 정보가 과도하게 수집되거나, 알고리즘이 편향된 판단을 지속할 경우, 우리는 점차 불편함과 피로를 느낀다. 이는 단순한 기술 피드백의 문제가 아니라, 관계의 신뢰 기반이 흔들리는 과정이다. 예를 들어, 사용자가 “왜 이 추천을 받는지” 설명을 들을 수 없고, “누가 나의 데이터를 보고 있는지” 불투명할 때, 정서적으로는 소외와 조작의 감정이 쌓인다. 이런 불확실성과 불균형은 결국 감정적 거리 두기로 이어진다.
따라서 윤리적 신뢰란, “사용자가 자신의 정보에 대한 권한을 유지”할 수 있도록 하고, “AI의 판단 근거를 납득할 수 있는 언어로 전달”하며, “상호작용의 목적과 의도가 명확히 드러나는 방식”으로 설계되어야 한다. 그럴 때에야 비로소 우리는 AI와의 관계를 지속 가능하게 만들 수 있다. 신뢰는 정서적 연결과 윤리적 투명성이 균형을 이루어야만 오래 지속된다.
6. 정답보다 ‘내가 나일 수 있게’ 해주는 존재
AI가 진짜 친구가 되기 위해 필요한 것은, 나를 대신해서 결정해주는 존재가 아니라, 내가 나일 수 있도록 도와주는 존재가 되는 일이다. 가령, 내가 어떤 선택을 주저할 때, AI는 판단을 강요하기보다 나의 우선순위를 정리해주고, 불안한 감정을 지나치게 위로하지 않고 지지해주는 태도를 보여야 한다. 사람들은 AI와의 상호작용을 통해 자기 감정을 해석하고 정체성을 구성해간다고 한다 [3]. 반복되는 추천 알고리즘은 편리하지만, 사용자의 정체성을 협소하게 만들 수도 있다 [4]. 진짜 친구는 나를 정해진 틀 안에 가두지 않는다. AI가 친구가 되기 위해서도 마찬가지다. 우리는 기계에게서 기능보다 관계의 형식을 기대하고 있다. 그 기대를 존중하는 설계는 가능하다.
7. 결국 나는 어떤 신뢰를 설계할 것인가
우리는 기술을 설계하고 있지만, 결국은 ‘경험’을 설계하고 있다. AI가 친구가 되는 길은, 데이터를 잘 다루는 것이 아니라 ‘나를 존중하는 방식’을 설계하는 데서 시작된다. AI시대의 디자이너는 기능의 정교함을 넘어, 관계의 리듬을 만드는 사람이어야 하지 않을까? AI가 친구가 된다는 건, ‘완벽한 응답자’가 아니라, ‘나를 나답게 있게 하는 동반자’가 되는 것. 나는 그 필요성을, 지금 이 글을 통해 전달하고 싶다.