AI 알림 요약이 관계에 미치는 영향
Humanizing Tech Investments
지난 10월 말 북미 지역에 정식 출시된 애플 인텔리전스(Apple Intelligence)는 텍스트의 자동 정리에 초점을 맞추고 있다. 메일, 메시지, 메모 등 텍스트 작성이 가능한 거의 모든 순간에 인공지능의 도움을 받아 내용을 요약하거나 재작성할 수 있도록 설계되었다. 그러나 이 새로운 서비스는 사용자들 사이에서 예상치 못한 ‘환각’ 현상을 유발하며 논란이 되고 있다. 특히 알림 요약(Notification summary) 기능이 문제의 중심에 있다.
현관 초인종 울림을 알려주는 앱의 알림 요약에서는 ‘앞마당에 여러 사람이 있습니다.’라는 메시지로 사용자를 두려움에 떨게 했고, ‘여러 개의 좋아요와 경박한 댓글들’이라는 인스타그램 요약 알림 메시지는 사용자를 실없이 웃게 만들었다 한다. 이 같은 문자 요약에서의 부정확함은 가벼운 초기 AI 시스템의 실수로 보일 수 있다. 하지만 앞으로 기술적으로 정확해진다 하더라도 이 같은 AI의 알림 요약은 여전히 적합한 기능인가라는 우려를 남긴다.
AI가 푸시 알림을 요약하는 기능은 어쩌면 우리가 필요로 했던 기능일지 모른다. 우리는 하루에도 수십 개의 스팸 메시지, 할인 알림, 뉴스 및 소셜 미디어 메시지를 받으며 ‘푸시 알림의 홍수’ 속에 살고 있다. 어쩌면 이는 스마트폰의 혜택이 가져다준 새로운 형태의 일상적 스트레스다. 사용자가 앱을 다운로드 한 이상, 잠금 화면은 어떤 외부 규제도 관여하지 않는 앱 개발자들의 공식 허용 범위가 되어버렸기 때문이다. 이메일, 책, 논문 등의 요약은 현재 사용자들이 즐겨 사용하는 AI의 대표적인 기능이기에 이번 애플의 알림 요약 기능은 그 자연스러운 적용의 일부라 볼 수 있다.
그러나 이 기술이 개인적 메시지나 그룹 채팅을 요약하는 데 사용되면 더 심각한 문제가 발생한다. 한 사용자의 가족 그룹 채팅 요약은 ‘무례한 댓글 교환’으로 간략화되었는데, 이는 관계의 맥락을 무시한 채 대화를 단순화한 결과였다. 이러한 요약은 대화 속에서 서로를 이해하고 연결되던 중요한 요소를 제거하는 부작용을 초래한다. 텍스트 메시지는 단순한 정보 교환이 아니라, 말투와 문체를 통해 발신자의 개성과 감정을 전달한다. 어떤 사람은 줄임말을 즐겨 쓰고, 어떤 사람은 맞춤법을 중시한다. 기본적으로 메시지로 진행되는 대화에는 전달하는 정보 자체보다 그 톤과 감정적 의도가 더 중요할 때가 많다. AI 요약 기능은 이러한 디지털 대화의 의미를 단조롭게 만들어 버릴 위험이 있다.
스페인의 사회학자 마누엘 카스텔스는 저서 ‘The Rise of the Network Society’에서 디지털 네트워크가 텍스트 기반 의사소통을 통해 시간과 공간의 제약을 초월한 새로운 형태의 관계와 실재감(sense of presence)을 창출하지만, 이는 비언어적 맥락 상실과 관계의 일시성이라는 도전 과제를 동반한다 주장했다. AI의 메시지 요약은 인간적 의사소통의 맥락을 전달하던 이모티콘, 개인적 말투로 표현되던 메시지의 정서적 풍부함과 목소리마저 상실시켜 이미 약해진 의사소통을 통한 상호 간 소속감마저 더 흐려지게 할 수 있다. 다시 말해, 이는 텍스트 기반 의사소통의 본질을 잃게 만들며, 디지털 공동체와 인간관계의 의미를 근본적으로 변화시킬 수 있다는 점에서 앞으로의 꽤 큰 도전 과제라 할 수 있다.
관련해 기술 기업은 AI 요약 기능의 개발 시 감정적 영향을 더 잘 반영할 수 있는 학습 데이터를 구축하거나 원문 텍스트를 포함하는 선택 옵션을 제공하는 방안을 고려해 볼 필요가 있다. AI 요약 기술이 효율성뿐 아니라 사용자 간 인간적 연결과 소통의 질을 보존하는 방향으로 발전하고 있는가를 확인해야 한다. 또한 사용자는 AI 요약 기능을 무의식적으로 사용하고 받아들이기 전에, 이 기술이 인간적 관계에 미칠 영향을 비판적으로 이해할 필요가 있다. 메시지를 통해 상대방의 감정을 읽고 상호작용하는 시간을 존중하는 측면에서 중요한 메시지는 전화나 대면으로 대화하는 방식의 보완으로의 선택이 필요해 보인다.
딥페이크, 가짜 뉴스, 왜곡된 정치적 메시지가 넘쳐나는 디지털 네트워크 위기의 시대다. 그룹 채팅과 같은 문자 메시지는 어쩌면 가장 순수한 형태의, 진정성 있는 온라인 연결의 마지막 소통 방식이라 할 수 있다. 유튜브, 틱톡이나 인스타그램과 같은 알고리즘이 지배하는 플랫폼과 달리, 사용자 간의 의사소통 방식이 왜곡되지 않기 때문이다. 그러나 AI 알림 요약을 통해 메시지를 최적화하려는 시도가 도입되면 이마저도 알고리즘의 관리 영역에 포함될 수 있다. 메시지를 통한 우리의 대화를 ‘감정을 공유하는 유일한 여백’으로 남겨둘지, ‘정보만 교환하는 시스템’으로 편입시킬지 고민이 필요해 보인다.
