인공'지능'의 EQ에 대해 묻다
Humanizing Tech Investments
2주 전 메타는 생성형 AI인 ‘메타 AI’를 앞으로 자사 플랫폼인 인스타그램, 페이스북과 왓츠앱 메신저 내에서 무료로 이용할 수 있다고 밝혔다. 미국, 캐나다, 호주 등 10여 개 영어권 국가에서 우선 출시하기로 한 이번 메타의 결정은 전 세계 유저들의 AI 개인 비서(Personal Assistant)가 되기 위한 치열한 경쟁 참여에의 전략적 한 수와 같다,
전 세계의 AI 개인 비서가 된다는 건 거대 기술 기업들의 비즈니스 모델의 강화와 수익 극대화를 의미한다. 대부분의 수익을 디바이스에서 창출하는 Apple은 Siri와 같은 AI 개인 비서를 통해 사용자의 기기 사용 경험을 향상하는데 초점을 맞춘다. 마이크로소프트는 자사의 Office 365 같은 생산성 소프트웨어에 AI 개인 비서 기술을 통합해 기존 수익 모델의 개선을 꾀한다.
검색 서비스로 수익의 75%를 광고로 창출하는 구글은 사용자가 검색이 아닌 AI와의 채팅으로 답을 확인하는 방식은 현재 수익원을 직접적으로 잠식하는 행위가 되기도 한다. 그럼에도 AI를 통한 자연어 처리와 사용자 의도 파악의 개선을 통해 새로운 서비스와 제품 개발을 할 수 있어 여전히 AI에의 투자는 중요하다.
반면 메타는 이 같은 전 세계 AI 개인 비서가 되고자 하는 치열한 경쟁에서 조금 더 유리한 비즈니스 모델을 보유하고 있다. 메타는 페이스북 메신저, 인스타그램 검색창에서 AI 도구를 활용해 사용자가 더 많은 시간을 해당 플랫폼에서 보내도록 유도하고 이미지 인식, AR 등의 기술을 결합해 차별화된 개인적 경험을 제공할 수 있는 잠재력을 확보하고 있다.
하지만 메타의 이러한 플랫폼, AI 통합의 시도에 대해 사용자들의 우려 또한 쉽게 발견된다. 이미 인스타그램 내 메타 AI의 비활성화에 대한 문의가 자동 검색창에 채워지며, 2주 전 마크 저커버그가 한 팟캐스트에서 언급한 콘텐츠 크리에이터에게 AI를 활용한 상호작용 확장의 방법을 제공하겠다는 계획은 현재 TikTok에서 확인되는 AI 인플루언서 증가 현상이 인스타그램에서도 목격될 것이라는 믿음을 퍼뜨리는 계기가 되었다.
여기서 우리는 인공지능 산업에 있어 늘 부족했던 보다 근본적인 질문에 대해 재고할 기회를 찾을 수 있다. 의인화된 기계가 인간과 같지 않다는 점, 기술을 인간의 능력과 비유하여 이해할 수 있다고 생각하는 것이 착각이라는 톰 챗필드의 주장이다. 작가이자 기술 철학자인 그는 저서 ‘Wise animals’에서 기술은 우리의 일부이며, 우리와 기술의 미래가 결국 인간의 손에 달려 있다는 메시지를 강조한 바 있다.
인지 및 교육학 교수인 하워드 가드너가 1983년 발표한 ‘마음의 프레임: 다중 지능 이론’은 IQ가 인간의 인지 능력의 모든 범위를 완전히 설명하지 못한다는 생각을 대중화했다. 그의 연구는 IQ가 포착하는 단일한 지능 유형에 대한 대응책으로 EQ(감성 지수)를 훈련하기 시작했다. EQ는 다른 사람의 상황과 관점에 대한 공감, 감수성, 조율, 이해, 인식과 같은 특성을 포함하는 것으로 ‘관계형 지능’으로 이해된다.
어쩌면 AI 업계는 지능에 대한 IQ 중심의 개념에 초점을 맞추고 있는 듯하다.
특히 생성 AI 솔루션에서 자주 등장하는 환각(AI 시스템이 부정확하거나 오해의 소지가 있는 정보를 생성하고도 마치 진실인 것처럼 제시하는 현상)은 단순한 버그가 아니라 생성 AI의 특징이다.
현재의 생성 AI 시스템은 사용자를 돕고 싶어 한다. 관련해 답이 없는 질문에 답을 제시하고 사실인 것처럼 꾸민 허구의 정보를 제시하는 현 시스템은 곧 AI가 자신의 IQ의 한계를 인정하지 못함을 의미한다. 그리고 이 부분이 자신이 하는 일과 모르는 일에 대한 인식, 생각, 느낌, 감정을 이해하는 EQ를 가진 인간 에이전트만이 가능한 영역이라 할 수 있다. 그 결과, AI의 엄청난 IQ는 가치가 떨어지게 된다. 특정 상황이나 사용 사례에서 사용자가 무엇을 유용하다고 생각할지 판단할 수 없기 때문이다.
때문에 IQ와 EQ를 서로 상반되지만 이상적으로는 상호 연관된 지능형 에이전트의 차원으로 생각하면 AI 엔지니어와 제품 디자이너가 고려할 수 있는 구체적인 질문들을 확인할 수 있게 된다.
A. 높은 IQ, 낮은 EQ: 기술적 정확성과 데이터 기반 분석이 요구되는 작업.
AI가 두 개의 스마트폰 모델의 기능을 비교하는 작업은 AI의 기술적 정확성을 활용하기에 적합합니다
예를 들어, AI가 두 개의 스마트폰 모델의 기능을 비교하는 작업은 AI의 기술적 정확성을 활용하기에 적합하다. 각 모델의 사양, 성능 테스트 결과, 사용자 리뷰 등 다양한 데이터를 분석하여 상세하고 정확한 비교 정보를 제공할 수 있다. 그러나 이 과정에서 사용자 경험은 다소 기계적이고 냉담하게 느껴질 수 있다.
B. 낮은 IQ, 높은 EQ: 창의성, 제안 및 주관성이 요구되는 작업.
사용자가 영감을 바탕으로 창의적 아이디어를 요구할 때, AI는 감성적 요소와 개인적 경험을 고려하여 응답을 제공해야 한다. 예를 들어 AI가 음악 추천 서비스를 제공하는 경우, 단순히 곡과 연결된 카테고리로 추천하기보다는 사용자의 감정과 개인적 상황을 이해하고 적절하게 반응하는 능력을 필요로 할 수 있다. 이 경우, AI는 사용자의 감정을 이해하고 공감하는 능력(EQ)이 높아야 하며, 이는 사용자에게 더욱 인간적이고 개인화된 경험을 제공할 수 있다.
정리하면, AI와의 대화에서 실제로 존재하는 연구 인용문을 찾아달라는 요청은 냉장고에 남은 음식으로 어떤 요리를 만들 수 있을지의 영감을 얻는 것과는 다르다. 이것이 바로 사람이 의도한 목표와 선호도에 맞게 AI를 조정하는 것을 목표로 하는 IQ와 EQ간 밸런스를 유지한 AI 정렬의 초기 관점이라 할 수 있다.
신뢰할 수 있고 유용한 AI라면 IQ와 EQ의 균형을 유지해야 한다. AI 시스템을 구축하는 사람들은 이 기술적 능력(IQ)과 인간적 감성(EQ) 사이의 균형을 고려하여, 두 요소가 서로 보완적으로 작용할 수 있는 시스템 설계를 목표로 해야 한다.
References
페북·인스타에서도 AI 챗봇 쓴다…'메타 AI' 탑재 / 연합뉴스TV
Want to turn off the Meta AI chat on Facebook, Instagram? Take these easy steps to mute it
Wise Animals
Frames of Mind: The Theory of Multiple Intelligences
Mark Zuckerberg - Llama 3, $10B Models, Caesar Augustus, & 1 GW Datacenters
