AI와 인간의 협업, 어떻게 잘 할 수 있을까
현직 AI UX 리서처가 바라본 최신 연구
인간과 AI, 공존의 시대
AI 기술의 급속한 발전은 다양한 분야에서 인간과 AI의 협업을 가능하게 한다. UX 디자인, 의료, 금융 등 여러 산업에서 AI는 단순히 도구를 넘어 인간의 결정을 보조하고 창의성을 확장시키는 역할을 맡고 있다. 그러나 인간-AI 협업이 언제, 어떤 상황에서 효과적인가라는 질문에 대한 명확한 답은 여전히 탐구중인 상태다.
이번 글에서는 Nature Human Behaviour 저널에 2024년 10월 28일 따끈따끈하게 게재된 “When combinations of humans and AI are useful: A systematic review and meta-analysis” 논문 리뷰를 중심으로, 인간-AI 협업의 효과성과 한계를 탐구해보려고 한다.
인간과 AI의 협업이 언제 유용한가
When combinations of humans and AI are useful: A systematic review and meta-analysis
본 논문은 인간과 AI의 협업이 언제 효과적인지를 평가하기 위해 메타분석과 체계적 검토를 수행한 연구이다. 연구진은 2020년부터 2023년까지 게재된 106개의 연구에서 도출된 370개의 AI 효과를 분석한 결과를 보고한다.
일반적으로, 인간과 AI의 협업 수행율은 좋지 않았다고 한다. 총합해서 정량적으로 평가하자면 인간과 AI의 조합은 AI 또는 인간 단독 성과보다 낮다고. 하지만, 인간의 성과를 보완하는 데는 AI와의 조합이 유의미한 향상을 가져왔다고 한다.
결정 과제(예,선택지 중 하나를 선택하는 경우)에서는 인간-AI 조합의 성과가 떨어졌지만, 창의적 콘텐츠 생성 작업에서는 성과가 좋아졌다.
인간이 AI보다 더 잘 수행하는 작업인 경우(창의, 윤리), 인간-AI 조합의 성과가 오히려 향상되었지만, AI가 인간보다 우수한 작업인 경우(데이터, 정밀), AI 단독의 성과가 더 나았다.
이를 통해 인간-AI 협업이 특정 상황에서만 효과적이며, 인간의 창의력과 AI의 계산 능력을 적절히 활용하는 작업 유형과 프로세스 설계가 중요하다는 점을 시사한다.
논문을 읽고 난 후 든 생각
인간-AI 협업 불균형 극복
모든 세상사가 그렇든, UX 리서치와 디자인에서도 인간과 AI의 조화가 중요하다. 그러나 이 연구 결과는 AI의 성과가 인간을 압도할 때, 협업이 오히려 방해가 될 수 있음을 시사한다. 예를 들어, AI의 추천 시스템이 사용자의 의사결정을 과도하게 주도하면, 사용자는 자신의 판단력을 약화시킬 수 있는 것처럼. 이를 통해 UX 디자인에서 AI의 역할을 전략적으로 설정해야 하는 필요성을 알 수 있었다.
창의적 작업에서의 AI 활용
논문에 따르면 창의적 작업에서 AI와 인간의 협업은 특히나 시너지 효과를 냈는데, 앞으로 미래에도 유망할 것으로 추측된다. 예를 들어, AI가 콘텐츠 초안을 작성하고, 인간이 이를 다듬는 워크플로우는 생산성과 창의성을 동시에 강화할 수 있을 것이다. 아이데이션 단계에서 AI 기반 도구를 적극적으로 활용하면서 인간 개인이 가진 사고를 창의적으로 확장하기 좋을 것이다.
의사결정 작업에서의 XAI와 신뢰
판단 및 결정 작업에서 AI와 인간 협업의 성과가 낮은 이유는 아직 AI의 성능이 완전하지 않다는 AI에 대한 신뢰 부족과 판단에 대한 논리적 설명 가능성 부족 때문일 수있다. 이를 해결하기 위해 UX 리서처는 설명 가능한 AI(XAI, Explainable AI)를 통해 사용자가 AI의 의사결정을 이해하고 신뢰할 수 있도록 디자인을 강화하는 것이 중요해보인다.
인간-AI 협업의 최적화를 위해서 어떻게 하면 좋을까
작업 유형에 따른 협업 모델링
UX 디자이너와 리서처는 작업의 성격에 따라 인간과 AI의 역할을 명확히 정의할 필요가 있다. 결정 작업에서는 AI의 판단 결과를 참고 정보로 제한하고, 최종 결정권은 인간이 가져가고, 창의적 작업에서는 AI가 반복적이고 체계적인 작업을 담당하고, 인간이 전략적 역할을 수행하도록 말이다.
믿을 수 있는 AI 설계
AI 툴이라고 흔히 말하고 직관적으로 이해가능한 워딩은 맞지만, AI는 단순히 도구를 넘어 사용자의 결정과 행동을 보조하는 파트너의 형태로 설계되어야 한다. 이를 바탕으로 설명가능한 AI를 통해 모든 관계의 근간이 되는 신뢰를 쌓을 수 있을 것이다.
마치며
AI를 사용해보면 결과가 우리 기준을 미칠때도, 뛰어넘을때도, 부족할때도 많아 품질관리 및 기준을 세우기가 쉽지않다고 느껴진다. 이제 시작 단계이기 때문에 당연하지 아닐까. 앞으로 AI는 인간의 파트너로써 함께 협업하고 시너지 효과를 낼 것이며 그 존재감과 능력을 입증해나갈 것으로 생각한다. 향후 다양한 산업군에서 인간-AI 협업의 시너지 사례를 분석하고 변하지 않는 가치 인간 중심 UX 설계를 이어나갈 것이다.
<관련링크>
논문 보기 https://www.nature.com/articles/s41562-024-02024-1
