[리딩] 인공지능 기술 신화로서 의인화 비판
김현준, 이광석(2023)
[학술논문] 김현준, 이광석(2023) 인공지능 기술 신화로서 의인화 비판 : 챗봇 이루다 사례 연구
<키워드> 인공지능, 신화되는 인공지능 기술, ANT, 번역, 의인화
서론
인공지능(AI)의 기술신화, 즉 기술결정론을 강화히기 위한 의인화(재생산) 과정에서 나타난 챗봇 이루다 사례를 구성주의 관점에서 분석한다. ANT와 구성주의적 관점에서 인공지능의 의인화는 사회적인 과정 속에서 비인간 행위자(기술, 알고리즘 모델)와 인간 행위자(다양한 이용자와 제도)가 함께 만들어내는 기술과 사회의 '공동구성', 공진화, 네트워크, 혼종성(hybrid), 연합, 배치, 집합체(assemblage)의 효과로서 이해될 수 있다. 결론적으로 구성주의적 시각에서 인공지능 기술의 환상과 기술권력을 해체하는데 비판적 관점으로 의인화되는 기술문화와 기술서사적 차원에서 인공지능 기술 자체에 대한 실제적 모습을 파악하고자 한다.
이론적 배경
이루다와 같은 챗봇은 인간과 상호작용을 목적으로 하는 '사회적 로봇'이라 할 수 있다. 의인화란 "일반적으로 인간과 유사한 감정, 정신 상태, 행동 특성을 무생물, 동물, 그리고 일반적으로 자연 현상과 초자연적인 존재에 부여하는 것이다. 의인화는 합리적으로 이해하기 어려운 존재(사물)를 이해하는 하나의 방식이다. 이러한 의인화는 사회적 인식으로서 합리적인 것으로 만드는 사회적 과정을 통해 이루어진다. 그리고 의인화에는 인간처럼 상호작용할 수 있는 속성을 인공사물에 부여하는 실천이 포함된다. 의인화는 사회적 상호작용, 커뮤니케이션적 요소를 통해 이루어지는 것이다.
본론(방법론)
이루다 챗봇의 인공지능 의인화는 기술-사회 혼종성과 네트워크의 효과를 포착하는 ANT를 일종의 구성주의적 방법론으로 도입하여 ANT를 과학기술학의 구성주의 전통으로써 기술과 사회의 상호 동시 구성을 강조하는 관점을 라투르는 '조립주의(compositionism)'로 명명한다. 그는 조립주의는 조립된 것과 그렇지 않은 것 차이에 주목함으로써 집합체로서 인공물이 수정 가능하며 이에 따라 공통의 세계를 구성하는데 기여할 수 있다고 본다. ANT는 기본적으로 기술적 대상(technical artifacts)을 기술-사회, 물질-문화(기호)의 이종적 네트워크, 혼종(hybrid), 연합체, 결합체, 앙상블(ensemble)로 이해한다. 챗봇과 같은 기술적 인공물들은 기술-사회 혼종의 집합체임에도 불구하고, 구성의 과정 속에서 자율적 기술과 기술 외부의 사회적 요소로 분리되고 재배치된다. 즉 기술적 대상은 본래 복잡한 혼성적 네트워크의 효과이자 결합체이지만 역사적이고 논쟁적인 과정이 종결되었을 때 하나로 통합된 단일한 사물처럼 인식되는 것이다. 크로포드는 인공지능은 단지 알고리즘이나 기계학습이 아니라, 이를 둘러싼 복합적 관계의 “지도책(atlas)”으로서 이해되어야 한다고 전했다. ANT와 비판적 구성주의가 공유하는 관점은 기술적 인공물을 기술과 사회의 혼종적인 동시 구성(co-construction) 또는 공동생산(co-production)의 산물로 접근하는 데 있다. 즉 사회·문화적 요인이 설계 대안의 선택이나 배제의 과정에 개입함으로써 기술의 최종적 형태와 기술에 대한 믿음을 결정짓는다는 것이다.
결과
챗봇 이루다 사건의 과정을 ANT의 '번역'관점에서 정리해 보면 이루다의 문화적 정의, 즉 다른 행위자(이용자)들의 이해 관심과 해석에 의해 번역되면서 다른 양상을 갖게 되었다. 먼저 (1차 이인화) 젠더화된 기술 설계, (2차 위안화) 챗봇의 성적 대상화 완성으로 이루다의 혐오, 차별 발언이 사회 쟁점화 되었고, 개발사가 설정한 '친구 같은 챗봇'의 목적과 행위에 따라 생긴 문제로 (3차 의인화) '어린아이'로 의인화하는 기술적 오류를 정당화하는 오롯이 기술공학적 설계 문제로 환원됨에 따라 문제점 축소로 본질적인 문제 사회문화적 구성주의 (ANT) 관점에서 '기술'을 다시 살펴봄에 따라 기술설계에 있어, AI 윤리 가이드라인 등 문화적 차원의 접근이 부족하다.
제한점
사건중심의 ANT분석으로 구체적이거나 다양한 행위소 분석이 부족해 ANT접근으로써 다소 아쉬움
