인공지능에도 윤리가 필요한 걸까?
김명주, 『AI는 양심이 없다』, 헤이북스, 2022.
“신뢰할 수 있는 인공지능을 확보하려면, 인간 자신을 먼저 신뢰할 수 있어야 한다.”
저자는 인공지능이 촉발한 비가역적 사회 대전환기를 사는 현대인에게, 인공지능으로 발생 가능한 윤리적인 문제와 구체적 대안을 알려주려고 이 책을 썼다.
책의 전반부에서는, ‘죽음’과 ‘존재’의 개념을 뒤흔드는 인공지능의 현재를 설명한다. 사후 디지털 부활은 마냥 좋은 것일까? 죽은 연예인이 살아 돌아와 공연하고, 저자는 세상에 없는 자녀가 살아 돌아와 어머니와 다시 만나는 것이 초래할 수 있는 문제들을 다양한 관점에서 살펴본다. 또한 가상 인간이 실존하는 인간과의 경계에서 어떤 문제를 일으킬 수 있는지 조명한다.
중반부에서는, 인공지능의 ‘신뢰’ 문제를 다룬다. 의료계와 금융계, 법조계, 예술계 등 사회 각 분야에 퍼진 인공지능을 하나씩 설명하며 인공지능이 우리의 삶에 얼마나 깊이 관여하는지 느끼게 해 준다. 인공지능은 언제나 옳은가? 저자는 초지능과 자율주행차 사고를 통해 인공지능의 존재적 위험과 탈인간 중심의 법체계 가능성을 논의한다. 또한 흑인과 여성, 공립학교를 차별하는 인공지능과 차별하는 챗봇, 안전하지 못한 인공지능의 다양한 사례를 언급하며 인공지능에도 제약이 필요함을 강조한다.
후반부에서는, 인공지능 윤리의 필요성과 구체적 원칙을 제안한다. “왜 시작부터 윤리냐?”, “소수 인력만 윤리를 알면 되지 않냐?”, “윤리보다는 법으로 대처하는 게 낫지 않냐?”라는 세 가지 질문과 답변을 통해 윤리의 필요성을 역설한다. 이어서 인공지능의 차별적 특성(자율적, 지능적 소프트웨어)과 보편적 특성(인간을 위한 기술, 사회변화를 이끌어 가는 기술)을 면밀하게 검토하여 네 가지 기본 원칙을 제안한다. 공공성, 책무성, 통제성, 투명성이 그것이다.
나는 ‘김명주’가 쓴 <AI는 양심이 없다>가 인공지능의 기술적 화려함에 취해있거나, 근거 없는 공포를 느끼는 사람들에게, 인공지능 문제의 본질과 인공지능 윤리의 필요성을 알려주는 좋은 책이라 생각한다.
왜냐하면,
첫째, ‘죽음’과 ‘존재’라는 경계를 절묘하게 포착하여 문제의 본질을 끄집어내는 방식이 몹시 탁월하다. 산 자와 죽은 자의 경계, 나와 아바타의 경계. 이 경계는 삶과 생명이란 무엇인가?, 나라는 것은 무엇인가?라는 철학적 질문과 연결된다. 저자는 죽은 자의 디지털 프로파일링을 통한 디지털 부활과, 산 자의 디지털 영생⸱ 생물학적 영생을 논한다. 내가 생각한 문제의 본질은 이렇다. 오늘날의 인공지능은 이 경계를 흐릿하게 만들고, 아무런 제약 없이 자유롭게 넘나들고 있다.
둘째, 인공지능의 신뢰도에 의문을 품도록 만들어주기 때문이다. 보편적으로 인공지능은 공정하고 믿을 수 있다는 인식이 널리 퍼져있다. 그러나 저자는 2021년의 챗봇 이루다 사건, 자율주행차 사고, 인공지능 취약점을 이용한 적대적 공격을 사례로 들며 인공지능을 맹신하는 것은 위험하다고 경고한다. 문득 레이첼 보츠먼의 <신뢰 이동>이 생각난다. 이 책에서는 ‘지역적 신뢰’와 ‘제도적 신뢰’의 시대를 거쳐, 오늘날 세 번째 신뢰혁명이 일어났다고 말하며 블록체인 기반 ‘분산적 신뢰’ 시대가 도래했음을 알린다. 나는 지금까지 ‘분산적 신뢰’의 화려함에 빠져 있었는데, 이 책을 읽으며 ‘분산적 신뢰’ 시대에는 반드시 인공지능을 통제할 윤리기준이 필요하겠다는 생각이 들었다.
셋째, 구체적인 인공지능 윤리기준을 제시하기 때문이다. 문제를 제기하는 방식이나 윤리기준을 만들기 위한 질문 모두 탁월하다. 미리 이런 질문이 나올 것을 예상한 것처럼, 차분하게 답하며 그래서 오히려 윤리가 필요하다고 설득한다.
한 가지 아쉬운 점이 있다. 마지막 4장에서 인공지능 윤리의 세부 요소 설명, 국가 등 기관의 윤리기준에 대한 설명이 보고서 형식처럼 딱딱하게 작성되어 가독성이 떨어지고, 약간은 지루하게 만든다는 점이다.
