brunch

매거진 좌충우돌 읽고 보니 책거리

라이킷 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 빈모 May 01. 2019

인공지능에 도덕엔진을 탑재하는 법

인공지능 로봇에게 선악 판단 기준을 가르쳐야 살해당하지 않는다.

공장 자동화에 따라 로봇이 조립라인에 들어간지는 오래다. 인공지능(AI)이 장착된 로봇 등장도 이제 멀지 않다. 이미 인공지능 수준은 바둑 규칙을 알려 주지 않아도 스스로 학습해 이기는 방법을 찾아내는 단계이다. 이런 인공지능과 로봇이 결합되고 일상적으로 사용된다면, 사실상 새로운 종족이 생긴 것과 마찬가지다.

인류 역사상 새로운 종족과 기존 종족이 만나면 친교보다는 갈등이 대부분이었다. 수많은 전쟁(한쪽이 월등하면 일방적인 정복)이 증명한다. 인공지능 로봇도 마찬가지다. 로봇과 인간의 갈등 상황을 묘사한 SF영화가 많다는 것은 이럴 가능성이 많다는 말과 같다.

영화 '터미네이터'와 같은 암울한 미래가 오지 말라는 법은 없다. 그러기에 그 단계에 가기 전에 인공지능 로봇을 교육시켜(일정 기준과 규칙을 주입시켜) 예방할 필요가 있다. 한마디로 갈등 상황의 암담함을 미리 교육시킬 필요가 있다. 1·2차 대전 이후로 대규모 전쟁이 없는 것은 인간이 극도의 참상을 겪었기에 공멸 위험을 막기 위한 회피책을 마련했기 때문이다. 미국의 SF작가 아이작 아시모프는 1942년 3월 발표한 <RunAround>에서 로봇 3원칙을 언급했다. 아시모프는 로봇이 인간에게 위해를 가하지 못하도록 3가지 원칙이 있다고 소설에서 밝혔다.

로봇 3원칙

1. 로봇은 인간에게 해를 입혀서는 안 된다. 또한 위험에 처한 인간을 모른척해서 인간에게 해가 되도록 해서도 안된다.

2. 로봇은 인간의 명령에 복종해야 한다. 다만, 주어진 명령이 1원칙에 위배되는 경우에는 예외이다.

3. 로봇은 1원칙과 2원칙에 위배되지 않는 한 로봇 자신을 지켜야 한다.

저자는 이 로봇 3원칙이 근본적인 문제가 있다고 본다. 그래서 그는 인간의 도덕을 모델화해서 로봇에게 탑재하는 '도덕엔진'을 구상한다. 그래서 '도덕엔진'을 만들기 위해 가장 기본적인 선악 판단 기준을 생각해 본다. 제일 먼저 사람이 사람을 죽이면 안 된다는 것이 올바른 도덕기준인지를 묻는다. 평상시에는 맞는 말이지만, 전쟁상황 그리고 흉악범이 칼을 들고 달려든다면 가만히 죽음을 기다릴 수는 없지 않냐고 반문한다. 또한 종교적 신념, 혹은 식민지배를 벗어나기 위한 저항수단으로 벌어진 자살 폭탄테러, 아니면 중세시대의 마녀사냥 같은 경우를 예로 든다. 현재의 보편적 기준으로는 문제가 있지만 당시는 전혀 문제가 없고 오히려 찬양되기도 한 일들이다.

저자는 역사 속 여러 성현과 유명인들이 말한 도덕 기준을 살펴 일종의 묶음으로 구분한다.(책의 이 부분은 유명인들이 말한 명언 모음 같아 일정 부분 유익하다. 두터운 책을 읽지 않고도 읽은 척할 수 있으니까.) 구분 방식은 문과 방식이 아닌 이과 방식을 선택한다. 유명인들의 발언을 떨어진 거리에서 관찰해 더 큰 특징별로 분류한다. 저자는 이렇게 단순화하는 것은 물리 혹은 화학에서 조시화(粗視化)라고 말한다고 설명한다.

조시화(粗視化) : 어떤 현상을 설명하거나 기술할 때 정보의 양과 종류가 너무 많아 전부를 고려할 수 없으면 설명이나 기술에 필요한 정보의 양과 종류를 줄이는 방식. 간단히 말하자면 모자이크 처리하거나 해상도를 낮추는 일이나 카메라의 줌아웃이 해당한다. - 옮긴이 이시훈의 보조설명.

조시화(粗視化)는 사실 한자를 이해하는 일본어의 특성 아래 만들어진 말이다. 내 생각은 그냥 외부의 큰 특징별로 거칠게 묶는 방식이라고 번역했으면 어떨까 싶기도 하다.

클라우드나인/2019.3/정웅일 지음 이시훈 옮김/1만 3800원

저자는 사회 중심 사고와 개인 중심 사고로 나눈다. 종교나 혹은 강력한 국가의 법의 지도 아래에 있는 사회 중심 사고는 다른 이상의 도덕을 가진 사회와 만나면 힘을 잃게 되거나 관용성이 없다. 개인 중심 사고는 유연하긴 해도 분쟁 시 기준이 없이 방관하게 되면 무력해진다. 결국 이 둘의 한계를 넘는 기준이 필요하다.

사람을 죽이지 말라는 명제에서 도대체 사람이란 무엇을 뜻하는 것일까. 말을 할 줄 아는 고등 유인원을 말할까? 저자는 간단히 '자기편'을 말한다고 설명한다. '자기편'은 사람일 수도 있고 가상의 존재, 즉 같은 국가 혹은 같은 종교를 믿는 사람, 같은 언어를 쓰는 사람, 같은 영토에 있는 사람으로 넓어질 수 있다.

만일 '사람=생물학적 일반'이라고 한정하면 판단 오류에 빠지기 쉽다. 희극왕 찰리 채플린이 '살인광 시대'에서 자신이 맡은 살인귀 입을 통해 "한 명을 죽이면 악인이고 100만 명을 죽이면 영웅"이라고 한 말은 착각이라고 저자는 단언한다. 1명을 죽였어도 적군이라면 영웅이 될 수 있고 자기편 100만 명을 죽였다면 악인이 된다는 것이다.

자기편을 정함에 있어 언어가 중요하며 언어가 전달하는 문화가 중요하다고 말한다. 인간의 언어는 과거와 현재를 표현하면서 시공간을 넘어간다.(문자를 만들기 전 일부 문화권에서는 역사적 일들을 암송해서 말로 후대에 전달했다. 이 과정에서 말은 그 문화권에서 정형화된 기록이 되고 준거가 되기도 했다.) 인간의 언어는 모호함이 있긴 해도 한 사회 속에서 통용되는 규범과 내용을 규정하고 있다.

도덕에 관한 사상과 논의는 사회적 도덕과 개인적 도덕 분야로 나뉜다. 하지만 어느 한쪽 만으로 규정된 도덕은 자기모순에 빠지기 쉽다. 따라서 이중구조 상에서 상호보완적으로 도덕 체계를 세워야 한다. 결국 로봇에게 탑재한 도덕엔진은 인간의 사고나 행동양식을 관찰할 때 그 배경에 있는 도덕을 공통 규율과 개별 규율로 식별할 수 있는 능력이 요구된다. 여기에 '자기편은 해치면 안 된다'는 공통 규율을 지키지만 개별 규율까지 같을 필요가 없음을 판단할 수 있다면 로봇과 인간이 공존할 수 있을 것이다.

도표는 로봇에게 장착할 도덕 엔진의 알고리즘 구성도이다. 인간과 다른 점은 로봇 자신에게 해를 끼친다 해도 회피 내지는 방어만 하도록 설정한 것이다. 인간의 경우라면 이런 순간 반격 혹은 공격성이 극대화되는 모습이 될 수 있다. 로봇에게는 이런 공격성을 제어할 필요성이 있을 것이다. 그래야 인간의 생명에 위험을 주는 행위가 근본적으로 발생하지 않게 될 것이다.

이러한 도덕 엔진이 장착된 로봇에 대한 3원칙은 아시모프가 말한 3원칙과는 달라야 할 것이다.

제1원칙에 나오는 '인간'을 공통 규율을 지킬 수 있는 '자기편 인간'으로 표현해야 한다.

즉 1원칙은 '로봇은 자기편 인간에게 해를 입혀서는 안 된다. 또한 위험에 처한 자기편 인간을 모른 척해서 자기편 인간에게 해가 되도록 해서도 안 된다.'로 고쳐야 한다.

그런데 '자기편 인간'으로 고치게 되면 자기편이란 상호 대등한 관계인데 절대복종을 요구한다는 것은 모순에 빠진다. 결국 2원칙도 '로봇은 자기편 인간과 협력하고 분업해야 한다.'라고 바꿀 수 있다.

결국 로봇과 인간이 분업하고 협업하는 세상이 된다는 말이다. 이런 모습을 미국 SF 드라마 스타트렉 : 넥스트 제너레이션 시즌2, 9화 사람이 되는 기준(The Measure of A Man) [방영일시 : 1989년 2월 13일]에 등장한 안드로이드 로봇 '데이터'를 통해 볼 수 있다. - 빈모 -

저자 정웅일은 도쿄대 공학부 의학부 교수이자 도덕철학자이다. 1964년 도쿄에서 태어난 재일교포 3세이자 의학박사다. 실학을 중시하고 사회에 도움이 되는 의사가 되라는 부모님의 권유로 어릴 때 꿈인 화가의 길을 포기하고 도쿄대학교 의과대에 최우수 성적으로 입학하고 졸업했다. 동 대학원에서 의학박사를 취득했다. 그 후 인체의 모습을 결정하는 뼈 칼슘대사의 내분비계에 매료되어 연구 심화를 위해 하버드대학교 의학부에 유학 가서 헨리 크로넨버그 교수에게 배우며 세포의 기능을 조절하고 뼈의 성장을 촉진하는 시그널 인자 연구에 몰두했다. 지금은 일본에서 인공 뼈로 재생에 도전하는 최고 권위의 뼈 박사로 인정받고 있다.

그는 의학 분야뿐 아니라 물리학, 건축학, 공학, 철학까지 그 영역을 활발하게 넓혀가는 바이오 엔지니어이자 철학자이다. 독일 괴테 연구소 특별장학생으로 선발됐고 미국 매사추세츠 종합병원 의학 공로상, 정형학회상, 의료재단상, 미국 국립보건원 NIH상, 일본 인공장기 학회 논문상, 일본 바이오메트리얼 학회상 등을 수상했다.

주요 저서로는 『왜 사람을 죽이면 안 될까?』와 『(동경대 한국인 뼈 박사가 알려주는) 장수 혁명』 등이 있다. - 저자 소개글 옮김

keyword