기계와 인간에 통용될 윤리가 필요하다
인간만의 윤리가 더 이상은 안 통한다
윤리 재정립의 필요성
알파고 사태는 인공지능이 지식의 세계에서 인간을 능가하거나 적어도 비슷해질 수 있다는 것을 암시한다. 인공지능은 윤리적 도덕적 판단도 할 수 있을까? 단순히 보자면 수많은 도덕적 사례를 학습시키면 인공지능 역시 주어진 환경을 평가하고 선택하는 도덕적 행위자의 역할을 할 수 있다. 그러나 윤리와 도덕은 단순히 기계적으로 최적화할 수 있는 문제가 아닌 것 같다. 최근에 있었던 구글의 무인자동차 사고는 인공지능에 대한 도덕적 문제와 법적 이슈가 눈앞의 과제임을 시사한다. 이와 관련 프랑스 툴루즈 경제대 연구원인 J.F. 보네퐁의 논문이 2015년 10월 MIT 한 저널에 소개됐다. 다음 그림은 (운전자가 탔지만, 운전은 하지 않는)인공지능 자율자동차가 누군가를 죽여야 하는 급박한 상황을 나타낸다. 인공지능은 어떤 판단을 해야 하는가?
A: 직진하면 여러명 사망, 방향 바꾸면 1명 사망 / B: 직진하면 1명 사망, 방향 바꾸면 운전자 사망 / C: 직진하면 여러명 사망, 방향 바꾸면 운전자 사망 (출처=프랑스 툴루즈 경제대 연구원 J.F 보네퐁 논문) (헤럴드 경제, 2016. 3. 28)
만일 지금 당장이라도 길거리에서 사람이 운전하는 차를 모조리 없애고 인공지능이 작동하는 자율 자동차만 주행할 수 있다면 아마 별 문제 없을 것이다. 인공지능은 사람이 입력한 대로 움직이기 때문에 다른 차의 인공지능도 예측할 수 있기 때문이다. 그런데 아직까지, 언제일지 모르지만 사람이 인공지능 자동차를 완전히 믿을 수 있을 때까지는 사람이 운전하는 자동차는 없어지지 않을 것이다. 그래서 인공지능 자동차가 거리를 정복하기까지는 상당한 시간이 걸릴 것이다. 위의 자동차 예를 보아도 그렇다. 아마 가장 단순한 대답은 다수를 위하여 소수를 희생하는 A케이스가 될 것이다. 공리주의적으로 최대 다수의 최대 행복의 함수를 따른다. 여러 사람보다는 한 사람의 목숨이 가볍다고 생각할 수 있으니까. 그런데 B경우는 차안에 있는 사람과 차 밖에 있는 사람의 목숨의 가치를 계산해야 한다. 누가 더 중요할까? C경우는 어떨까? 차안에 있는 단 한사람과 차 밖에 있는 여러 사람. 운전자가 이런 경우를 다 감안해서 프로그램해 놓을 수 있을까? 이보다 더 할 수 있는 경우는 또 있다. 애초부터 사람을 죽이기 위하여 만들어진 전쟁 로봇이다.
수천㎞ 바깥에서 원격조종으로 목표물을 타격하는 드론 공습의 특성상 정보가 잘못됐거나 돌발변수가 생기면 무고한 사람들이 희생될 수밖에 없다. 드론 공습으로 지금까지 수많은 민간인들이 죽었다는 사실은 익히 알려져 있다. 뉴욕타임스는 2004년 이후 지금까지 522차례의 드론 공습으로 3852명이 사망했고, 이 중 476명은 민간인이라고 전했다. 미군을 지킨다는 명목 아래서 무고한 현지 민간인들이 희생된 것이다. 미국인이 사망한 것도 처음이 아니다. 2002년 이후 최소 8명의 미국인이 파키스탄과 예멘에서 드론 공습으로 사망했다. 인권단체와 국제사회의 비판도 어제오늘 일이 아니다. 나와즈 샤리프 파키스탄 총리는 자국 영토에 대한 드론 공습을 중단하라고 미국에 수차례 공개 요구했지만 미국은 듣지 않았다. 국제적 비난에도 불구하고 미국인의 3분의 2 이상은 드론 공습을 지지한다. 앰네스티인터내셔널 미국 지부는 “미국인과 유럽인뿐 아니라 드론 오폭으로 사망한 모든 민간인들에게 사과하고 보상하라”고 촉구했다. (경향신문, 2015. 4 .24)
정말 인간은 어떤 경우에도 로봇이 인간을 해치지 않을 거라고 자신 있게 말할 수 있을까? 과학의 연구와 그 결과물의 사용이 분리되어 있다는 가치중립성은 과학이 만들어낸 환경파괴, 전쟁의 폐해 그리고 합성 생물의 두려움을 사회의 견제로부터 벗어나게 하고 있다. 어쩌면 이런 논리는 예술이 사회의 평가와 동떨어지게 그 자체로 가치가 있다는 말과 같을 수 있다. 그렇다면 과학은 왜 돈 되는 분야, 자본이나 정부가 관심을 갖는 분야에서 특히나 더 발전했는지도 생각해보아야 한다. 이 질문은 과학기술도 사회나 자본의 요구로부터 자유로울 수 없으며, 따라서 과학은 사회의 윤리로부터 중립적 일 수 없다. 이제는 과학 발전의 이유를 명확히 해야 할 때가 왔다. 윤리 없이 과학자들의 창의성만을 존중하다가는 우리의 미래에 심각한 문제를 초래할 수 있다. 원자폭탄은 이미 오래 전에 우리에게 경각심을 주었다. 이제 인공지능이 생물학적 지능을 대체하기 시작했고, 곧 넘어서리라는 예견이 있다. 심지어는 인류 전체의 지능을 기계 하나가 넘어설 수 있다는 전망까지 나오고 있다. 우리는 우리의 피조물에 의하여 지배당할 가능성이 점차 높아진다. 인간의 피조물에 의하여 인간의 완전한 자기 소멸이 다가오기 전에 과학의 윤리를 새로이 정립해야 한다.
