지구중심적 AI
인간중심적이 아닌 지구중심적인 AI를 위하여
얼마 전, 세계 바둑 랭킹 1위 커제가 구글 딥마인드가 개발한 인공지능 컴퓨터 바둑프로그램 알파고(AlphaGo)에게 완패했다. 사람들은 경우의 수가 너무 많아 인간의 ‘직관’이 필요한 바둑만큼은 컴퓨터가 인간을 이길 수 없을 것이라 여겼다. 하지만 그 환상이 처절히 깨졌다. 커제는 눈물을 흘렸고, 알파고는 바둑계에 68승 1패의 전적을 남기고 은퇴했다. 작년부터 이세돌과 알파고, 커제와 알파고의 대결로 세계의 이목을 끌었던 인간과 인공지능의 바둑 대결은 이렇게 막을 내렸다.
나는 환경운동가이다. 환경운동가로서 현재 내가 속한 단체는 ‘우리는 지구와 생태계, 그 안에 살고 있는 모든 생명체를 존중하고 삶의 터전인 지구를 지키기 위해 헌신한다’는 가치를 두고 활동하고 있다. 나는 인공지능에 대한 전문가도, 관련 전공자도 아니지만 환경운동가로서 “인공지능이 도래한 사회에서 지구는 어떤 모습으로 변하게 될까?” 혹은 “인공지능이 지구생태계에 미칠 영향은 무엇일까?”하는 고민과 상상을 하게 되었음을 먼저 밝혀두고 글을 이어나가고자 한다.
다시 알파고에 대한 이야기로 돌아와보자. 작년과 올해 알파고가 세상에 보여준 퍼포먼스는 실로 놀라웠다. 그러나 이번에 내 시선을 더욱 사로잡은 것은 알파고가 커제를 꺾었다는 사실보다 대국이 끝난 후에 벌어진 상반된 내용의 두 가지 기자회견이었다. 대국에서 승리한 알파고 개발사인 구글 딥마인드의 데미스 허사비스 최고경영자(CEO)는 기자회견에서 “인류가 인공지능을 도구로 삼을 수 있다는 잠재력을 확인한 것이며, 앞으로 인공지능은 에너지 효율화, 질병 진단 등 여러 산업에서 다양한 과제를 해결하는 주요 도구가 될 것”이라고 밝혔다. 반면 패배한 커제는 “알파고가 지나치게 냉정해 그와 바둑을 두는 것은 고통 그 자체였다”고 말했다. 허사비스는 ‘도구’로서의 인공지능의 무한한 잠재력에 대해, 커제는 인공지능이 가진 ‘냉혹함’에 대해 이야기했다.
대부분의 사람들은 허사비스가 말한 ‘도구’로서의 인공지능이 가진 무한한 잠재력에 관심을 보인다. 나는 인공지능 기술 자체의 성장보다 인간이 인공지능을 어떻게 바라볼 것인가가 중요하다고 본다. 나는 커제가 느낀 인공지능의 ‘냉혹함’, 즉 인공지능의 기술적인 부분보다 도덕성, 책임성 등에 대해 초점을 맞추어 보고자 한다. 제임스 배럿은 그의 책 『파이널 인벤션』에서 “인공지능의 도덕성에 관한 의심은 인공지능 개발의 핵심과제이며, 이 의문은 인공지능을 논할 때 다른 어떤 질문보다 먼저 해야 한다”고 지적했다. 인공지능이 ‘스스로 냉혹하게’ 판단하는 사회는 어떤 모습일까? 바둑판에서 알파고가 보여준 모습에 인간인 커제가 느낀 것처럼, 지나치게 냉정한 인공지능과 함께하는 사회는 고통 그 자체이지 않을까? 인공지능이 도래한 사회가 어떤 모습일지 쉽게 예측할 수는 없다. 그러나 여기에서 나열하지 않아도 인공지능이 인간의 능력을 벗어나 통제되지 않을 경우에 대한 우려는 이미 책이나 영화에서도 쉽게 접할 수 있을 정도로 많다.
인공지능의 도덕성 혹은 책임성 등 윤리원칙에 대한 관심이 최근에서야 나타난 것은 아니다. 대표적인 로봇 윤리 원칙은 미국의 SF작가이자 과학해설자인 아이작 아시모프가 1942년 그의 소설에서 제안한 세 가지-① 로봇은 인간에게 위해를 가할 수 없으며, 인간이 위험한 상황에 처했을 때 방관해서도 안 된다. ② 로봇은 ①에 위배되지 않는 한, 인간이 내리는 명령에 복종해야 한다. ③ 로봇은 ①과 ②에 위배되지 않는 한, 자신의 존재를 보호해야 한다-가 있다. 또한 최근 미국 ‘삶의 미래 연구소(FLI)’는 총 23개 항으로 구성된 ‘아실로마 AI 원칙(Asilomar AI Principles)’을 발표했다. 아실로마 AI 원칙은 “인공지능 연구의 목표는 방향성 없는 지능이 아니라 인간에게 유용한 지능을 개발하는 것”이라고 명시하고 있다.
이렇게 인공지능의 도덕성 혹은 책임성에 대한 고민이 이어지고 있으니 다행스럽게 여길 수 있다. 하지만 환경운동가로서 우려스러운 점은 두 원칙 모두 ‘인간중심적’이라는 것이다. 아이작 아시모프의 로봇 윤리 원칙이나 아실로마 AI 원칙 모두 ‘인간’에게 위해를 가해서는 안되며, ‘인간’에게 유용한 지능을 개발하는 것이라고 말하고 있다. 즉, 인공지능도 오로지 인간만을 위해 사용하는 도구로 생각하고 있는 것이다. 그 동안 인간은 수 많은 도구들을 개발했다. 그 도구들을 오로지 인간의 편의대로만 사용했다. 지구에 존재하는 모든 것들을 인간에게 필요한 것으로 재해석했다. 오로지 인간만을 생각하는 사고 방식 속에서 인간이 발 딛고 살아가고 있는 지구는 점점 우리 스스로가 생존하기 어려운 곳으로 변해가고 있다. 과거부터 현재까지 이어지고 있는 인간중심적인 도구 사용으로 인한 파괴와 환경문제 등은 이미 벌어진 실수로 어쩔 수 없다고 치자. 그런데, 이제 인공지능만큼은 인간중심적이 아니라 ‘지구중심적’으로, 지구생태계를 위해 사용할 수 있지 않을까?
바둑판을 떠난 알파고는 더 발전된 모습으로 세상 속으로 들어올 것이다. 인공지능은 인간을 비롯한 지구생태계에 중대한 변화를 가져올 것이다. 따라서 나는 아실로마 AI 원칙의 제1항, 인공지능 연구의 목표를 이렇게 제안하고 싶다.
“인공지능 연구의 목표는 방향성 없는 지능이 아니라 지구생태계에 유용한 지능을 개발하는 것이다.”
*본 글은 2017년 7월 빅이슈코리아 제159호에 발행되었습니다. (작성일: 2017년 6월 15일)
[참고]
제임스 배럿, 『파이널 인벤션』 , 동아시아, 2016.
김대식, 『김대식의 인간 vs 기계』, 동아시아, 2016.
“인간을 이기는 AI, 재앙인가 축복인가”(주간동아, 2017.06.13)
