상상과 과학
철학아카포럼_sf로 보는 과학기술 가속발달 시대의 사회윤리
20181222_철학아카데미
아카포럼_sf로 보는 과학기술 가속발달 시대의 사회윤리
박상준 서울 sf아카이브 대표
들어가기
로테르담의 무인자동차가 콘테이너를 옮기는 사진을 보라? 무엇이 생각나는가? 바퀴자국들이 보이는가? 선명하고 기하학적인 도식들이 보이지 않는가? 그럼 이 곳에서 일하는 노동자들은 어디로 갔는가? 아예처음부터 로테르담의 로봇자동차들을 염두해 두고 이 항구를 만든 것은 아닌가? 인간이 사라져버린 오늘날의 노동과 사회에서 우리는 무엇을 생각해야 하는가?
다음과 같은 질문을 생각해보자. 내가 자율주행차를 타고 있다. 앞에 갑짜기 사람이 튀어 나왔다. 이럴때 자동주행차는 어떻게 반응하도록 설계하도록 하겠는가? 테슬라에서는 이것을 어떤 기준에서 정하겠는가? 초기에는 데이터마이닝을 하겠으나 대부분은 ‘보험회사에서 혜택을 미치는 범위’가 기준이 될 것이다. 미래에는우리가 이런 윤리적인 고민을 해야 한다.
세기적 과학기술은 세기적 기술윤리와 쌍둥이로 태어나는 것이다.
SF, AI의 두가지 전망
터미네이터와 바이센테니얼맨을 보자. 두 ai는 인간과 완전히 다른 관계를 맺는다. 터미네이터에서는 적으로, 바이센테니얼맨에서는 가족으로 관계가 설정되어 있다. 마지막에는 존재론적 차원에서 ai가 인간으로 인정되기를 바라는 방식으로 sf가 설정되어 있다.
바이센테니얼맨의 한 장면2001년에 개봉된 A.I라는 영화를 보면 반려동물이 아닌 반려로봇을 생각해 볼 수 있다. 일종의 애정 터미네이터라고 할 수 있다. 반려동물과 반려로봇이 다른 점은 반려로봇은 인간의 언어로 대화를 할 수 있다는 것이다. 이 영화에서는 17년 전이지만 반려동물이 유기되듯이 반려로봇도 유기될 것이라고 버려진 로봇들에 대한 윤리적인 문제도 발생할 것이다.
독거노인에게는 반려로봇이 오히려 인간보다 더 친근할 수 있다. 만약 할머니가 구매하여 관리하고 있는 유기로봇을 누군가 훔쳐갔다가 메모리만 훔쳐가도 다시 돌려줬다고 해보자. 그럼 법리적으로 볼 때 어떻게 처리를 해야 하는가? 도둑들에게 재물손괴죄를 적용해야 하는가?
2013년에 her라는 영화가 있었다. 이 영화에서는 A.I와 사랑을 나누는 남자가 A.I가 다른 A.I와 바람을 피우면서 슬퍼하는 내용이다. 이러한 경우도 생길 것이다.
최근 유럽의회에서는 인공지능 로봇의 ‘법인격’의 문제를 어떻게 다루어야 할지를 논의가 시작되었다. 로봇이 이제 법인격으로서 자신들의 지위를 찾아가는 과정이라고 볼 수 있다.
‘고물수레’라는 영상을 보자. 폐지줍는 할머니 로봇이 화제가 되었다. 현재 사회에서 일어나는 사회문제를 로봇을 오브제로 해서 상징화할 수 있다.
매트릭스 프리퀄 영상을 보면 인간과 기계가 어떻게 적이 되는지에 대한 sf가 담겨 있다. 사이보그는 인간의 일부분을 기계가 대체하는 것이라면 AI는 모든 것이 기계인 것이다. 매트릭스에서 보면 기계들은 자신들 스스로가 ‘인간’이라고 생각하도록 만들어져 있다. 그러므로 인간이라면 가지고 있는 자기보존의 욕구의 의해서 자신들을 죽이려는 인간에 대해서 전쟁을 선포하는 것을 볼 수 있다.
2011년에 개봉한 김지운 감독의 ‘인류멸망보고서’를 보자. 깨달음을 얻는 로봇이 사찰에서 청소를 하다가 어깨넘어로 배운 경으로 도를 깨우치게 된다. 로봇스님에 대한 반대파와 옹호파가 서로 싸우는 이야기를 다루고 있다. 이 영화는 ‘레디메이드 보살’이라는 박성환의 작품을 단편영화로 만든 것이다. 헐리우드에서 말하는 이분법적인 로봇의 이해에 반해서 우리는 이 영화에서 다른 방식으로 A.I를 볼 수 있다. 이미 이 세계는 아름다운 규칙과 약속이 있고, 그것이 우리 안에 부처가 있는 것이다.라는 것을 작품에서 드러내고 있다. 이러한 관점에서 ai가 바라보는 세상의 완벽한 구조가 ‘인간’이 없을 때 가능한 것처럼 나타내기도 한다.
기술 윤리, 유전공학
시험관 아기는 어떻게 만들어지는가? 배아를 총 4개정도 만들어서 시험관에 키우거나 냉동시켰다가 인간들이 원하는 시점에 시험관에서 키워서 착상을 시키고 대부분은 버리게 된다. 종교적으로는 이것이 생명에 대한 윤리로 문제가 되기도 한다.
1997년에 ‘가타카’라는 영화를 보자. 미래에서는 유전공학의 발전으로 맞춤형 아기가 생겨나고 사회적 차별이 가시화된다. 따라서 계속해서 계층 격차를 심화시킬 것이다. 유전자 맞춤아기가 실제로 중국에서는 실행되어서 태어났다. 우리나라도 곧 도입이 될 것으로 보인다. 이런 경우 우리는 허용할 것인가? 규제할 것인가? 이 영화가 개봉될 때 ‘게놈프로젝트’가 시작되고 있었다. 물론 지금은 그 프로젝트가 완성되었고 이제는 게놈메디신이 진행되고 있는 중이다. 이 당시 게놈프로젝트 참여했던 한 과학자는 이 영화를 보고 자신들의 게놈프로젝트가 완성되었을 때 일어날 일을 정확히 예상했다고 말했다. 그리고 덧붙여서 이러한 시대가 오면 안될 것이다.
유전자 아기보다 먼저 ‘맞춤’아기라는 Adam Nash가 있다. 세계 최초의 맞춤아기designer babe였다. 맞춤아기는 첫째 아이가 백혈병에 걸렸기 때문에 골수를 이식하기 위해서 태어난 아기였다. 2000년에 처음 미국에서 출생했으며 2008년 영국에서 최초로 합법화가 되었다. 이러한 주제를 가지고 ‘마이 시스터스 키퍼’라는 영화가 나왔다. 영화에서 ‘나는 언니의 볍을 치료할 목적으로 태어난 맞춤아기이다. 태어나서 지금까지 제대혈, 백혈구, 줄기세포 골수 등 내 몸의 모든 것을 언니에게 주었고 그런 내 역할에 대해 한 번도 거부한 적이 없었다. 하지만 이제 아니다. 난 내 몸의 권리를 찾기 위해 엄마와 아빠를 고소하기로 결심했다’라고 말한다.
인류역사, 디스토피아
인류역사에서 20세기의 의미는 다음가 같다. 과학기술의 세대교체 속도가 인간의 생물학적 세대교체 속돌르 앞지루는 전무후무한 크로스오버의 시대가 되었다. 과학기술이 인간을 넘어서기 시작한 것이다.
20세기 이전까지 과학기술은 그렇게 빠르게 발전하지 않았다. 그러나 20세기 산업혁명 이후에는 완전히 우리의 삶의 본질적인 부분까지 기술이 바뀌게 되었다.
미래 전망 패러다임의 변화를 보자. 20세기 전반기까지의 장미 빛 미래상에서 1945년 이후 디스토피아적 미래상이 부상하였다. 2차 세계대전 이후, 핵폭탄의 영향력과 함께 과학기술의 미래에 대한 의심과 불안이 일어났다.
sf작가들이 왜 디스토피아적 작품들을 많이 쓰는가? 그것은 현재를 사는 우리들에게 던지는 메타포이다. 디스토피아로 가기 전에 우리가 고민해야 할 것들을 바라보자라는 것이다. 올더스 헉슬리의 ‘멋진 신세계’나 ‘블레이드러너 2019’와 같은 디스토피아를 생각해보라.
1939년 뉴욕세계박람회에서 GM은 퓨처라마futuram라는 전시를 통해서 미래의 도시를 그려내고 있다. 그림에서보면 퓨처라마에서 자동차가 등장하지는 않는다. 그러나 미래도시에서는 자동차를 중심으로 다시 셋팅하는 것들을 보여준다. 1939년 당시에는 고속도로가 없었다. 그러나 퓨처라마에서는 고속도로를 보여준다. 이 후에 초국가적 기업들은 퓨처라마를 실제로 구현하기 위한 인프라 사업을 진행한다.
잘 생각해보자 누군가가 깔아놓은 전철의 레일에서 우리가 달리고 있는 것은 아닐까? 자동차를 중심으로 만들어진 도시, 대량생산과 대량소비를 위한 도시의 아케이드 등 모든 것들이 무엇인가 정해지고 계획된 것들은 아닌가?
미국이 지난 100년동안 4.5기가톤의 콩크리트를 썼다면 지난 3년간 중국은 6.6기가톤의 콘크리트를 썼다. 지금은 더 심할 것이다. 최근들어 인류의 발전은 자원의 거대한 소비로 이어지고 있다. 지속가능할 것인가? 당연히 지속가능하지 않겠지? 그렇다면 우리가 삶을 살아가는 철학을 바꾸어야 한다. 현재의 패러다임으로는 변화를 만들어낼 수 없다.
지속가능, 키워드
지속가능한 문명을 위한 핵심키워드는 무엇인가? 공유경제와 적정기술이다.
우리는 현재 소카, 우주 등등과 같은 기업들을 통해서 공유경제에 대해서 많은 이해를 가지고 있다. 더 새로운 것을 만들어내기보다는 서로 공유하는 방식으로 경제를 운영할 수 있는 것이다. 인프라를 더 제작하지 않고 있는 것들로 사용자를 옮겨서 사용하자는 것이 핵심이다.
적정기술은 하이테크나 로우테크와는 상관없이 제작비와 유지비의 최소화가 관건이다.
로마클럽이라는 싱크탱크에서 ‘성장의 한계”라는 책을 1972년에 출판하였다. 인간의 시야라는 섹션에서 인간은 시공간적으로 얼마나 넓은 시야를 가지고 사는가를 도표로 정리해보았다. 과학기술이 정체되어 있는 시대에서는 사람들의 시야가 매우 좁았고 넒어져야할 필요가 없었다. 그러나 과학기술이 발전하면서 인간의 시공간적인 시야는 완전히 넓어지고 깊어지고 있다. 시공간적 상상력을 넓히는 방법으로는 sf가 있다.
앨빈토플러는 “왜 학교에서 sf를 가르치지 않는가?”라고 말한다. 좋은 sf는 미래에 일어날 일을 정확하게 예측하는 것이 아니라 일어날 가능성이 있는 상황들을 통해서 상상력을 부여하기를 잘하는 작품이다.
포스트휴먼, 사이보그
오늘 이야기 중에 다루어지지 않은 부부은 2045년 이후에 일어나게 되는 특이점 이론이다. 이걸 보통 싱귤레러티라고 부르고, 포스트휴먼 논쟁이라고도 한다. 구글에서는 2045년 이후에 인간의 모든 데이터들이 온라인으로 연결되어서 인간의 몸 자체가 필요없는 데이터 만능의 시대가 온다고 말한다.
인간의 몸에 칩을 심어서 인간통제가 가능한 방식으로 발전하고 있는 현대의 사회적 변화도 민감하게 반응해야 한다. 변화에 대한 윤리적인 대응이 그만큼 필요하다는 것이다.
사이보그논쟁은 인간완성의 프로젝트 안에서 논의가 된다.
민네이션, 생각
루우만의 자기생산적인 체계를 생각해보라. 인간이 없이도 움직이는 체제에서 윤리는 무엇이되어야 하는가? 윤리라는 것은 인간과 연계가 되어 있을 때에만 가능한 것이 아닌가? 기계들 사이에서는 ‘효율’이 윤리가 되지 않을까?
Decentualized Automatic Organization의 관점에서 AI는 분권화되어 있고 자율적으로 움직인다. 이러한 소재는 이미 sf에서도 많이 드러나고 있다. 1~4차 산업혁명의 관점에서 로봇의 부상을 볼 수 있을 것이다.
유전공학과 연관해서 우리는 유전자와 인류를 어떻게 연결시킬 것인가? 플라톤의 계층 나누기가 현재는 유전학적으로 현실화되고 있는 과정이다. 이제 사회적으로 문제는 알았는데, 어떤 방식으로 사회를 바꾸어 나갈 것인가?
‘지금까지 철학은 세상을 이해하기 위해서 노력했다. 그러나 철학은 세상을 바꾸는데 있다’라고 한다면 우리는 이러한 고민들 이후에 어떻게 행동할 것인가?
윤리는 원리차원에서 세상을 움직이는 기준이나 기본이다. 그러나 이러한 원리 이전에 세계관, 인식론의 문제가 있다. 인간이란 무엇인가가 어떻게 결정되는가에 따라서 로봇윤리는 달라질 것이다. 한 사회에서 인간이 어떤 지위에 있는가에 따라서 현실의 윤리들은 달라질 것이다.
막스베버의 고대중세의 몰락에서는 노예제도가 노동시장을 경직시키면서 제국이 붕괴하게 되었다고 한다 지금은 이제 로봇이 노동시장을 완전히 변화시키고 있고, 관료제 혹은 정규직, 비정규직이라는 노동제도는 국가를 멸망시킬 수 있는 요소가 되는 것이다.
엘런머스크의 비전과 기술철학을 살펴보자. 인간이 더 나은 세대를 살기 위해서 ‘테슬라’가 원했던 기술들을 변화시켜보자는 비전을 가지고 있지 않은가?
일본에서는 인류멸망에 대한 에니메이션이나 영화들이 많다. 왜 그럴까? 혹시나 역사적으로 자신들의 온 세계가 없어져버리는 경험을 해보지 않았겠는가? 공각기동대, 에반게리온, 진격의 거인과 같은 것들을 보자. 인류의 멸망이 이루어질 수 있다라고 보고서 세상을 바꾸거나 멈추게 하는 작업들이 보수적으로 나타나거나 진보적으로 나타나고 있는 것을 볼 수 있다.
자크엘륄의 기술철학을 살펴볼 필요가 있다.
우리는 새로운 철학을 만들어야 한다. 혁신을 이루기 위해서는 새로운 가치를 만들어야 하는데, 그 방식은 ‘패러다임의 변화, 프로세스의 변화, 기술의 변화’가 일어나야 한다. 그런데 기술변화와 프로스세의 변화는 이미 일어나고 있다. 문제는 패러다임의 변화는 잘 일어나지 않고 있다. 우리가 도전해서 바꾸어야 하는 것이다.
Sf가 가지고 있는 상상력의 확대는 많은 작품에서 다루고 있다. 마블에서는 새로운 유니버스를 가지고 있고, 게임에서도 많은 부분에서 새로운 세계관을 가지고 있다.
마블의 세계관은 sf를 넘어선다.