"인공지능 쫌 아는 10대"
크리킨디X풀빛 "사회+과학 쫌 아는 10대" 독서토론 한마당 2강
크리킨디센터와 풀빛출판사가 의기투합하여, 깊어가는 이 가을 화요일 저녁마다, 사회+과학 쫌 아는 십대들과 함께 책도 읽고 저자와 직접 만나 토론을 할 수도 있는 기회를 마련하고 있습니다. 1강 "환경과 생태 쫌 아는 십대"에 이어 2강은 "인공지능 쫌 아는 십대"를 읽고 저자와 만났습니다. 1강은 동영상으로 유튜브를 통해 만날 수 있습니다. 벌써 4강이 진행되었고요 다음 화요일 저녁에 5강을 진행합니다.
과학기술과 정치경제가 긴밀하게 현재와 미래를 가로지르며 급변하는 이때, 미래 사회와 스스로의 진로를 탐색하는 십대들에게 꼭 필요한 핵심주제들, 환경과 생태, 인공지능, 유튜브, 물질, 빅뱅, 최저임금, 기본소득 등을 다루고 있습니다. 2강의 기록은 동영상이 아니라, 글로 아래 정리해 두었습니다. 현장의 강의를 직접 듣는 것처럼 편집을 최소화하고 그대로 전해드리려고 노력했답니다.
가제트 : 오늘 소개 드릴 오승현 강사님은요, 다양한 공부를 해오셨습니다. 대학에서 국문과를 졸업하고, 오랫동안 학생들에게 논술과 글쓰기를 가르치셨다고 해요. 그러다가 2008년부터는 전업으로 집필을 시작하셨습니다. “차별은 세상을 병들게 해요”, “인공지능 쫌 아는 십 대” 뿐만 아니라 언어 학습, 단어에 관한 책, 사회, 인권, IT기술 등 많은 분야에 책을 쓰셨습니다. 정말 다양한 분야를 넓게 공부하셨다는 생각이 들었는데요. 주어진 공부를 하기에도 바쁜 마음이 드는 때, 이렇게 스스로 하나의 주제를 정해 책을 쓸만큼의 공부를 해낼 수 있다는 것이 매우 인상적이기도 했습니다. (공부하시느라) 바쁜 와중에 이렇게 틈틈이 저희와 같은 독자들을 만나서 강연해주셔 정말 감사드립니다. 그럼 강사님을 모시도록 하겠습니다.
방금 소개받은 오승현입니다. 소개해주신 것처럼 별로 깊이는 없습니다. (웃음) 이것저것 잡다하게 관심 분야가 넓어서 인권 차별에 대한 이야기를 썼고, 과학분야의 책도 몇 권 썼는데 이번 책은 제가 인공지능 전문가가 아니어서 책 읽어보시면 아시겠지만 과학적인 측면, 기술적인 측면, 사회와 인류에게 미치는 다양한 관점에 대해 기술한 책입니다. 오늘은 “영화로 보는 인공지능”으로 얘기를 해보겠습니다.
한편 이런 생각도 들었을 거예요. 과학 전문가가 아닌데 왜 인공지능 책을 쓰게 됐냐, 저는 초등학교 4-5학년 때부터 SF영화를 좋아했어요. 그 영화의 연장에서 과학분야에 대한 관심도 있었습니다. 인문계열로 대학을 전공하긴 했지만, 고등학교 때는 지구과학이나 생물 과목을 좋아했습니다. 국어국문학과로 진학해서 과학과 멀어지게 됐는데 한 과학 서적을 읽게 됐어요.. 칼 세이건의 코스모스라는 책입니다. 두께가 매우 두꺼워서 베고 자기 딱 좋은 책이에요. 다시 과학에 큰 흥미를 느끼고 인문학, 사회과학 책도 두루 읽게 되었는데, 청소년 입장에서 쉽게 풀어주면 좋지 않을까 생각하여 집필하게 된 것이죠. 오늘은 영화로 보는 인공지능이 부담이 없을 것 같아요. 영화를 함께 보면서 고민해보는 시간을 갖도록 하겠습니다.
Q. SF의 약자에서 SF는 무슨 뜻일까요?
Science fiction 사이언스 픽션이에요. 다시 말해 과학소설이죠. 많은 근대적 개념들이 서구에서 들어왔는데 일본을 통해서 들어온 경우가 많았어요. SF도 그런 근대적 개념 용어입니다. 일본이 번역한 걸 그대로 빌려 쓰고 있게 된 셈이죠. 그러면서 SF는 공상과학으로 번역이 되어버렸어요. 공상이라고 하면 어떤 느낌인가요?
공상 말고 상상이라는 말도 있지 않나요. 공상과 상상을 대비해보면 좋은 쪽으로 느껴지는 것은 상상이죠? 상상의 날개를 펴봐 이런 얘기도 있잖아요. 공상의 날개를 펴봐, 이런 말 잘 안 쓰죠? 상상이라고 말할 때는 좀 긍정적이고. 넌 왜 이렇게 공상이 많니? 라고 하면 엉뚱한 생각할 때라든가... 공상이라고 얘기할 때는 조금 부정적인 의미가 담겨있는 거 같아요.
SF영화를 떠올릴 때도 그래서인지 과학에 기반하고 있는 엄밀한 의미의 과학소설에 바탕을 둔 영화가 아니라, 허무맹랑하고 불가능한 것을 마음대로 생각하는 걸 떠올리게 됩니다. 우리가 오늘 보게 될 일군의 SF영화들은 사실 감독이나 시나리오가 머릿속에 마음대로 상상해놓은 결과물이 아니라 당대의 과학과 기술을 바탕으로 해서 실현 가능한 것으로 만든 영화들입니다. 얼마 전에 많은 사람이 봤던 영화 중에 인터스텔라 있었죠. 그 영화를 만든 크리스토퍼 놀런 감독의 동생이 그 영화의 시나리오를 썼어요. 그런데, 그 동생이 시나리오를 쓸 때 마음대로 쓴 게 아닙니다. 내용도 어렵잖아요? 상대성 이론도 나오고....... 알고 보니 영화를 찍기 위해 대학원에서 따로 공부를 했더라고요. 그 공부를 바탕으로 해서(천체물리학) 시나리오를 썼다고 합니다. 마음대로 머릿속에 있는 걸 지어내서 그걸 바탕으로 영화를 만든 게 아니라는 점 기억하시고요. 첫 영화를 하나 보도록 하겠습니다. 2001: 스페이스 오디세이 보신 적 있나요? 함께 관람해보도록 하겠습니다.
이 영화는 1968년도에 만들어진 영화예요. 아폴로 달 탐사선이 달에 간 것이 1969년이니까 달에 가기 전에 만들어진 우주 영화죠. 우주에서 유영하는 건데, 굉장히 사실적입니다. 지금 봐도 촌스럽거나 유치하지 않고 멋집니다. 2001년을 배경으로 하고 있는데요. 68년에서 보자면 미래인 거죠. 다른 영상을 한 번 봅시다.
영화 <스페이스 오디세이>의 한 장면별건 없죠. 이 영화를 잠깐 보여줬는데 이 장면 때문에 보여드렸어요. 어떻게 보이나요? 아이패드처럼 보이죠? 지금으로 치자면 태블릿 PC입니다. 1968년에 제작된 영화. 제작은 그전에 됐겠죠. 그때 제작된 영화임에도 불구하고 태블릿 PC의 원형이 등장하고 있어요. 이 장면은 삼성과 애플의 소송전에서 삼성의 증거자료가 되기도 했어요. 애플이 아이패드의 디자인을 삼성이 따라 했다고 해서죠. 그때 삼성이 미국 법원에 제출했던 증거자료가 이것입니다. 그 디자인은 애플이 최초로 만들어 낸 것이 아니라 사실 스탠리 큐브릭의 영화에서 이미 50년 전에 이미 완성되어 있었다는 것이 그들의 주장이었어요. 애플이 최초로 창조해낸 게 아니라는 말이죠.
결론은 삼성이 졌습니다. 일부 배상을 하게 됐어요. 그럼에도 이 영화를 보여준 이유는, 이 영화를 만들 때 그 감독이 시나리오를 마음대로 쓴 것이 아니라 NASA의 과학자와 여러 분야의 기술자들의 의견과 도움을 받아서 영화를 만들었다는 것이에요.
이 영화가 최초까진 아니지만, 세련된 형태의 인공지능이 최초로 등장하는 영화가 이 영화이기도 하죠. 우주선 내부에 계기판이 있는 이 장면을 봅시다. 여러 화면이 있고, 중간에 있는 장면에 등장하는 것이 인공지능이에요. 글자 보이시죠? HAL9000. 인공지능의 이름인데요. 이름이 참 신기해요. 알파벳에서 H 다음은? I이죠. A 다음은 B. L다음은 M. IBM입니다. 이 회사의 기술자들이 영화 제작에 참여했기 때문에 이름을 이렇게 지었다고 해요. 이 영화에서 이 인공지능이 주인공처럼 중요한데 중요한 의미가 있어요. 68년 이후 인공지능 또는 컴퓨터의 시대가 도래한다는 예언이 담겨있는 것이죠.
이 영화에서 인간과 인공지능의 관계는 대립적이에요. 인공지능이 인간을 죽이려고 하는데 결국 인간이 이겨요. 인공지능과 인간의 관계는 대립하고 갈등하고 인간을 공격하고...... 인류 전체를 파괴하는 상상을 하기도 합니다. 하지만 인공지능과 인류가 친밀하게 지낼 수도 있습니다. 이미 우리가 사용하고 있는 인공지능처럼 말이에요. 의사소통도 가능하다면 여러 분야에서 쓰일 수 있겠죠. 같이 상상해볼까요? 집안으로 들어오게 된다면, 힘도 강하지만 섬세한 작업도 가능한 로봇. 또 어떤 일들을 할 수 있을까요?
(참가자들) 밥을 해줄 수 있다, 가사도우미로 쓸 수도 있겠다, 스트레스 받을 때 때릴 수도 있다. 혼자 사는 독거노인들, 외로운 사람들에게 친구가 되어줄 수도 있다, 반려동물을 보살펴주는 집사가 될 수 있다, 애정을 나누는 파트너도 될 수 있다... 등
맞습니다. 이렇게 다양한 방식으로 응용이 가능할 거예요. 인공지능, 로봇이라는 것은 인간에게 아주 긍정적으로 작용할 수도 있고, 부정적으로 작용할 수도 있죠. 이렇게 두 가지 측면을 동시에 가지고 있어요. 이런 것을 “기술의 양면성”이라고 합니다. 빛과 그늘을 갖고 있다는 것이죠. 인공지능뿐만 아니라 모든 기술은 긍정적으로 쓰일 수도 있고 정반대로 쓰일 수도 있어요.
예를 들어 봅시다. 칼이라는 도구는 그 자체로 가치가 있는 게 아니라, 가치 긍정적일 수도 가치 부정적일 수도 있죠. 아버지가 맛있는 요리를 하는데 이건 긍정적인가 부정적인 가요? 강도가 칼을 들고 위협한다면? 칼 자체는 좋거나 나쁜 것이 아니라 어떻게 쓰이느냐에 따라서 가치가 결정되죠. 기술도 예외 없이 모두 그렇습니다. 긍정성과 부정성이 활용에 따라 달라진다. 역시 인공지능도 마찬가지입니다.
그런데 조금 더 생각해보면 인공지능은 다른 어떤 도구와는 다른 측면이 있어요. 그게 뭐냐면, 자의식입니다. 아직까지는 자의식을 가진 인공지능을 개발하진 못했어요. 그런데 지금처럼 빨리 발전하다 보면 인간처럼 자의식을 갖게 될 수도 있어요. “나는 누구인가” “나는 뭐지?”하는 질문이 가능해지고, "나"를 깨닫게 되는 것이죠. 인간 말고, 이 세상에 존재하는 그 어떤 도구가 자의식을 갖고 있을까요? 돌이 우리 귀에는 안 들리지만 “나는 돌이야” 자의식을 갖고 있을까요?
그런데 인공지능은 조만간 그런 자의식을 갖게 될 수도 있다는 점에서 일반적인 과학기술이나 일반적인 도구들과 차이가 있다고 봅니다. 그게 인공지능의 독특성이에요. 그래서 인공지능을 단순히 기술의 양면성으로 분류할 수가 없어요. 인공지능이 자의식을 갖추기 전까지 기술은 다른 기술과 마찬가지로 양면성을 갖겠지만, 인공지능이 자의식을 가진 다음에는 그 (인공지능이라는) 기술이 어떤 방향으로 쓰일지, 인공지능 스스로가 결정하게 되는 것입니다. 그때의 인공지능이라는 기술의 양면성은 인류가 결정하지 않고 스스로 결정하게 된다는 점에서 지금까지의 어떤 기술과도 같을 수가 없게 되는 겁니다.
이 점에서 우리는 불안을 느낍니다. 인공지능이 인간의 일자리를 대신할 거라는 두려움이라든가, 인간과 같은 자의식을 가진 존재가 이 지구 상에 나타난다는 것. 그런 것들이 두려움의 근원입니다. 자의식은 지금까지 인류를 동물과 구분하는 인간의 고유성이었습니다. 인간에 대해서 우리는 여러 가지 정의를 해왔는데요. 사회적인 동물이라거나, 도구를 사용하는 동물이라거나 하고 정의를 해왔지만 동물학이나 사회생태학 등의 연구가 이어지면서 그런 정의들이 점점 깨지고 있어요. 도구는 인간만 쓰는 것이 아니죠. 까마귀를 보면 정말 똑똑합니다. 꼭 개체가 아니라도 동물 중에는 하나의 지능을 갖고 있는 것처럼 행동하는 벌이나 개미들의 집단도 있어요. 그것도 인간만의 특징은 아닙니다. 그런데 지금까지 자의식을 가진 동물을 가진 존재는 발견되지 않은 것 같아요. 그런데 인공지능은 그런 독특성을 지니고 있다는 것입니다.
본격적으로 인공지능에 대한 이야기로 들어오게 됐어요. 이제 인공지능에 대해 알려면 지능에 대해 알아야겠죠. 지능은 1. 문제 분석능력 2. 창의적 문제 해결 3. 해결책에 따른 실행. 세 가지 조건을 갖춰야 지능이 있다고 판단합니다. 인공지능이라는 것은 이 세 가지 기능을 갖춘 우리 인간이 인공적으로 만들어 낸 것입니다. 여기서 영화 하나를 봅시다.
<인터스텔라>(의 wave scene)
영화에서 문제 상황이 벌어졌습니다. 여성이 장애물에 걸려서 위기상황에 처해 있습니다. 인공지능 로봇은 그 문제를 해결해야 해요. 그 여성을 구해와, 라는 명령을 듣고 자기로부터 그 여성까지의 거리를 계산해야겠죠(문제분석). 그때 취해야 할 행동을 예상한 거죠(창의적 문제해결). 그걸 바탕으로 해서 실행을 실제로 해야 합니다. 실행을 했죠(해결책에 따른 실행). 그래서 지능을 갖추고 있다고 할 수 있는 거죠. 그리고 그 지능을 인간이 만든 거죠. 잠깐 상황극을 해봅시다. 감정의 교류. 공감. 그 수준까지 도달하면 인공지능 로봇과의 소통은 원활하고 만족스러울 것입니다. 인공지능이 인간의 감정을 이해하고 동화되고 교류한다라는 것이에요. 어려울 것 같기도 한데, 은근히 쉬울 수도 있다고 생각해요. 여자 친구가 남자 친구에게 고민을 털어놓는 상황을 상상해보죠.
“시험 망쳤어”라고 얘기하면, 뭐라고 할까요? "맨날 놀더니 잘됐다~"라고 대꾸하면 될까요? “나도 망했어~" 같이 공감하는 말을 해야겠죠? 교감이란 것이 어려운 듯 하지만 한편으로는 쉽기도 한 것이, 상대방이 했던 얘기를 그대로 반사하면 어느 정도 교감이 됩니다. 왜라는 한 마디를 물어보면 됩니다. 연인이나 부부도 힘들다고 하소연할 때 짜증 내거나 뭘 하려고 하죠? 남자들의 특성은 그 얘기에 대해서 공감보다는 자꾸 무언가 해결책을 제시하려고 해요. 인공지능처럼. 원인 분석해서 해결책 제시하려고. 그러다 보면 교감이 안되고 사이가 틀어지게 됩니다. 교감이라는 게 사실 어려운 것 같기도 하지만 쉬울 수도 있습니다. 그대로 돌려주거나 수긍해주면 됩니다. 실제로 인공지능이 발전하기 훨씬 이전에 인공지능 초기단계일 때 채팅 컴퓨터를 만들어서 그 컴퓨터에 고민을 상담하게 하기도 했어요.
다음으로 인공지능의 발전 정도를 나누어봅시다. 인공지능은 '약인공지능, 강인공지능, 인공지능'으로 나눌 수 있어요.
약weak AI이라는 건 말 그대로 약하다, 강하다의 약이죠. 지금 현재 인공지능 수준은 약입니다. 모든 인공지능은 약인공지능으로 분류할 수 있어요. 강인공지능strong AI이 되려면, 2가지 정도를 얘기할 수 있습니다. 먼저는 '자의식'입니다. 자의식은 나에 대해 생각하는 것이죠. 나와 인간과의 관계를 스스로 성찰하는 수준에 이르렀을 때 강인공지능으로 분류합니다. 한편, 인공지능은 특정분야에서는 인간을 능가하는데요. 이제 바둑이라는 분야에서 인공지능을 이길 수 없어요. 천만 명이 바둑을 둬도 이길 수 없습니다. 이렇듯 인간의 능력을 훨씬 뛰어넘는 인공지능이 나오고 있습니다. 하지만 이런 인공지능도 바둑은 무지무지 잘 두지만 다른 것은 못하기도 해요. 한 편, 인간은 한 분야에서 인공지능을 뛰어넘을 수 없지만 인공지능이 못하는 여러 가지 작업을 할 수 있습니다. 다양한 분야에서 인간을 초월하는 것, 그리고 자의식을 갖추게 되는 것. 그러면 강인공지능입니다. 그리고 다양한 분야의 능력을 갖추는 게 아니라 모든 걸 잘하는데 그 수준이 우리가 상상할 수 없는 수준이 되면 어떨까요? 과학적 난제들을 풀어내고 불치병을 치료하는 인공지능이 나온다면 이는 모든 분야에서 인간의 능력을 어마어마하게 능가하는 것이고 이러한 인공지능을 초인공지능super AI으로 분류하고 있습니다.
영화 <인터스텔라>의 한 장면영화에 나오는 것은 보통은 강인공지능입니다. 초인공지능이 등장하는 영화는 인간이 상상할 수 없는 수준의 지능을 갖고 있는 것이에요. 인간을 지배하는 정도이죠. 예를 들면 터미네이터나 매트릭스 같은 영화가 있어요. 영화 하나 보고 갑시다.
<매트릭스>(의 awakening to the nightmare scene)
이 영화에서는 모든 문명이 파괴되고 없어요. 모든 인간은 캡슐 안에서 살고 있죠. 캡슐에서 깨어날 때 관이 연결되어 있습니다. 그건 일종의 랜선이에요. 모든 인간은 캡슐 안에서 잠든 것처럼 누워있고, 실제 세상에서 랜선으로 연결되어 있어서 가상의 공간에서 사는 거예요. 우리가 지금 이 공간이 진짜일까요? 이 영화 속에서 보면 물을 마시면 목을 넘어가는 느낌, 쥐도 있고, 바퀴벌레도 있고 지금의 우리처럼. 모든 인류가 그렇게 살고 있어서 이게 진짜라고 느끼는 거죠. 이건 가상의 공간이에요. 하지만 우리는 이 현실이 가상인지 진짜인지 알 수 없어요. 이 영화의 주인공처럼 가상의 세계에서 깨어나야지만 ‘내가 가상의 공간에서 살았구나’라고 알 수 있는 거죠.
이러한 세상을 만든 것이 초인공지능이라고 가정하는 것이 이 영화예요. 그리고 그 문명을 유지하기 위해서 인간을 에너지원으로 활용합니다. 인간이 일종의 배터리로 전락합니다. 건전지가 수억 개가 있는 거죠. 인간의 생체에너지를 다 끌어모아서 거대한 인공지능 문명을 유지합니다. 인간을 지배하고 파괴하고. 이런 초인공지능이 등장하려면 아주 먼 미래일 것입니다. 일단은 초인공지능이 등장하기 전에 강인공지능부터 등장해야겠죠. 그렇다면 그 가능성은 얼마나 될까요?
영화 <메트릭스>의 한 장면닉 보스트롬이라는 철학자가 <슈퍼인텔리전스>라는 책에서 인공지능연구자들에게 언제쯤 기계가 인간 수준의 지능을 갖게 될 것인지를 물어보는 얘기가 있는데, 대체로 강인공지능은 2022년(10%), 2040년(50%), 2075년(90%)에 등장하고, 초인공지능은 2년 이내(10%), 30년 이내(70%) 등장할 거라고 답했어요. 또한 지금 수준의 약인공지능도 사실 결코 무시할 수 없다고 했죠. 약인공지능도 무서운 존재라고 했어요. 실제 인공지능을 살펴보죠.
보스턴 다이내믹스의 4족보행 로봇보스턴 다이내믹스에서 만든 4족 보행 로봇입니다. 개처럼 생겼죠. 장애물을 인식하고 스스로 피해 갑니다. 어떤 지점까지 설정해두면 알아서 이동하기도 하고요. 여기까지 보면 두려울 거도 없어 보입니다. 이 같은 4족 보행 로봇을 조금만 더 응용해서 발전시키면 이런 형태의 로봇도 될 수 있습니다. 창고를 지키는 감시견 같은 로봇인데 '블랙 미러' 시리즈4의 <메탈 헤드>라는 미국 드라마에 나옵니다. 영상을 더 볼까요.
이 장면은 드라마의 거의 마지막입니다. 누가 이길까요? 저 여성이 총으로 로봇을 제거합니다. 그런데 거기서 끝나는 게 아니라 저 로봇이 죽어가면서 동료들에게 무선을 보냅니다. 내가 인간을 제거하지 못했다고 말이죠. 그리고 수십 개의 사족보행 로봇이 오면서 드라마가 끝이 나죠. 저건 약인공지능입니다. 스스로 문제를 분석하고 주어진 임무, 침입자를 제거한다는 살상능력을 업그레이드하고. 그렇다면 몇 년 후에도 가능할 수 있습니다. 여러모로 두려운 존재가 될 수 있는 것이죠. 인류 전체를 파괴하고 지배할 수도 있다는 위험성이 있을 수도 있어요.
인간과 인공지능은 대결하거나 싸워선 안되고 공존해야 합니다. 평화롭게 같이 살아야 할 텐데 어떻게 가능할까요? 제가 앞에 있는 이분과 싸우지 않으려면 어떻게 하면 되나요. 소중히 여기면 되겠죠. 다른 말로 하면 존중입니다. 결국 인간과 인공지능은 공존할 수 있을 수도 있습니다. 우리가 서로 존중하면 존중할 수 있습니다. 결국 답은 하나입니다. 우리가 존중받아야 한다는 것이에요. 인공지능이 우리를 존중하게 만들어야 한다는 것이죠. 예를 들어서 학교 선생님이 학생들에게 존중받기를 원해요. 그렇다면 그 선생님은 어떻게 해야 할까요? 먼저 학생을 존중해야죠. 자의식을 가진 강인공지능이 등장했을 때 도구나 수단으로만 볼 것이 아니라 존중해야 합니다.
또 하나 중요한 것은, 자신의 삶을 바라볼 수 있어야 한다는 것입니다. 만약 제가 학생을 존중은 하지만 제 삶이 부도덕하다고 해 봅시다. 그렇게 된다면 학생에게 진정한 존중을 받긴 힘들 거예요. 따라서 인간이 존중받을 만한 존재가 되어야 하지 않을까 생각해요. 이게 무슨 얘기냐. 지난주에 강의 들었던 생태-환경 내용과도 연결됩니다. 해안가에 쓰레기가 가득 차 있습니다. 태평양 일대에 이런 쓰레기섬들이 어마어마하게 있다고 해요
이 쓰레기들을 모아 보면 한반도 면적의 7배 정도나 된다고 해요. 그런데 이건 바다에 둥둥 떠다니는 쓰레기를 모았을 때 그런 거죠. 바다로 유입된 쓰레기는 떠다니는 게 아니라 바닷속에 있어요. 이러한 쓰레기는 대부분 잘게 쪼개져서 미세 플라스틱 형태로 바다 안에 들어있는데요. 누가 이 쓰레기를 만들 걸까요? 우리가 만든 거죠. 자연의 어떤 존재도 플라스틱을 만들지 않아요.
미드웨이라는 태평양에 있는 섬에 앨버트로스라는 새입니다. 그 섬에 있는 앨버트로스의 사체를 그대로 찍은 거에요. 죽었는데 뱃속에 플라스틱이 한가득이네요. 우리가 플라스틱을 쓰고, 쓰레기통에 버리지만 그게 쓰레기통에 가는 게 아니라, 결국 바다로 갑니다. 그 바다로 갔던 게 결국 다시 여러 생물들에게 거쳐서 최종 포식자인 우리에게로 오고 있는 것이죠. 우리가 버리는 게 서로의 입에다 버리고 있는 거죠. 이러한 플라스틱 관련 문제도 어마어마하지만 더 심각한 것은 이 문제입니다.
시간에; 따라 점점 면적이 줄어드는 빙하NASA가 찍은 사진을 보시면 하얀색 짙은 부분은 빙하층이 두꺼운 거고, 얇은 부분이 나뉩니다. 여기에 연도가 있습니다. 1984년부터 시작하는데요. 올여름은 작년보다는 덜 더웠죠. 올여름에 덜 더웠던 것이 지구온난화와 관련되어 있습니다. 북극의 찬 공기가 북극에 갇혀있는데 제트기류라고 해요. 지구 온난화 때문에 제트기류가 열렸고 그곳으로 찬기운이 내려온 것이죠. 올해 정말 공교롭게도 한반도 위의 제트기류가 뚫렸어요. 그래서 한국은 별로 덥지 않았죠. 전 세계적으로는 어마어마하게 더웠는데 말이죠.
인공지능에서 환경 얘기까지 왔어요. 우리가 살고 있는 유일한 지구를 생각해봐요. 이 행성 말고 다른 곳에서 살 수 없어요. 수백 년 뒤에도 쉽진 않을 거예요. 우리가 살 수 있는 유일한 행성을 갉아먹고 있는 셈이죠. 어마어마하게 많은 이산화탄소 때문에 지구는 병들어가고 있어요. 10-20년 안에 지구 온난화로 대 파국이 일어날 것입니다. 여기서 잠깐 인공지능이 자의식을 갖고 있다고 쳐봅시다. 자기 스스로를 돌아보고, 자기와 인간의 관계를 돌아보고 거대한 삶의 터전을 바라보게 되겠죠?
그러면서 묻겠죠. '과연 너희들은 너희들과 내가 살아가는 이 공간을 존중하고 있니? 존중하고 있지 않니?' 존중하고 있지 않다고 판단하면, 인공지능은 인간이 지구에 살아가는 모든 생명체에게 해악을 끼치고 있다고 판단할 거예요. 그때 인간이 필요한 존재인가, 아닌가? 비록 (인공지능인) 나를 만든 건 인간이지만, 내가 살고 있는 유일한 행성을 파괴하고 있다고 생각할 수 있죠. 그래서 인간이 차라리 없는 게 나의 미래에 더 낫다고 판단하면 어떻게 될까요? 우리가 봤던 영화 매트릭스처럼 될 것입니다. 인공지능은 인류를 절멸시키려고 할 수도 있어요. 결국 인간과 인공지능의 공존은 과학기술만이 아니라 자연환경과도 밀접히 연관되어 있는 것이죠.
그래서 우리는 이 지구를 존중해야 합니다. 그래야만 인공지능이 우리를 존중할 수 있지 않을까요. 제가 오늘 양심 고백을 하자면, 차를 타지 않아야 하는데 차를 가지고 왔어요. 가능하면 대중교통을 이용해야 하겠죠. 또한 가능하면 플라스틱 쓰지 말고 텀블러를 늘 들고 다니고요. 이러한 사소한 실천부터 우리는 존중하고 존중 받음을 실천해야해요.
이곳 이름이 크리킨디센터죠. 벌새 이름입니다. 어느 원주민 부족에 이 새에 대한 전설이 있다고 들었어요. 숲이 불타고 있을때 모든 동물들이 넋 놓고 바라보고 있는데 크리킨디라는 작은 벌새만이 작은 부리에 물을 머금고 불을 끄기 위해 날아다녔다고요. '그런다고 불 꺼지겠어?' 다른 동물들이 반문할 때 크리킨디가 나는 내가 할 수 있는 일을 할 뿐이야라고 대답했다고 해요. 거창한 게 아니라, 우리가 서 있는 자리에서 조금씩 하면 돼요. 우리는 다 벌새들이거든요. 거대한 일을 못하는 거 같지만 모든 벌새들이 불에다 물을 뿌리면 어쩌면 끌 수도 있거든요. 우리가 있는 곳에서 작은 실천들을 하면 조금은 나아지지 않을까. 법과 제도를 바꾸는 일이 있어야겠지만 시민으로서 각자가 조금씩 실천하는 것이 정말 중요한 것 같습니다.
인류는 늘 개발할 수 있으면 개발해 왔어요. 그것이 갖고 있는 부작용, 악영향을 알아도 기술개발을 멈춘 적이 없어요. 그런 것들은 시간이 흘러서 다른 기술로 극복할 수 있다고 생각했기 때문이죠. 인간이 풀 수 없는 수많은 난제들을 해결할 수 있다고 해도 항상 희망적이지는 않다는 게 제 걱정이죠. 이제 질문과 함께 강의를 마무리해 볼까 합니다.
Q. 왜 인공지능에 자의식을 부여하려고 할까요?
인간은 불완전한 존재잖아요. 죄를 짓거나, 수술을 하거나, 복수를 하거나... 그런 것들을 하죠. AI가 자의식을 가지게 된다면 같은 문제를 야기하지 않을 수도 있겠죠.
결국 기술의 개발을 통제하진 못할 것이지만 이 문제는 기술의 문제가 아니라 인공지능과 인간의 관계의 문제고, 인간이 인공지능을 어떻게 생각하냐의 문제고 우리가 어떻게 할 수 없는 영역일 수도 있어요. 따라서 지금은 인류는 인류대로 자신을 좀 더 성숙하게 만드는 것이 필요하다고 봐요.
Q. AI는 가치판단을 어떻게 할까요? 그리고 만약에 AI가 판단에 의해서 좀 더 나은 존재가 나오면 어떻게 할까요?
몇 년 전에 박근혜 국정농단에 다들 촛불 들었잖아요. 그 이후에 그 인간은 구속되어야 해,라고 구속 결정 기다리는데 그냥 풀어준다면? 그러면 무지무지 욕하잖아요. 만약에 그 판사의 자리에서 불합리한 판단을 하는 판사가 아니고 또한 정치적인 이념이 왜곡되어 있는 인간이 아니라, 중립적인 AI판사가 앉아있다고 하면 훨씬 더 공정한 판정이 나오지 않을까라고 생각할 수 있어요. 어떠한 판단은 없는 것에서 억지를 부리는 것이 아니라, 근거를 가지고 판단합니다. 기존의 판례가 있을 텐데 그것들을 입력시켜두고, 근거를 삼아서 논리적 판단을 하는데 그 근거가 빅 데이터가 될 수 있죠. 그런데 여기서 그 빅데이터가 중립적이지 않을 수도 있습니다. 특정 계급이나 세대에 편향되어 있을 수도 있어요.
Q. SF 관련된 이야기를 하실 때 공상이라는 단어가 일본을 통해서 들어왔다고 하셨어요. 공상이라는 단어의 부정적 의미에 대해서 조금 더 자세하게 알려주세요.
저는 SF 단어 그대로 번역하면 좋을 것 같아요. 과학소설 이렇게요. 의미를 그냥 이해할 수 있을 것 같아요. 서구에서는 SF소설 하면 본격문학, 순문학, 그게 아니라 질이 떨어지고 삼류의 소설인 것 같아요. 또한 문학적으로 완성도가 떨어지는 편견을 갖고 있고 그 편견을 심어주는 게 그 이름인 거 같기도 하고요. 제가 쓴 책중에 <말이 세상을 아프게 한다>는 책이 있는데 작은 표현 속에 담겨있는 편견과 고정관념, 단어 하나, 문장 하나에 담긴 이야기를 썼어요. 인간이기 때문에 우리는 언어를 기반으로 살아있어요. 언어 자체가 오염되어 있으면 우리 생각도 자연스럽게 오염되기 마련이죠. 그래서 SF도 마찬가지로 단어 자체를 번역해주는 것이 좋지 않을까요.
Q. 4차 산업혁명시대라고 하는 화두 안에서 볼 때 인공지능 문제도 그 안에 있다. 그럴 때 선생님처럼 인류의 성숙, 조건으로 생각하기보다는 국가적 경쟁력이라던가 국가적 부로 해석하면서 이걸 놓치지 않고 갖춰야 한다고 요구받기도 한다. 어떻게 하면 좋을까요?
저는 주로 청소년들 만나기 때문에, 방금의 질문은 직장인이나 성인들의 고민인 것 같아요. 청소년들은 일자리를 궁금해하기도 해요. 우리 일자리를 인공지능이 다 대체해버리는 거 아닐까 하고요. 우리가 쓸모가 없어지면 어떻게 해야 할까요? 책에도 잠깐 얘기했는데, 지난 대선에서도 이재명 경기도지사가 문제 제기한 기본소득 같은 부분 말이에요. 우리는 일을 해야지만 소득을 얻는 게 정답이에요. 우리가 열심히 일해서 소득을 얻어야 한다는. 그 관점. 오랫동안 갖고 있었죠. 그 관점으로 인공지능을 보게 되면 우리는 대부분 쓰레기가 되어버립니다.
인공지능이 훨씬 뛰어나고 훨씬 더 많이 일하고, 노동을 하지 않게 되니까. 그 전제가 사라져 버리는 거죠. 노동하지 않으니 소득이 없어지고 부모에게 물려받을 재산이 없는 사람은 굶어 죽겠죠. 인공지능의 출현은 우리에게 엄청난 생각의 전환을 던져줬어요. 일해야지만 소득을 얻고 살아갈 수 있어가 아니라 일하지 않아도 소득을 얻을 수 있어, 그 소득으로 살아갈 수 있어!라는 생각을 할 수도 있어요. 인공지능이 일하고, 인공지능에게 세금을 매기는 거죠. 로봇세를 매기는 거예요. 돈을 버는 사람도 있을 테니, 인간 노동자를 대체하는 만큼의 세를 물리도록 할 수 있어요. 그러면 누가 사업을 하고, 누가 공장을 돌리겠냐 하겠지만 그 적정 수준을 유지할 수 있도록 하면 된다고 봐요.
사람의 동기를 사라지지 않게 하는 적정 수준. 그렇게 거둬들인 세금으로 모두에게 기본소득을 주는 것입니다. 우리는 그 기본소득으로 살아가고요. 일 안 하고 노는 거예요. 만들고, 노래 부르고, 책 쓰고, 여행 다니고. 나는 글 쓰는 게 너무 좋다고 하면 그렇게 하고. 일하지 않는 사람에게도 기본소득을 주고, 일하지 않아도 진짜 하고 싶은 일들을 소득과 상관없이 사회적 인정과 상관없이 하는 것입니다. 하고 싶은 일을 하게 만든다면 훨씬 행복하고 좋아질 수 있을 겁니다. 인공지능은 우리에게 이런, 인공지능과 기본소득은 밀접하게 연결되도록 할 수 있어요. 노동과 소득을 전환시키는 계기가 될 수도 있겠습니다.
