[AI 윤리에 대한 모든 것]
AI가 환경 문제를 처리하기 위해 나아갈 방향
마크 코겔버그는 인공지능을 비롯한 과학기술과 관련한 담론을 이끌고 있는 벨기에 출신의 학자다. 2007년 네덜란드 생명윤리학회상을 받았고 2014년에 기술 철학 석사 프로그램 최우수 강사로 임명되었다. 최근에는 유네스코 세계과학기술윤리위원에 임명되어 전 세계적으로 명성을 쌓고 있다. 영국 드몽포트대학교에서 기술과 사회적 책임에 대해 가르쳤으면 현재는 오스트리아 빈대학교 미디어와 기술철학과 교수로 재직 중이다. 저서로는 [성장하는 도덕적 관계] [인간 존재 위험] [환경 기술] [돈 기계] 뉴 로맨틱 사이보그] [무브드 바이 머신] [기술 철학 입문] [ AI 윤리에 대한 모든 것] 등이 있다.
책은 총 12장으로 되어 있다. 1장은 거울아 거울아 / 2장은 초지능, 괴물, 인공지능 묵시록 / 3장은 인간에 관한 모든 것 / 4장은 단지 기계? / 5장은 기술 / 6장은 데이터를 잊지 말라 / 7장은 프라이버시와 기타 유력 용의자들 / 8장은 책임 없는 기계와 설명할 수 없는 결정 / 11장은 정책 입안자들의 과제 / 12장은 문제는 기후야, 바보야!
인공지능과 이세돌 9단의 눈치 싸움이 이 책의 첫 인용문이다. 그 결과는 직관과 전략적 사고를 가진 인간만이 복잡한 게임 상대자와 이길 수 있다는 것이다. 수백만 번의 과거 바둑 대국을 기반으로 한 기계학습과 자신의 경험에 의지한 인간의 대결은 결국 프로그래머들이 알고리즘을 만들지만 AI는 학습한 것만 가능한 게임을 한다는 것이다.
이세돌 구단은 변칙적이고 기발한 수를 수없이 겪은 자다. 이처럼 AI가 어떤 성과를 두고 슬픔, 기대감, 우려를 낳고 있는 것을 우리는 수도 없이 지켜본다. 그렇다면 이런 AI가 단순한 도구에 불과할까? 난 공상 과학 영화를 가끔 본다. 왜냐면 보면 볼수록 미래가 암울하기 때문이다. 희망보다 두려움, 실망감, 슬픔이 더 앞서는 것도 그 이유다. 오늘날 AI의 혁신은 공상과학소설과 게임만이 능사가 아니다. 컴퓨터 성능의 기하급수적인 성장과 스마트폰의 사용으로 빅데이터가 가용성이 빠르게 증가하고 있다.
AI는 IT와 인터넷 회사에서 만들고 사용한다. 구글의 검색 엔진에 항상 AI를 사용해 오고 있다. 마이크로소프트와 애플은 디지털 비서를 구동하기 위해 AI를 사용한다. 또한 AI는 이제 법원의 의사 결정이나 사람의 개입 없이 살상할 수 있는 자율 무기와 마찬가지로 드론도 AI를 사용한다.
그렇다면 AI는 공공 서비스와 상업 서비스를 개선하는 데 사용될 수 있을까? 예를 들어 알츠하이머와 암 같은 의학계에서 말이다. 요즘 치매 환자가 기하급수적으로 급증하는 것을 볼 수 있다. 문명은 발달했는데 인간의 뇌는 더 상처받아 무의식의 단계에서 벗어나지 못하는 사람을 많이 보게 된다.
또한 자율 주행 자동차에 윤리적 제약이 내장되어 있어야 하는 게 옳은가? 만약 그렇다면 어떤 제약을 어떤 식으로 결정해야 할까? 우리 가정도 반 자율 주행차량이다. 우리는 가끔 장거리 운전을 할 때 브레이크를 밟는 것을 하지 않기 위해 운전 속도값을 차량의 제어 시스템에 입력을 한다. 그러면 그 속도에 맞추어 차량은 브레이크를 밟지 않아도 스스로 자율 주행을 한다. 하지만 중간에 브레이크를 밟으면 다시 원점으로 돌아가 운전자가 알아서 운전해야 한다.
이런 편리함은 물론 장거리 운전에는 좋다. 그 결과 특정한 구간에서 사고를 당했다면 우리는 그 책임을 AI에게 물어야 할까? 아니면 그 값은 입력한 나에게 책임을 물어야 할까? 이런 윤리적 문제에 대해 우리는 전혀 고려하지 않고 그저 기술의 편리성만 논하고 만다. 그래서 AI는 늘 무제다. 결국 인간이 만든 기계에 인간이 당하고 마는 꼴이기도 하다.
이제 AI 윤리에 대해 말해 보겠다. 눈부신 혁신으로 빚어진 AI시대의 도래가 점점 다가오고 있다. 우리는 이 시대에 어떤 마음으로 AI를 맞이해야 할까? 또한 미래에 대한 영향력은 얼마나 클까? 전자의 질문에 답하기에 앞서 저자는 AI를 초지능을 가진 괴물이라고 표현했다. 나도 마찬가지다. 미래를 예측하기에는 우리 인간은 너무 허황된 꿈만 무성하다. 아무리 초지능, 아니 초초지능, 더 심하게 말해 초초초지능을 가진 AI라지만 인간의 한계를 극복할 수 없다는 것이 이 저자의 결론이다.
게다가 AI를 만드는데 많은 에너지를 써야 하며 그걸 소비하고 나서 처리하는데 무지 비용이 많이 들어 환경문제를 이야기하지 않을 수 없다는 말도 있었다. 인간의 편리에 의해 만들어진 기계문명에 인간이 망하는 이야기는 여기서만 하는 이야기가 아니다.
[도롱뇽과의 전쟁]은 체코의 작가 카렐 차페크가 쓴 소설이다. 이 소설을 읽어 보면 태평양에 살다가 인간에 의해 발견된 노예화되고 학대받는 지적 도롱뇽 종족에 관한 이야기가 나온다. 그들은 인간의 지식을 얻어 반란을 일으켜 전지구적 패권 전쟁을 벌인다. 이 책에는 주인공은 없고 사회적 관점에서 도롱뇽과의 발전 과정을 보여 준다. 저자는 저녈리스트, 인류학자, 역사가이다. 이 책은 1936년 체코어로 발표됨과 동시에 스웨덴어로 발표되어 노벨 문학상 심사위원들이 가장 먼저 읽었단다. 카럴 차페크는 1890년에 태어났고 소르본대학을 나왔다. 그는 체코의 국민작가다. 1차 세계대전 종전과 함께 체코슬로바키아가 탄생하면서 그가 작가가 되었다.
차페크의 가장 유명한 작품은 바로 [로봇]이다. 이 작품은 도롱뇽과의 전쟁과 연결이 되는 작품이다. 이 작품이 아주 오래전에 나왔는데 지금 우리 현실에 반영되는 문제가 관심이 가지 않을 수 없었다. 도롱뇽은 온갖 건설 현장의 노동력에 투입된다. 거대한 규모이고 극한의 생산능력이다. 심지어 국가 간의 전쟁에도 이용된다.라는 부분에서 지금 우리가 겪고 있는 우크라이나와 러시아의 전쟁 사이에 개입된 드론전쟁을 그대로 반영하고 있음을 보여 준다. 만약에 현시대에 차페크가 살아있다면 자신이 쓴 소설이 그대로 미래에서 행해지고 있음을 아주 똑똑히 보고 있을 것이다.
인간의 편리에 의해 인간의 종이 되었던 로봇이 나중에 인간을 무너뜨리겠다는 다짐을 한다는 그 부분에서 우리는 많은 심사숙고를 해야 할 것이다. 그래서 지능을 가진 듯 하지만 덜 똑똑한 AI가 편협된 사고와 편견을 가지고 인간에게 대들지 않기를 바랄 뿐이다.
프랑켄 슈타인을 읽어 본 자는 그가 괴물임을 분명히 알 것이다. 이것 역시 과장 된 이야기지만 인류 문화에 이런 이야기가 우리 미래 사회에 조금씩 적용되고 있어 약간 긴장하게 된다. 그리스 신화에 나오는 헤파이스토스는 여성처럼 보이는, 금으로 만든 하인의 도움을 받았다는 기록이 있다.
그리고 피그말리온 신화에서는 자신이 만든 조각상과 사랑에 빠지는 것도 있다. 언젠가 이런 부류의 관계를 다룬 AI 영화를 본 적이 있다. 인간이 만든 로봇이 인간의 이성을 닮고 싶어 하고 마침내 인간과 사랑을 나누고 싶어 한다는 끔찍한 영화였다. 물론 결론은 AI가 버림을 받는다. 이런 걸 볼 때 인간의 윤리를 생각하지 않을 수 없다.
인간은 윤리 의식을 가지고 로봇을 다루고 만들어야 한다는 점이다. 프랑켄 슈타인이나 현대판 프로메테우스, 프랑켄슈타인 모두 생명력이 없는 물질이다. 그 물질에서 지적인 생명체를 창조하는 것이 근대과학의 프로젝트란다. 난 여기에 반기를 든다.
트랜스휴머니즘이네 기술이네 하는 것들은 모두 인간의 허망한 꿈이다. 앞서 말하지만 인간은 두려움을 알아야 한다. 초월은 인간의 존재를 넘어서는 것을 말한다. 그런데 인간은 초월하고 싶어 한다. 왜 그럴까? 그건 신에 대한 도전이다. 오래된 꿈 중의 하나인 그 초월을 지구를 떠나 달에 착륙하고자 하는 꿈, 신과 닮고자 하는 인간의 염원, 불멸하고 싶은 인간의 욕구 등은 끊임없는 불편을 만든다.
이쯤에서 AI에 대한 이야기를 접고 난 AI와 환경에 대한 고찰을 해 보았다. AI는 기계에 표현되거나 시뮬레이션된 지능을 말한다. 많은 AI 연구자들은 지능이 인간과 같을 필요는 없다고 말한다. 일반적으로 AI는 수학, 공학, 언어학, 인지과학, 컴퓨터과학, 심리학, 심지어 철학을 포함한 많은 학문에 의존하고 있다.
AI 기술은 산업 제조, 농업, 운송부터 의료, 금융, 마케팅, 섹스와 엔터테인먼트, 교육, 소셜 미디어에 이르기까지 다양하다. 다양한 영역에서 활용되고 있다. 그렇다면 누가 이 기술에 접근 하고 그 혜택을 누릴까? AI 윤리와 정책에 관한 많은 글에서 환경이나 지속 가능한 개발을 언급하는 것을 자주 본다. 이것들은 인간의 가치를 강조하며 명시적으로 인간 중심적이다. 요점을 말하면 기술은 인간에게 유익해야 하며, 인간을 위해 봉사해야 한다는 것이다. 그러나 우리는 생명을 가진 인간, 생명체의 가치, 그 가치와 이들 생명체를 존중하는 방식에 대해 우린 AI에게 가르쳐야 할 것이다.
우선순위를 올바르게 정하고 나서 우린 기술을 주입해 AI를 다루고 사용해야 한다는 말이다. 기후 변화는 지금 우리 인류의 커다란 문제다. 유엔의 2025년 지속 가능한 발전 의제와 반기문 유엔 사무청장이 ‘사람과 지구’라고 불렀던 것에 관한 개요를 보면 이렇다.
국가 간 심화되는 불평등, 전쟁과 폭력적 극단주의, 빈곤과 영양실조, 담수 접근성의 부족, 다양한 형태의 차별과 배제, 인도주의적 위기와 모든 종류의 인권 침해, 자연재해와 가뭄이나 생물 다양성의 상실 등은 모두 다 환경 문제다.
이런 문제를 놓고 볼 때 더 많은 AI의 생성은 새로운 문제를 일으킬 수 있다. 사회와 환경의 기존 문제를 더 악화시킬 수도 있다. 디지털 소비와 마찬가지로 더 많은 에너지 소비는 더 많은 폐기물을 만든다. 차페크의 도롱뇽과의 전쟁에서도 상당한 양의 로봇이 대량 생산되자 욕조에도 바다에도 들에도 산에도 온갖 로봇이 난무하여 더 이상 적재할 수 없고 처리할 수 없어 인간이 결국 망하는 장면을 보게 된다.
갈수록 파괴되어 가는 자연, 갈수록 거대해져 가는 아파트, 무너지는 댐 등은 이러한 우리의 미래에 재앙으로 다가올 수 있을 것이다. 이렇게 시금한 것은 기후 변화인데 왜 AI를 걱정해야 하나? 지속 가능한 발전과 여러 가지 환경 문제의 해결에 AI가 이바지할 수 있지만 반대로 우리 모두에게 상황을 더 나쁘게도 만든다. 에너지 소비와 폐기물 증가는 인간을 더 힘들게 할 것이다. 우리 인류의 미래를 위해서 우린 셩명 유지 시스템을 관리하는 이 시기. 2018년 상징적인 일론 머스크의 테슬라 스포츠카가 우주를 떠다니는 모습은 화성을 식민지화하는 계획도 있단다.
우주 관광을 하겠다는 스페이스 X는 예술가들을 달 궤도에 보낼 계획이란다. 우주 관광은 과연 인기가 있을까? 이때 지구를 떠나는 AI는 위험한 사고의 가능성이 있다는 것이다. 우리의 취약한 신체적, 지리적, 의존적 존재 조건을 부정하는 도구가 되는 것이다.
AI가 환경 문제를 해결하기 위해 지구를 떠나는 것은 찬성한다. 왜냐면 복잡한 문제를 해결하는 것에 적합하다고 생각해서이다. 지구가 아닌 달에서 환경 문제를 감시하고 스마트하게 감지하는 것은 찬성이다. 인간의 환경 문제를 돌보며 자율적으로 인간을 돌보며 인간의 존엄성을 존중하며 자애로운 AI라면 난 찬성이다. 적어도 이것은 인류 문명에 발전을 해 줄 것이기 때문이다.
