죽음의 경계에서 인간과 인공지능 로봇
죽음 앞에서의 인공지능 로봇 5
“인간의 능력을 강화하는 기술들이 개발되면서 로봇과 인공 뇌 개발 분야에서도 놀라운 혁신이 속속 등장한다. 앞으로 우리는 갈수록 똑똑해지고 더 많은 능력을 지닌 기계들과 운명을 공유하게 될 것이다. 심지어 기계들이 우리의 지능을 넘어설지도 모른다.” - 이브 헤롤드, 『아무도 죽지 않는 세상: 트랜스휴머니즘의 현재와 미래』(Beyond Human)
사람이 로봇에 대해 가지는 생각은 일반적으로 긍정적입니다. 인간보다 뛰어난 능력으로 인간의 삶에 도움을 주고 유익이 되는 존재로 받아들이는데, 두려움이나 거부감보다는 친근한 마음 또는 호기심으로 대합니다.
아직까지 로봇은 인간을 따라올 수 없고 또 인간은 로봇을 충분히 조정할 수 있다고 여깁니다.
소설가이며 화학자인 아이작 아시모프(Isaac Asimov)가 1942년 단편 『런어라운드』(Runaround)에서 처음 언급한 ‘로봇 3원칙’은 당시로는 한 사람의 의견에 지나지 않았습니다.
1. 로봇은 인간에게 위해를 가할 수 없으며, 인간이 위험상황에 있을 때 방관해서는 안 된다.
2. 로봇은 제1법칙에 저촉되지 않는 한 인간의 명령에 복종하여야 한다.
3. 로봇은 제1법칙 또는 제2법칙에 저촉되지 않는 한 자신의 존재를 보호하여야 한다.
(한국포스트휴먼연구소·한국포스트휴먼학회, 『포스트휴먼 시대의 휴먼』(아카넷, 2016), 182-185.)
그런데 로봇공학이 발전하고 관련 산업이 성장하면서 이러한 로봇윤리는 로봇 개발의 원칙으로 받아들여졌습니다. 연구 개발자이며 사용자인 인간의 책임에 대한 강조와 함께 인간을 보호하고 지키기 위한 원리가 되면서 인간과 로봇의 관계를 설정하는 기본이 되고 있습니다.
인간 통제를 벗어난 로봇의 등장
‘로봇 3원칙’은 로봇의 역할과 존재 이유를 분명히 보여줍니다. 로봇은 인간에게 해를 끼치는 일을 해서는 안 된다는 것, 그리고 인간을 지키고 보호하는 것은 물론이고 인간의 명령에 복종해야 한다는 것이 핵심입니다.
즉 로봇은 인간의 판단과 행동을 따라야 하는 존재로 규정합니다. 스스로의 의지로 선택하거나 결정하고 행동해서는 안 된다는 것을 분명히 합니다.
(그림-인공지능)그런데 만약 로봇공학의 발전으로 로봇이 감정을 가지고 된다면, 자유의지가 생기면서 스스로 판단하고 결정할 수 있는 시대가 된다면, 그때 ‘로봇 3원칙’은 다시 작성될지도 모릅니다.
인간을 위한 기준이 아니라, 로봇의 판단에 따른 새로운 행동강령으로 말이지요.
실제로 그런 때가 온다면, 인간과 로봇의 관계에서 인간의 동반자로서의 로봇, 일명 파트너로 로봇이 새롭게 규정될 것입니다.
그때에는 일상에서의 권리와 책임에 대해서 보다 첨예하게 인간과 로봇 사이에서 논의되겠지요.
벌써 인공지능에 의해 움직이는 자율주행 자동차 연구가 활발히 이루어지면서, 자동차 사고가 일어난 경우 그 책임을 누가 질 것인지에 대한 논의가 이루어지고 있습니다.
물론 자율주행 자동차의 제작자이든, 아니면 운영자이든 아직까지 책임의 주체는 인간입니다. 인공지능 로봇에게 책임을 묻지는 않습니다.
또 의료용 인공지능 로봇의 판단에 따라 진단과 수술이 이루어지는 경우, 의료사고가 일어났을 때 그 책임이 누구에게 있는지에 대한 윤리적 문제도 부각되고 있습니다.
이 경우에도 최종 결정은 인간의 몫이므로 그 책임의 주체가 로봇이 되지는 않습니다.
마찬가지로 만일 로봇이 인간을 위협하거나 죽이는 경우라고 하더라도 현재까지 로봇은 사람이 아니므로 법적인 문제를 물을 수 없습니다. 법의 적용을 받지 않습니다. 그런데 만약 인공지능이 인간의 한계를 넘어서는 단계, 스스로 생각해서 결정하는 단계인 초지능(superintelligence)으로까지 발전한다면 로봇에게도 직접적으로 책임을 물게 될 것입니다.
물론 로봇이 인간의 자유의지를 모방하며 인간처럼 감정을 느낀다거나 자신만의 비밀을 가지고 꿈을 꾼다는 것은 상상하기 어려운 일입니다. 인간을 대적하거나 공격하는 일도 마찬가지입니다.
하지만 점점 현대의 과학기술은 쉽게 설명할 수 없고 문제의 원인을 밝히기 어려운 상황에 직면하고 있습니다. 그리고 앞으로는 인간이 로봇을 통제할 수 없는 상황에 처할지도 모릅니다.
이에 대해 고바야시 마사카즈(Kobayashi Masakazu)는 인공지능의 기능은 알지만 작동 원리를 이해할 수 없는 “블랙박스화 된 인공지능”에 생사와 관련된 판단을 맡기는 것이 현명한지 묻습니다.
또 근대 과학문명의 발달을 자동화의 과정으로 설명하면서 인공지능이 “인간을 배제한 제어 시스템”(Human out of the Loop)인 초자동화(super automation)가 될 때 나타날 실질적인 위험을 지적합니다.
그는 4차 산업혁명시대 이전에는 기계장치를 조직하는 제어 시스템이 인간의 영역에 있었지만, 이제는 기계 제어권이 기계에 넘어가려 한다고 우려합니다. 기술이 인간의 통제 영역에서 벗어나 자율적 대상, 심지어 자율적 주체가 되어가고 있다는 것입니다. (고바야시 마사카즈, 『인공지능이 인간을 죽이는 날』(서울: 새로운 제안, 2018), 10-11, 25-28, 52-54.)
이렇게 인공지능 알고리즘 스스로가 세상을 지배하는 주인이 될지도 모르고 또 강한 인공지능이 등장하는 경우에 그것을 소유한 소수 엘리트 집단에게 부와 권력이 집중되면서 사회적 불평등이 발생할 수 있습니다.
더욱이 막대한 비용이 들어가는 현대 과학기술의 연구와 시설비용의 부담은 결국 그 결과도 자본에 귀속됩니다.
개인과 기업의 이윤 극대화를 위한 개인정보의 악용, 일상의 일들이 기계로 대체되면서 생겨날 인간 존엄성 훼손, 그리고 대면 접촉이 사라지면서 나타날 비인간성의 확산과 인간소외의 문제까지도 고민하게 됩니다.
죽음 앞에서의 인공지능 로봇
인간은 자신을 보호하고 지원하기 위한 목적으로 로봇을 만듭니다. 그래서 로봇은 인간 삶의 편의를 위해 일하고, 특히 인간이 접근하기 어려운 장소에 다가가 생명의 위협이 되는 업무를 훌륭하게 수행합니다.
그 과정에서 인간의 생명을 지키기 위해 죽음을 개의치 않을 뿐 아니라, 때로 그대로 죽습니다.
로봇의 운명이라 할 수 있겠지요. 그 과정에서 로봇은 죽는다는 것을 알고 그것을 두려워하거나 피하려고 하지 않습니다.
(그림-사이보그)그런데 인간처럼 감정을 느끼고 인격성을 가지며 자유의지를 행사할 수 있는 로봇이라면, 새롭게 제기되는 질문이 생깁니다.
그것은 인공지능 로봇의 죽음, 사용 종료에 대한 것입니다. 물론 오작동하는 로봇은 단지 기계이므로 정지 버튼을 누르고 바로 폐기하면 된다고 쉽게 생각할 수 있습니다.
하지만 그렇게 간단히 말할 수 있을지 망설여집니다.
반려동물처럼 평소에 다양한 소통을 통해 친밀한 관계를 맺었다면 더욱 그렇습니다. 사람과 신뢰를 맺기 원하는 감정을 가진 로봇, 자의식을 가지고 자신의 의지를 행사하는 로봇이라면, 기능을 다해 폐기 처분하는 경우라도 윤리적인 문제에 직면하게 될 것입니다.
그리고 사실 인간보다 훨씬 우월한 로봇이 등장해 인간의 통제를 벗어난다면, 자신을 죽이려는 인간에 대항해 스스로를 지키려고 혁명을 일으키거나 인간을 통제하려 들지도 모릅니다.
인간은 죽음의 순간에서야 가장 고귀한 판단을 내립니다. 일상의 삶에 매이고 욕망을 따라 살아가는 인간이라도 그 순간만큼은 최선이라고만 할 수는 없어도 가치 있는 선택, 사랑을 따른 결정에 좀 더 가까워집니다.
죽음을 앞둔 시간에는 나의 욕심이나 기대를 더 이상 붙잡지 않아도 되니까요. 그보다 더 높은 가치, 사랑과 배려를 따라 움직일 수 있는 특별한 시간이기 때문입니다.
죽음을 생각하며 우리의 일상과 주변에서 만나는 그 경험이야말로 인간 본래의 한계를 깨닫고 겸손하게 한다. 그리고 혼자가 아닌 더불어 살아가는 삶의 태도를 회복시킨다.
인간은 그렇게 서로 위로하고 함께 공감함으로 죽음의 두려움과 고통을 극복해 왔고 여기서 가치 있는 삶, 진정한 행복과의 만남을 경험한다.
인간이 인공지능보다 좀 더 나은 결정과 판단을 할 수 있는 것은 죽음을 인식하는 순간일 것입니다. 물론 모든 것에 대해서라고 말한다면 욕심이겠지요. 산술적이거나 기술적인 내용은 어려울지 모르지만, 삶에 대한 것에 있어서만큼은 그렇습니다.
성장의 기회 또한 죽음을 알아가는 것과 같이 다가옵니다. 죽음을 배우고 인간에게 있어서의 의미를 찾으며 숙고해야 할 중요한 이유가 여기에 있습니다.
