by
Mar 05. 2020
A-31. 4차 산업혁명의 안전장치
4차 산업혁명으로 인한 기술 발전과 사회 변화가 무한궤도에 올라탄 쾌속열차처럼 속도를 내고 있다.
인공지능(AI)이 운전하는 4차 산업혁명 열차는 빅데이터, 클라우드, 사물인터넷(IoT), 로보틱스, 블록체인 등을 장착하고 거침없이 질주를 하고 있다.
출처 : https://byul2.tistory.com/3이대로 괜찮은가? 제대로 가고 있는가?
4차 산업혁명을 추구할 때 꼭 짚어봐야 하는 두 가지 문제가 있다. 첫 번째는 그 안에 사람이 있는가? 두 번째는 윤리적이고 바람직한 것인가?라는 질문이다. 이 두가지는 4차 산업혁명에 대한 안전장치이다.
출처 : https://m.blog.naver.com/cjh3821115/150123394490이와 같은 안전장치에 대하여 인간존중, 생명 존중을 최고의 가치로 보편적인 진리를 추구하는 가톨릭 교회는 교황청을 통한 지침을 통해 미래의 비전을 제시한다.
먼저, 교황은 교황청 생명학술원 의장에게 보내신 편지(2019.01.15)[1]를 통하여 통신, 나노, 바이오, 로보틱스 등 신 기술에 대한 연구가 필요하다고 강조하였다. 동시에 “이러한 획기적인 변화와 새로운 경계를 이해하고, 인간에 대한 봉사에 그들을 활용하는 방법을 결정하고, 인간의 본질적인 존엄성을 존중하고 증진하는 것이 절실하게 필요”[2]하다고 하였다.
출처 : 교황청 평생교육원 홈페이지에서 캡처2019년도 교황청 소속 평생교육원의 “로봇 윤리 : 사람과 기계와 건강( Roboethics: Humans, Machines and Health)”이라는 주제의 세미나[3]강연에서 인공지능 로봇이 인간의 실존을 근본적으로 변화시키고 있다고 지적하며, “ 만일 우리가 이러한 고려사항을 실제로 활용할 수 있다면, 새로운 발견들의 엄청난 잠재성이 모든 사람과 인류 전체에 혜택을 줄 수 있을 것”[4]이라고 예견하였다.
교황이 전달하고자 하는 메시지는 분명하다. 사람이 중심이 되는 4차 산업혁명, 인간의 존엄성을 존중하고 사람에게 도움이 되는 4차 산업혁명이 되어야 한다. 여기서 중심은 사람이다. 바로 이것이 4차 산업혁명의 안전장치이다. 그리고 교황청에서는 2020년 2월 28일 4차 산업혁명시대의 총아라 할 수 있는 인공지능(AI)에 대하여 윤리 백서인 ‘로마 콜’[5]을 발표하고 인공지능(AI) 시스템이 어떻게 하면 인간 존엄성을 존중할 수 있는지에 대한 6가지 규범과 원칙을 제시하였다. 이것은 '사악한 AI'를 막기 위한 교황청의 안전장치라 할 수 있다.
로마 콜은 서문, 윤리(Ethics), 교육(Education), 권리(Rights) 등 4개 부문으로 이루어졌다.
'로마 콜'에서 서문에 첫 번째로 강조한 것은 "AI 발전은 기술이 아니라 사람에 초점을 두고 이뤄져야 한다"는 것이다. 즉, AI가 인간의 삶에 큰 변화를 가져오고 있으며, 앞으로도 그럴 것이기 때문에 "신기술은 모든 '인간 가족(human family)'에 봉사한다는 원칙하에 연구되고 상용화돼야 한다"는 것을 거듭 강조한다.
윤리 부분을 보면 모든 인간은 존엄과 권리를 갖고 자유롭고 평등하게 태어났기 때문에 "AI 시스템을 사용하고 만들 때는 이런 정신을 보호하고 보장해야 한다"라고 강조한다. 그러므로 "AI 시스템은 인간과 인간이 살고 있는 환경에 봉사하고 보호하기 위해 고안되고 설계 및 구현돼야 한다"
권리 부분에서는 인류애적 관점에서 AI 발전이 약자와 소외된 자들을 보호해야 하며, "인류와 지구에 이익이 되는 방향으로 시스템을 개발하고 구현하려면 AI의 발전이 강력한 보안 대책과 병행돼야 한다"라고 강조하고 있다. 또한 안면 인식과 같이 인권에 영향을 미칠 위험이 높은 첨단 기술의 경우 윤리 원칙에 대한 투명성과 준수를 촉진하기 위해 새로운 형태의 규제를 만들 필요가 있음을 지적하였다. 또한 이를 위한 구체적인 내용으로 다음과 같은 6가지 원칙을 제시했다.
