#모두의 4차 산업혁명 : 10교시

거대사를 통괄하는 산업혁명 클래스

모든 것은 양면성이 있죠. 그래서 균형이란 단어도 생겨난 것일테죠.

자, 그렇담 이번 시간엔 현상의 이면을 한번 살펴보죠.

#17. 디스토피아의 반격                

 인공지능과 기반기술 등의 발전으로 우리는 대체로 유례없이 편리한 세상을 살아가게 될 것으로 전망되고 있습니다. 그러나 동시에 급격한 기술발전에 따른 반론, 어두운 전망도 설득력 있는 논리로 제시되고 있지요. 알파고가 이세돌을 이겼을 때 인공지능 기술에 대한 경외와 찬사가 이어진 반면 인공지능에 대한 두려움을 느낀 사람도 많았다고 합니다. 고도화된 지능정보기술이 새로운 일자리를 만들고 인류의 복지에 기여할 것이라는 낙관론과 함께 로봇, AI의 등장으로 인간노동의 잉여화가 초래되고 극소수 자본가와 소수 기술 엘리트만 '슈퍼 리치'가 되면서 양극화가 심화될 것이라는 비관론이 동시에 대두되고 있죠.    

[KCERN 제36차 공개포럼 4차 산업혁명 일자리 진화 중]

 또한 거대 플랫폼 기업이 막대한 개인정보 데이터를 기반으로 한 권력을 휘두르게 되면서 국가의 개념을 초월하고 전 세계가 하나의 독재자에 종속될 수 있다는 시나리오도 나옵니다. 마치 조지오웰(The George Orwell)의 소설 ‘1984년’에 등장하는 ‘빅 브라더’처럼 말이죠. 실제로 현재 시점에도 우리의 정보 대부분은 구글, 페이스북, 네이버, 카카오 같은 ICT 플랫폼 거대기업이 소유하고 있습니다. 이들이 자칫 개인정보 오남용을 저지르거나 해킹을 당한다면 역시 재앙에 가까운 일이 닥칠 수도 있습니다.

 2021년 최근에도 이러한 문제는 계속 이어지고 있지요. 이루다 AI 챗봇이 무분별한 연인의 카카오톡 대화 데이터를 학습해 개인정보 침해 문제가 발생하기도 했지요. 심지어 혐오나 차별적 표현까지 필터링 되지 않은 상태여서 어린 아이들을 대상으로 본격 서비스가 진행됐다면 참 아찔했을 것 같습니다. 다행히 서비스 약 3주만에 관련 DB를 모두 삭제시켜 큰 일은 막을 수가 있었죠. 또한 2018년은 아마도 페이스북 최악의 해였을 것인데요, 그해 5월에는 소프트웨어 버그 때문에 사용자들이 게시글을 올릴 때 ‘대상 제안(suggested audience)’으로 조정했던 것이 전부 ‘전체 공개’로 전환되는 일이 일어났습니다. 1천 4백만 사용자가 여기에 영향을 받았죠. 즉, 1천 4백만 명이 ‘친구들에게만’ 공개 혹은 비공개 공개하려고 했던 내용을 원치 않게 모두에게 보여주게 된 것이죠. 이는 매우 위험한 프라이버시 남용 사건이었습니다. 또한 9월에는 View As 기능의 오류를 해커가 익스플로잇 했다는 발표가 있었고 사용자 5천만 명의 접근 토큰이 도난당하는 일이 일어나기도 했죠. 12월에는 서드파티 앱이 사용자가 공개하지 않은 사진에 접근할 수 있게 해주는 버그도 발견됐고 이 때문에 680만 명 사용자가 피해를 입기도 했습니다.

 메리어트 호텔에서는 약 5억 명의 숙박 객 데이터가 2014년부터 노출된 채 유지되어 온 일이 드러났습니다. 해커들은 메리어트 소속 스타우드(Starwood)의 예약 정보 데이터베이스에 접근해 소셜 엔지니어링 공격자들이라면 누구나 군침을 흘릴만한 정보 패키지를 얻어내는 데 성공했죠. 즉, 이름, 우편 주소, 전화번호, 이메일 주소, 여권 번호, 스타우드에서 발급해주는 숙박객 계정 정보, 생년월일, 성별, 도착 및 출발 일자, 예약 일자, 선호하는 연락 방법 등이 공격자들의 손에 넘어간 것입니다. 심지어 일부는 지불카드 정보도 도난당하기도 했습니다. 이처럼 네트워크상 유통, 보관되고 있는 민감 정보들은 앞으로 수집, 활용량이 더욱 증대될 것이지만 그만큼 도용, 악용되는 사례 역시 만만치 않게 증대될 것으로 보여집니다.

 시대의 디스토피아는 우리 사회에 다양한 방법으로 나타나고도 있습니다. 2018년 11월 24일 서울 서대문구 KT 아현 지사에 화재가 발생해 일대 지역 통신이 잠시지만 불통되는 사고가 발생했었습니다. 다행히 인명 피해가 없어 시설 복구만 끝나면 다시 평온한 일상으로 돌아갈 줄 알았지만 생각지도 못한 재난은 그 후에 발생했죠.

 서울 강북지역과 고양시 일부(특히 지역번호로 02를 사용하는 지역인 삼송지구) 등, 북서부 수도권 지역에서 유·무선 통신에 장애가 일어나면서 가족과 친구에게 연락할 방법이 없어 사람들은 공중전화를 찾아 헤맸고, 식당과 가게 등에서는 카드 결제가 안 돼 외상으로 계산을 하기도 했고, 손님을 받지 못하는 진풍경도 일어났습니다. 일부 경찰서의 112 신고 시스템도 한동안 작동하지 않았고, 종합병원에서는 의료진 연락수단인 '콜 폰'도 먹통이 됐습니다. 마치 1980년대 이전으로 돌아간 것 같은 장면이었습니다. 공기처럼 우리 삶에 너무도 익숙해 큰 신경 쓰지 않고 살아가던 ‘연결’이란 수단이 끊기자 재난 수준의 혼란이 찾아온 것인데요, 우리의 삶 대부분이 그리고 필수적인 활동들이 온라인과 함께 24시간 작동하고 있다는 사실을 반추하게 된 사건이었습니다. 한동안 구내식당을 이용하지 않고 동료들과 피해지역 근방 식당에 나가 매출에 도움을 드리고자 부러 식사를 해결했던 기억이 나네요.(웃음)

 아침에 눈을 뜨고부터 우린 데이터를 생산하고 또 클라우드, SNS, 포털에 연결됩니다. 심지어 자는 동안 수면 활동을 추적한 폰이나 스마트 밴드 활동까지 따지면 24시간 생산 활동은 계속된다고 할 수 있겠습니다. 메신저 앱으로 하루에 수십 건의 메시지를 전달하며 살고, 사진을 찍으면 자동으로 클라우드로 전송해 공유합니다. 금융 업무, 물품 구매, 영상 시청도 모두 온라인에 연결된 스마트 폰을 통해 수행하고 또 기록됩니다.

 수많은 개인정보, 위치정보, 건강정보, 금융정보 등 나에 관한 모든 정보, 또 내가 필요한 정보들이 공기처럼 퍼져 돌아다니고 있습니다. 일명 ‘데이터 경제’가 활성화되면서 앞서 살펴본 페이스북이나 메리어트 호텔의 사고처럼 개인정보 유출에 대한 우려도 큰 상황이지만 막상 통신이 끊겨 인터넷이 먹통이 된다면 우리의 일상은 또 어떻게 달라지게 될까요? 단순히 1980년대 이전 아날로그 방식으로 살면 해결될까요? 아마 재난과 다를 바 없는 상황이 찾아올 것입니다. 

 4차 산업혁명 디스토피아 가설 중 인공지능 윤리에 대한 이슈도 꾸준히 제기되고 있습니다. 자율 주행차가 장애물과 보행자를 순간적으로 마주했을 때 운전자를 살릴 것인지, 보행자를 살릴 것인지 두 가지 선택만 가능하다면 여러분은 어떤 선택에 손을 들겠습니까? 자율주행자동차 제조업체가 직면한 윤리적 문제와 관련해 가장 많이 언급되는 시나리오 중 하나가 ‘트롤리 딜레마(Trolley Problem)’입니다.     

[자율주행 의사결정의 딜레마 / ⓒ Senior Planet]

 이는 사고가 불가피할 때 자동차의 소프트웨어가 어느 방향을 취할지 결정해야 하는 상황을 의미하는데요. 원래 트롤리 시나리오는 5명이 있는 선로를 향해 달려가는 고장 난 열차와 선로 전환기 앞의 한 사람과 관련된 문제로, 전환기 앞의 결정권을 가진 사람이 아무 행동을 하지 않으면 5명의 사람이 죽게 되고, 전환기를 당겨 방향을 돌리면 1명이 죽게 됩니다. 이제 자율주행자동차 시대에선 전환기 앞의 사람을 자동차의 소프트웨어가 담당하게 되었지요.

 만약 사고가 일어날 것이 확실한 상황에서 도로의 한 쪽에는 엄마와 아기가 있고, 자동차 앞쪽엔 한 무리의 어린 학생들이 길을 건너고 있으며, 도로의 다른 쪽은 절벽이라면, 자동차가 내릴 수 있는 가장 윤리적인 결정은 무엇일까요? 자동차가 방향을 틀어 엄마를 치는 것일까, 아이들에게 돌진하는 것일까, 아니면 절벽으로 몰아 차 안에 탄 사람을 죽도록 하는 것일까요? 메르세데스는 이 상황에 대해 자동차는 운전자를 보호할 일차적인 책임이 있다고 발표했으나, 해당 표명은 상황을 잠재우는 대신 ‘킬러 로봇’이라는 헤드라인으로 장식되기도 했죠.

 그러나 기술이 발전하며 실제 상황이 일어날 가능성은 점차 낮아지고 있습니다. 자율 주행차의 메인 라이다(LiDAR)와 레이더, 초음파 센서는 더욱 정밀해지고 통신 및 반응 속도는 더욱 빨라지고 있습니다. 위험을 평가하는 소프트웨어 알고리즘 역시 더욱 정교해지면서 트롤리 딜레마는 점차 해결되어 가는 모양새입니다. 물론 예상치 못한 시행착오는 언제 어디서 발생할지 모릅니다.(웃음)

 전장에 투입된 군사 로봇이나 드론이 적인지 아군인지, 혹은 민간인인지 어떻게 정확히 구분할 수 있을까요? 이를 100% 신뢰할 수 있을까요? 홍콩의 로봇 제조기업 핸슨 로보틱스(Hanson Robotics)에서 만든 안드로이드 로봇, 소피아(Sophia)는 한 인터뷰 자리에서 인간을 말살하겠다고 말해 헤프닝이 벌어지기도 했었죠.     

[ⓒ CNBC M+ Live]

 이후 한국의 ‘4차 산업혁명, 소피아에게 묻다’ 콘퍼런스에 참석한 소피아는 “인류 지배를 위한 내 계획의 위대한 시작”이라고 말해 논란이 된 데 대해 “농담이라고 사람들이 다 웃지는 않는다는 걸 깨달았다. 상황에 맞게 농담 해야겠다”고 해명하기도 했지요.(웃음)

 이러한 전 세계적으로 나타나는 공통적인 우려점을 해소하고자 각 국은 AI 윤리 규범을 만들기 시작했습니다. AI 개발시부터 사람 중심의 개발 철학을 제시하고 어떤 이유에서라도 인간의 존엄성을 해치지 않도록 하기 위한 자율적 규제에 합의토록 한 셈이죠. 우리나라도 2020년 12월경 범정부 차원의 인공지능 윤리규범을 만들어 발표하기도 했습니다.  

 4차 산업혁명의 디스토피아 우려중의 가장 큰 이슈는 아마 일자리 문제가 될 것 같습니다. 역대 산업혁명 중에 그 영향력은 가공할만하기 때문이죠. 매우 급격하게 지능화된 자동화 탓에 기존 일자리는 심각하게 위협을 받을 수밖에 없습니다. 따라서 이를 우려하는 많은 학자들이 비관적인 전망을 내놓기도 했죠. 세계경제포럼(World Economic Forum)은 미국, 중국, 일본, 독일, 영국, 프랑스, 호주 등 15개국 370여 개 기업 인사담당 인원을 대상으로 조사한 결과인 ‘The Future of Jobs’에서 2020년까지 총 710만 개의 일자리가 사라지고 200만 개의 일자리가 창출되어 총 510만여 개 일자리가 감소할 것으로 전망했습니다.

 인공지능, 빅데이터 등으로 무장한 스마트한 기계의 출현은 사실 예측 불가능한 시나리오를 쓰고 있는 형국입니다. 역사적으로 산업혁명은 일자리를 대체했지만 더 많은 일자리를 만들어 내기도 했습니다. 자동화 이후의 작업장에는 반드시 인간이 필요한 일이 생겨났고 이에 적응해 왔다는 것이죠. 현재에도 유사한 사례는 벌어지고 있습니다. 스페인 바르셀로나는 도시 전체를 인터넷에 연결하는 스마트 시티를 구현했는데, 이로 인해 47,000개의 신규 일자리가 창출되었다고 발표했죠.

 메리 그레이, 시다스 수리가 공저한 ‘고스트 워크(Ghost Work)’에서는 '대다수의 모바일 애플리케이션, 웹사이트, 인공지능시스템을 운영하는 데 투입되는 인간 노동은 겉으로 잘 드러나지 않으며, 사실 의도적으로 감춰진다. 이렇게 불분명한 고용분야를 고스트워크로 정의한다'면서 긱(gig)과 온디맨드 경제를 통해 일과 직업의 양태가 달라질 것을 예측하기도 했습니다. 단순히 미래의 일자리를 현재와 같은 개념으로 비교할 수 없을 것이라는 얘기죠.     

 이처럼 급격한 기술 발전의 시대는 다양한 인류의 고민을 낳기 시작했습니다. 위의 장표는 아주 일부의 고민거리만 담아봤는데요, 기술 발전의 결과를 어떻게 적절하게 통제할 것인가 대비책이 없다면 디스토피아 미래는 결국 현실이 되고 말 것입니다.  

자, 오늘은 여기까지 하고 마치도록 하겠습니다.

수고많으셨어요~!