[북리뷰] 기술의 시대
건강한 기술 규제를 위한 해법
MS는 1990년대 말 미국 정부의 독점금지법 위반 소송을 당합니다. 사실 MS의 빌게이츠는 그 당시를 회고하며 본 책의 서문에 이렇게 말했습니다. MS는 초창기에 연방 정부 사람들과 대화를 거의 하지 않은 것에 자부심을 가졌다고 합니다. 이렇게 MS가 성공했는데 워싱턴에 사무실도 한 칸 없다는 것을 대단하다고 생각했다는 것이죠. 하지만, 독점금지법 위반 소송을 진행하면서 빌게이츠는 그에 결코 현명한 태도가 아니었다는 것을 뼈저리게 느꼈다고 합니다. 이 소송 과정에서 법무팀 소속이던 브래드와 제대로 알게 되면서 그 인연이 되어 이 책의 서문에 참여하게 된 것입니다. 빌게이츠는 브래드를 이렇게 평가합니다. 법률가이지 소프트웨어 개발자는 아닌 브래드는 기술에 대한 이해도 뛰어났을 뿐 아니라 생각하는 방식이 빌게이츠나 회사 사람들과 확실히 달랐다고 합니다. 브래드는 MS의 이익에만 머물지 않고 업계 전체, 사회를 위해 기술이 어떤 역할을 해야 하는지에 대한 고찰과 IT 기업이 어떤 사회적 책무를 가져야 할지를 명확하고 설득력있게 제시할 수 있는 능력을 소유하고 있다고 평합니다. 빌게이츠가 이렇게나 높게 평가한 브래드의 새로운 기술이 어떤 사회적 문제를 야기하고 이를 누구와 어떻게 해결해야 할지 정리한 그의 혜안을 살펴보겠습니다.
▣ 21세기의 전기
인터넷에 빠른 속도로 연결할 수 있는 광대역 인터넷을 전 국민이 공평하게 이용할 수 있지는 않습니다. 미국의 경우만 봐도 2400만명 이상의 미국인 특히 시골 지역에 사는 1900만명 이상은 초고속 광대역망을 안정적으로 이용하지 못하고 있습니다. 이는 뉴욕주 인구에 해당되는 규모죠. 아직도 일부 사람들은 통신 요금을 지불할 의지가 있음에도 인터넷 사용에 제한이 있는 것이죠. 그런데 더 충격적인 것은 이 숫자보다 훨씬 더 많은 인구인 1억 1300만명의 미국인이 집에서 광대역 통신망을 이용하지 않고 있다는 퓨리서치센터의 연구 자료도 있습니다. 즉, 미국 가정의 46퍼센트는 광대역 인터넷에 가입하지 않은 것으로 되어 있습니다.
초고속 인터넷에 연결하고 싶어도 할 수 없는 인구가 2400만명, 초고속 인터넷에 가입을 하지 않은 사람이 1억1300만명이라는 것은 무척 중요합니다. 초고속 인터넷망은 21세기에 전기나 마찬가지입니다. 사람들이 일하고 생활하고 공부하는 방식을 근본적으로 결정하죠. 의학의 미래는 원격의료입니다. 교육의 미래는 온라인 교육이구요. 농업의 미래는 정밀농업입니다. 미래에 사물인터넷이 더 보편화되면 클라우드에 이들 기기가 고속으로 접속할 수 있어야 하기에 초고속 인터넷 망도 더욱 필요해질 것입니다.
그러니, 초고속 인터넷에 연결할 수 없다는 의미는 여전히 20세기에 사는 것이나 다름없고 미래의 의료, 교육 등을 이용할 수 없다는 것을 뜻합니다. 저자의 데이터 분석팀에서는 ‘미국에서 실업률이 가장 높은 곳은 광대역 통신망 접근성이 가장 낮은 지역인 경우가 많았다’라고 합니다. 그만큼 경제성장과 광대역 통신망 사이의 높은 연관성이 있다는 것이죠. 그만큼 초고속 인터넷망은 도로처럼 공공재에 가깝습니다. 현대 사회에서 전기를 사용할 수 없다면 그것이 돈이 있어도 사용 못하든, 너무 비싸서 제한적으로 사용하든, 불편함을 넘어 안정적인 경제 활동도 할 수 없고 더 나은 미래를 꿈꿀 수 없습니다. 그런 전기처럼 광대역 통신망도 중요한 공공재가 되고 있습니다. 전 국민이 전기처럼 누구나 이용할 수 있도록 모든 지역에 싸게 공급될 수 있도록 해야 한다는 것이죠.
▣ AI와 안면인식
2002년 6월 스티븐 스필버그 감독의 마이너리티 리포트라는 영화에서는 주인공 톰 크루즈가 사법기관에 쫒기던 도중 의류상점 갭에 들어가는 장면이 나옵니다. 매장에 톰 크루즈가 들어가자 매장의 키오스크에는 고객이 좋아할 것이라고 생각되는 의류들을 보여줍니다. 마치 우리가 아마존에 방문하면 아마존에서 우리가 구입할만한 상품을 추천하는 것과 비슷한 기술입니다. 영화에서는 톰 크루즈가 가지고 있는 스마트폰을 통해서 매장의 키오스크가 어떤 고객이 방문했는지를 인식했지만, 지금의 기술은 휴대폰없이도 사람의 얼굴만으로 누구인지 인식을 할 수 있을 정도로 AI가 고도화되었습니다.
이제 컴퓨터는 대부분의 인간이 태어나면서부터 해왔던 사람의 얼굴을 인식하는 일을 아주 잘 해낼 수 있게 되었습니다. 사람의 얼굴은 지문만큼이나 고유합니다. 얼굴에 있는 두 눈동자 사이의 거리, 코의 크기, 미소의 형태, 턱선 등을 AI가 패턴으로 인식해서 지문처럼 정확하게 판별할 수 있게 된 것은 최근의 일입니다. 이미 이 기술은 더 편리한 생활을 위해 전 세계적으로 다양한 영역에서 이용되고 있습니다. 내셔널 오스트레일리아 은행에서는 MS의 안면인식 기술을 이용해 은행 카드가 없어도 ATM 기기에서 안전하게 현금을 인출할 수 있는 기술을 개발 중입니다. 워싱턴에 있는 국립인간게놈 연구소에서는 디조지 증후군이라고 부르는 질병을 안면인식 기술을 이용해 진단할 수 있도록 의사를 돕고 있기도 합니다. 이 질병은 흑인, 동양인 또는 라틴 아메리카 출신 사람들이 특히 잘 걸리는데 심장과 신장 손상을 비롯해 건강상의 심각한 문제를 일으킵니다. 그런데, 이 질병은 얼굴에 미묘한 특징을 나타내기 때문에 AI가 이 특징을 포착해서 의사에게 이 질병에 걸린 사람들을 알려주는 것이죠.
이렇게 보안과 의료 그리고 다양한 영역에서 활용되는 안면인식이 무기로 돌변할 수도 있습니다. 어느 정부가 이 기술을 이용해 평화로운 집회에 참석한 모든 개인을 식별해서 표현의 자유와 집회의 자유를 위축시키는 후속 조치를 취할 수 있죠. 또, 세상에 완벽한 기술은 없음에도 이를 망각한채 경찰이 안면인식 기술에 과도하게 의존해 용의자를 식별하는 우를 범할 수도 있습니다. 기술은 선과 악 2가지가 얽혀 사회, 정치, 경제 전반에 의도하지 않은, 계획에 없던 이슈를 만들어낼 수 있습니다.
조지 오웰의 소설 1984여서는 미래에 시민들이 정부의 감시를 피하기 위해 어두운 방에 몰래 모여 서로의 팔에 암호의 말을 두드리는 장면이 나옵니다. 그렇지 않으면 카메라와 마이크가 그들의 얼굴, 목소리, 말 한마디까지 모조리 포착해 기록할 것이기 때문이죠. 오웰은 70년 전 이미 기술이 이런 미래의 문제를 가져올지 예상했던 셈이죠. 안면인식 기술을 포함해 AI는 국가에 따라, 문화에 따라 다양한 영역에서 이슈들이 대두될 것입니다. 이들 이슈를 해결하기 위해서는 해당 기술로 인해 발생될 수 있는 잠재적 문제들에 대한 꼼꼼한 검토와 해당 문제를 해결하기 위한 방안에 대한 활발한 협의와 토론을 하는 역량이 필요합니다.
▣ AI 윤리를 말해야 할 때
1700년대에 벤 프랭클린이 미국에서 우편 서비스를 만든 이후 범죄자들은 우편 사기라는 것을 발명했습니다. 1800년대에 전신과 전화가 생기자 범죄자들이 전신 사기를 발명했죠. 당연히 인터넷이 발명되자 새로운 형태의 사기와 범죄가 만들어졌죠. 컴퓨터가 AI로 학습능력과 의사결정 능력을 갖게 되면서 점점 더 인간의 개입으로부터 자유로워지고 있습니다. 그런 AI가 여러 영역에서 활용되면서 AI가 어떤 기준으로 판단을 하고, 결정을 하는지에 대한 의구심이 커져가고 있습니다. 만일 AI가 특정 영역에서 하는 역할을 사람이 한다고 하면 그 사람에게 많은 견제와 책임 그리고 도덕성을 포함한 윤리를 요구할 것입니다. 그런 요구를 AI에게 할 때입니다. 그걸 AI 윤리라고 말합니다.
2018년 AI 개발의 선봉에 있던 MS나 구글 같은 기업들은 AI 전반에 관한 윤리에 대한 고민과 함께 원칙 등을 정하기 시작합니다. MS도 AI를 개발하는 지침으로서 6개의 윤리 원칙을 정했고 제목만 말하면 공정성, 신뢰성과 안전, 프라이버시와 보안, 장애인을 위한 포용적 기술, 투명성 마지막으로 책임감입니다. 하지만, 저자가 이들 원칙들이 지켜지기 위해 가장 중요한 것으로 꼽는 것은 AI 기반 시스템이 인간의 검토나 판단, 개입없이 멋대로 엇나가는 일이 없도록 모든 과정에 인간이 포함되어야 한다는 것입니다. 다시 말해 인간 권리에 중대한 영향을 미칠 수 있는 AI 기반 의사결정은 늘 인간의 유의미한 검토와 통제 아래에 있어야 한다는 것입니다. 그리고, 마지막으로 AI가 만들어내는 의살결정을 평가하는 사람들의 양성도 중요하다고 지적합니다.
1930년대 아인슈타인은 이렇게 말했습니다. “나는 3차 세계대전에서 사람들이 어떤 무기를 가지고 싸울지는 알지 못합니다. 하지만, 4차 세계대전 때는 분명 돌멩이와 막대기를 들고 싸울 겁니다.” 기술이 모든 것을 말살할 수 있음을 늘 경계하고 이런 기술을 이용해 사업을 하는 기업은 인간성을 잃지 말고 지속 가능한 사회를 위해 기술을 어떤 원칙과 윤리의식으로 사용할 것인지에 대한 스스로의 자정과 규제를 염두에 두어야 합니다.
사실 전 이 책을 읽기 전까지만 해도 기술 기반의 혁신을 꾀하는 혁신 기업들에 정부의 규제는 악이다라는 생각이 강했습니다. 그런데, 이 책을 읽으며 사고의 전환을 했습니다. 기술 혁신은 계속 가속도가 붙지만 규제 이슈는 행동보다는 말로만 떠드는 경우가 많은데다 기술이 그 규제의 범위를 넘어서는 경우가 더 많기 때문입니다. 과잉 규제에 대한 걱정보다는 정부가 똑똑하지 않은 규제와 느린 행동에 대한 우려가 더 크다는 것이죠. 책에서 언급한 다양한 기술이 가져올 사회적 문제에 대한 인지 후 그 문제를 최소화할 수 있는 방안에 대한 연구와 규제 기관, 관련 기업들과의 합의를 하려는 의지가 중요합니다. ICT 기반의 혁신 기업에는 이런 문제를 고민하고 연구, 대비하는 조직의 역할 중요하고 필요하다는 것이 이 책을 통해 얻게 된 큰 깨달음입니다.
위 북리뷰는, 고전5미닛(약 5분으로 정리된 책의 시사점을 정리하는 책리뷰 전문 사이트)를 위해 제작된 초본으로 보다 정돈되고 통찰력있게 내용을 정리한 내용은 고전5미닛을 참고하세요.
