자연재해 대응에서 배우는 AI(인공지능) 컨틴전시 플랜

Do AI Risks Like We Do Natural Disasters

지능형 장치(intelligent devices)에 의해 야기되는 위험은 곧 자연 재해와 관련된 위험의 크기를 넘어설 것이라고 합니다. 수백억 개의 연결된 센서가 산업용 로봇과 안전 시스템에서부터 자율주행 자동차와 냉장고 등 가전에 이르기까지 모든 것에 장착, 내장되고 있습니다. 동시에, 인공지능(AI) 알고리즘의 능력은 더욱 빠르게 발전하고 있습니다. 이처럼 많은 지능형 연결 장치에 대한 의존도가 높아지면서 전세계적인 시스템 중단 가능성도 역시 높아지고 있습니다. (X이벤트)

다행인 것은 2017년에 전세계적으로 3300억 달러의 경제적 손실을 일으킨 것으로 추정되는 자연 재해가 재앙적 위험을 완화하는 방법을 위한 교훈을 제공한다는 것입니다. 기업, 보험사 및 정책 입안자들이 사회적인 회복탄력성 (society's resilience) 강화에 집중할 수 있다면 AI(인공지능) 재난에 대비하는 것이 아직 늦지는 않은 상황일 것입니다. 극단적인 날씨와 기후변화, 자연 재해에 관한 한, 기업들은 AI를 통제하기 위한 국제 프로토콜과 표준을 제정해야 할 뿐만 아니라 많은 회사, 보험사 및 정책 입안자들과도 협력해야 합니다.

지능형 장치 비상 계획을 수립 Intelligent Device Recovery Plans

오늘날, 많은 기업들이 자사의 운영과 고객 모두에게 피해를 줄 수 있는 지능형 기기 위험에 노출되어 있습니다. 그러나 AI와 지능형 기기에 대한 리스크 및 잠재적 책임에 대한 피해 규모를 공식적으로 계량화하고 있는 조직은 거의 없습니다. 또한 잠재적인 블랙 스완 AI(인공지능) 이벤트에 대한 안전 및 보안 프로토콜을 설정하지도 않고 있습니다.

자연 재해와 관련된 위험과 마찬가지로, 기업은 보험 가입을 통해 AI와 같은 지능형 기기 위험으로부터 완전히 보호할 수 없습니다. 최악의 경를 대비한 비상 복구 계획(worst-case scenario recovery plans)을 세워야 합니다. 자연 재해와 관련된 위험과 마찬가지로, 기업은 보험 가입을 통해 AI와 같은 지능형 기기 위험으로부터 완전히 보호할 수 없습니다. 최악의 경를 대비한 비상 복구 계획(worst-case scenario recovery plans)을 세워야 합니다. 기업 관리자는 위험도가 높고 낮은 지능형 장치 취약성을 파악하여 이중화, 백업 시스템을 추가하고 쓰나미 발생 조기 경보 시스템와 같은 방안도 마련해야 합니다. 또한, 인공지능 시스템의 갑작스런 중단, 오작동을 대비하여 수동으로 제어되는(manually controlled) 환경으로 전환하고 결함이 있는 스마트 장비를 회수할 수 있는 기능도 필요합니다.

비상 대책은 자연재해 대응 매뉴얼 수준을 넘어서야 합니다. 많은 잠재적 연결 지점을 고려할 때 대규모 지능형 장비의 장애 원인을 예측, 식별 및 수정하는 것이 훨씬 더 어려울 것입니다. 결함이 있는 지능형 장치를 버깅 해제하고 재프로그래밍하는 것은 악의적인 사이버 공격에 맞서 싸우기 위한 보안 패치를 만드는 것보다 훨씬 더 복잡합니다. 왜냐하면 기계가 어떤 규칙, 알고리즘을 따르고 있는지 불분명하거나 파악이 어려울 수 있기 때문입니다.

결과적으로, 어떤 회사도 스스로 이러한 위험을 극복하기 어려울 것입니다. 글로벌 AI 관련 충격의 잠재적 영향으로부터 회복하기 위해 기업 관리자들은 공급업체에서 고객에 이르기까지 모든 곳에 존재하는 지능형 기기의 취약성을 고려해야 합니다. 이러한 취약점을 해결하려면 누구의 잘못인지에 관계없이 AI 리스크와 문제의 감염을 조기에 포착하거나 다른 곳에도 전파할 수 있는 수많은 기술 서비스 제공업체 및 여러 회사 간의 조정이 필요합니다.

AI 위험 대응 보험 상품 및 서비스 AI Insurance Products and Services

보험사들은 글로벌 지능형 기기 시스템 다운에 대한 위험 노출을 정량화하고, 새로운 보험 상품을 제품을 제공하며, 기업 및 정부기관에 조언해야 합니다. 미국에서는 약 7,000억 달러의 자본, 그리고 전 세계적으로는 수천억 달러가 더 있지만, 손해 보험사(property and casualty insurers)들의 자금 역량은 너무 작아 세계적인 지능형 기기 재해로 인한 모든 잠재적 손실을 감당할 수 없습니다. 그러나 보험사는 산업 전반에 걸친 손실에 대해 수집한 데이터를 사용하여 기업과 정부에 최악의 시나리오에 대한 잠재적 노출을 계량화하고 파악하는 최선의 방법을 조언할 수 있습니다.

자연 재해와 마찬가지로 보험사는 공공 부문 보호 조치(public sector safeguards)도 장려할 수 있습니다. 보험사가 기상이변으로 인한 엄청난 위험을 완전히 완화할 수 없기 때문에 많은 선진국 정부와 국제기구는 연방재난관리청(FEA) 및 공공 홍수 보험 프로그램과 같은 정부 기관을 통해 자연 재해 구호를 제공합니다. 보험사는 AI 지원 스마트 기기 재해(AI-enabled smart device disaster)의 잠재적 피해 회사, 기관을 돕기 위해 유사한 공공 부문 자원을 동원할 수 있도록 지원해야 합니다.

또한 지능형 장치 시스템 다운으로 인한 위험한 영향을 방지하기 위해 안전 및 보안 프로토콜을 개선할 수 있는 방법에 대해 고객에게 조언해야 합니다. 오늘날, 일부 주요 보험사들은 상호 연결된 시스템의 글로벌 재해 발생 시 기업이 데이터 유출, 침해 및 시스템 중단을 방지하기 위해 따를 수 있는 보안 절차를 권고, 제안하고 있습니다. 그러나 스마트 기기가 훨씬 더 정교해지고 잠재적으로 설정되며 제어가 어려워지는 경우에 대처해야 할 단계도 모색해야 합니다.

AI 국제 프로토콜의 마련 AI International Protocols

마지막으로, 정책 입안자들은 더욱 발전된 AI 제품과 시스템의 개발과 구현을 통제하기 위한 국제적인 신뢰와 윤리 지침을 수립해야 합니다. 자연 재해로 인한 미래의 영향을 줄이기 위해 적십자와 세계 은행과 같은 정부와 국제 기구는 피해자들을 돕는 데 필요한 파괴적인 영향과 지원에 관한 데이터를 수집하고 공유합니다. 시장조사기관 주니퍼 리서치(Juniper Research)에 따르면, 인공지능이 발전하고 연결된 사물 인터넷 장치, 센서 및 작동기의 수가 2021년에 460억 개 이상에 달함에 따라 잠재적인 스마트 장치 충격의 영향을 억제하기 위한 대응 역량이 매우 중요해 질 것으로 보고 있습니다.

약 12개의 정부, 기술 회사, 전기 및 전자 엔지니어 연구소(Institute for Electrical and Electronics Engineers) 및 세계경제포럼(World Economic Forum)과 같은 국제 조직이 상호 연결된 AI 기반 시스템 및 제품의 제어를 유지하기 위한 글로벌 AI 신뢰 및 윤리 프로토콜을 탐색, 마련하기 시작했습니다. 이러한 포럼은 지능형 장치가 유발할 수 있는 잠재적인 피해와 모범 사례의 필요성에 대한 이해를 심화하기 시작했습니다. 그러나 앞으로 훨씬 더 많은 일을 해야 합니다.

보다 지능적이고 상호 연결된 네트워크로의 세계 전환에 따라 발생할 위험을 줄이는 데 필요한 자원을 확보, 설정하는 것은 어렵고 비용이 많이 듭니다. 그러나 앞으로 우리는 이러한 대비를 하지 않을 수 없으며 세계 최악의 "100년에 한번 일어날까 말까한 폭풍(100-year storms)"에 대응한 경험은 잠재적으로 더 심각한 재난을 미리 대비하는 방법을 알아내기 위한 귀중한 출발점을 제공합니다. 기업, 보험사, 정책입안자들이 그러한 노력이 우리의 미래에 필수적인 투자임을 인식하기만 하면 됩니다.

프라샨트 간구(Prashanth Gangu)는 올리버 와이먼(Oliver Wyman) 보험 및 디지털 프랙티스 담당 파트너입니다.

번역 : 류종기

출처 : HBR 디지털 아티클

We Need to Approach AI Risks Like We Do Natural Disasters

by Prashanth Gangu February 07, 2018

https://hbr.org/2018/02/we-need-to-approach-ai-risks-like-we-do-natural-disasters