AI 산업에 대한 초지능적 규제
행복한 사설 읽기 (13)
아래의 글은 2023년 5월 8일 자 Financial Times의 The FT View(Title: AI needs superintelligent regulation)를 읽고 들풀생각 틀로 바꾼 것입니다.
저작권법의 준수를 위하여 원문 또는 번역문을 게재하지 않고 있사오니 궁금한 사항은 댓글로 남겨 주시면 답을 드리도록 하겠습니다.
2023년 4월 30일에 AI와 함께 즐기며 사는 법이라는 주제로 내 생각을 써서 올렸다. 다행히, 그날 올린 내용에다가 오늘 자 The FT View의 주장을 보태면 어느 정도 AI시대를 살아가는 나의 태도가 정립될 것 같다.
한 시대의 문화적 소산에 공통되는 인간의 정신적 태도나 양식(樣式) 또는 이념을 시대정신(時代精神 , Zeitgeist)이라 한다. 잘은 모르겠지만, 21세기의 시대정신을 정확히 짚어 내고 이를 잘 활용하려면 우선 자본의 운동법칙(The Laws of Motion of Capital)과 더불어 Artificial Intelligence의 역할과 한계 또한 철저히 탐구해야 할 것 같다.
아래에서는 오늘 일자 The FT View의 AI 산업의 규제방안에 대하여 간추린다.
강력한 인공지능시스템(powerful artificial intelligence systems)은 우리 사회에 큰 효익을 제공한다. 또한, 중대한 전 세계적인 몇 가지 문제를 다루는데 도움을 준다.
기계학습 모델(Machine Learning Model)은 질병을 진단하고 과학적 연구를 촉진시키며 경제적 생산성을 증가시키고 전력망에 전류량을 최적화시킴으로써 에너지 사용량을 감소시키는 등 산업계 전반에서 이미 중요한 역할을 하고 있다.
그러나, 이러한 신기술에 대하여 인류가 반발을 하여 문명의 이기로 얻어낸 이익이 위험에 빠진다면 이것은 인류에게는 곧 비극이 될 것이다. 그러나, 지난달 Google사에서 물러난 AI의 대부 (godfathers of AI)인 Geoffrey Hinton는, 불공정한 차별, 허위 정보 그리고 사기와 같은 영역에서 여러 반발위험이 증가하고 있다고 경고했다.
어쨌든, 아래가 이 글의 결론이다.
그러므로, 각국의 정부는 AI기술을 적정성과 비례성의 원칙을 바탕으로 테크 산업을 효율적으로 규제하도록 신속히 대응하는 것이 매우 중요하다.
결론적으로 자동차라는 것은 효과적인 브레이크 시스템을 장착할 때 코너를 잘 돌 수 있는 것과 마찬가지로 효과적인 규제제도의 마련이 혁신 산업을 빨리 발전하게 할 수 만들 것이다.
단계별 대응책을 살펴본다.
제1단계는 테크 산업은 투명성(transparency), 책임성(accountability) 그리고 공정성(fairness)에 대한 일반 원칙(common principles)을 따르고 실행하도록 하는 것이다. (특히, 관련 회사는 chatbot가 인간의 행세를 하지 못하도록 해야한다.)
제2단계는 고용법(employment law), 금융 및 소비자 시장(financial and consumer markets), 경쟁정책(competition policy), 정보보호(data protection), 프라이버시(privacy), 인권(human rights)과 같은 분야의 감독 당국자들은 현행법(existing rule)을 개정하여 AI가 초래하는 특수위험을 반영하도록 만들어야 한다.
제3단계는 정부관계 기관과 대학에서는 자체적인 전문기술의 수준을 높여 AI의 산업 장악력 위험(the risk of industrial capture)을 줄이도록 노력해야 한다.
또한, 이상의 세 단계를 뛰어넘는 중요한 규제제도를 고려해야 한다.
우선, 예방책의 차원에서 인류의 생사가 걸린 분야, 즉 헬스케어(healthcare), 재판 제도(the judicial system), 군사분야(the military) 등은 AI의 사용 전 사전 승인이 필요하고,
다음으로, 항공산업과 같이 사고 관리의 통제를 바탕에 두는 규제제도를 마련해야 한다.
특히, 자율주행과 같이 소비자가 직접 직면하는 AI모델에서 치명적인 결함이 발견될 때는 국제항공당국이 위험이 탐지될 때, 제조사와 항공사 모두에 대하여 수정명령을 내릴 수 있는 것과 같은 방식의 규제제도를 갖추는 것이 필요하다.
