인공지능과 법
가족식사를 하러 가다 지하철 중고서점에서 책을 구매했다. 나름 인공지능과 자동화란 개념을 잘 이해하고 있는 편이라 생각하지만 법률은 조금 다른 경우가 많다. 법을 사회의 최저 수준의 마지막 양심이라고 말할 수 있다. 그 바닥을 뚫고 내려가면 혼난다는 말로 이해한다. 그러나 기업은 혁신, 도전, 성장, 미래비전, 지속가능성을 우선으로 하고 ESG와 같은 포괄적 업철학과 도덕성은 규제하고 생각한다. 왜냐하면 바닥을 보는 것이 아니라 하늘이나 천정을 보기 때문이다. 국제계약을 하다 보면 실무진은 법을 모르고, 법무팀은 실무를 모르니 협력이 중요한데 하다 보면 가관인 경우가 부지기수다.
책을 사서 법조인도 아니고 법학전공도 아니지만 자율주행과 관련된 부분을 읽어 보기로 했다. 왜냐하면 기술의 발전인 사람들의 욕망을 자극한다면, 제도의 변화는 하나의 절제이자 안전을 위한 방향에 영향을 준다. 그것이 곧 행동양식과 문화의 변화를 다지기 때문이다.
차량은 상용차(버스, 택시, 트럭)를 제외하면 대부분 2시간 이내 주행을 한다. 자율주행이 완성되면 차량의 구매가 서비스 형태로 변경된다는 생각만 했지, 정부 세수수입이 준다는 생각은 안 해봤다. 분야에 따른 관점은 이렇게 다르구나 그런 생각이 든다.
현재 자동차 법규는 자동차, 운전자, 도로의 3 요소가 핵심이고 이에 대한 자격, 규제등이 법률로 포함되어 있다. 책이 ChatGPT전의 책이지만 현행법의 테두리를 이해해 보는 것은 기술발전과 그 사이에 틈이 생긴다는 말이다. 그 틈을 제도는 바닥을 채워 다진다. 최근 온 나라가 시끄러운 개인정보 유출문제와 같은 사항을 보완하고, 기업은 높아진 바닥을 감안하며 더 높은 곳을 도전하게 된다. 그래야 사람들이 안전하기 때문이다.
결국 자율주행이 된다면 운전자라는 핵인 요인이 변화하고, 자동화된 기계에 대한 최소한의 바닥은 무엇인가, 이를 위해서 무엇을 추가해야 할 것인가를 고민할 수밖에 없다. 포괄적으로 통신을 들고 있지만 개인적으로 생각이 좀 복잡하다.
움직이지만 하드웨어와 소프트웨어의 제조사가 같은 것이 아니기 때문이다. 잘 만들어진 하드웨어도 인공지능을 이용한 감지 시스템의 명령으로 움직이는 것이기 때문이다. 따라서 책임을 제조물책임법으로만 규제하는 것은 한계가 있다. 미래에 인프라스트럭쳐, 차량 간 통신등이 되어 자율주행이 된다면 더 문제가 심각해진다. 자동화된 교통신호 체계, 잘못된 도로 표지판의 문제는 일단 정부 책임이라고 할 수 있다. 카메라로 인식하는 테슬라 자동차에서 카메라가 망가졌다면 이것도 심각한 문제다. 서버처럼 나중에 이중화가 될지 모르겠지만. 그런데 카메라도 정상인데 인공지능의 명령이 오작동을 일으킨다면 이건 소프트웨어의 문제이기 때문이다. 차량과 플랫폼 소프트웨어는 멀쩡한데 통신이 끊어져서 문제가 발생한다면 이건 통신사의 문제가 아닌가? 법률 서적은 이를 세분화해서 구분하지 않는 듯하고, 기술적으로도 이를 구분할 기준이 명확하지도 않다. 이런 모호한 지점이 기회와 위험을 주는 것이 사실이다.
정보보호와 관련해서 책에서는 차량과 차량이 정보를 교환할 때 개인정보의 동의 절차를 현행법 기준으로 설명하고 있다. 대신 익명성 데이터의 활용을 고려해 볼 부분이다. 많은 정보통신 기업들이 이를 과도하게 확보하려고 해서 문제가 되는 것이 아니라 최근의 사건처럼 관리부실로 그 익명정보뒤의 실명정보를 노출시켜서 큰 문제를 만든다. 사실 네트워크에 익명성은 없다고 생각한다. 그렇게 믿도록 착각하게 만들 수밖에 없는 구조적 한계다. 다들 ID 만들 때에는 실명을 넣고 만들고, ID를 통해서 익명성을 확보한 것 같지만, 문제가 되면 공권력은 ID의 주인을 찾기는 일도 아니다. 다만 공권력을 제외하고 익명성을 확장시킨 개념이자 최소한의 보호조치다. 나중에 자율주행이 되면 차량에 고유 ID가 붙고 추적도 될 수밖에 없다는 생각을 하게 된다. 그런데 이런 문제보다 해킹과 같은 cyber security는 더 복잡한 문제다. 누군가 차량회사 소프트웨어 플랫폼을 해킹해서 모든 차량을 38선을 향하게 한다거나 누군가를 공격할 수도 있는 가능성이 없다고 아무고 보증하지 못한다. 무엇보다 인간이 만든 열쇠 중에 안 풀리는 것이 있는가?(시간이 오래 걸릴 수 있다. 양자 컴퓨터가 나오면 또 모른다) 세상에 기술발전과 사업을 하는데 자꾸 국가안보가 나올 수밖에 없는 일이 일리가 없는 것이 아니다. 이런 문제가 없다면, 개인정보 불과 20세기만 해도 신경도 안 쓰던 문제 아닌가?
구글에 인수된 Mandiant란 회사와 cyber security관련 일을 3년 정도 해봤는데 기가 막히게 일을 잘했던 것 같다. 쉽게 해킹이란 46인승 버스에 갑자기 100명이 몰려와서 우르르 몰려 타면 누가 태킹하고 버스값을 냈는지 안 냈는지 알기 어렵다. 나이 든 사람들이 토큰이나 승차권을 낸 경험이 있다면 훨씬 잘 이해할 것이다. 디도스도 다들 잘 알겠지만 서버에만 가능한 게 아니다. 영화처럼 패스워드를 착착 찾아서 하는 경우보단 전자기기를 맛을 보내서 쓱 입장하는 것과 다름이 없다. 문제는 테스트를 해주는데 정식 인증이나 승인 절차는 해주지 않는다. 본인들도 뭔 일이 생길지 알 수 없기 때문이다. 결국 고객과 여기서 긍정적인 결과가 나왔다로 합의를 본 기억이 있다. 여기 말고도 퀄컴 사이버 시큐리티 협력 기업도 해봤는데 여기는 매주 테스트 방식도 다르다. 화이트 해커를 고용해서 해커 맘대로 뚫어보는 방식이다. 이걸 맞춰서 하기가 너무 어려워서 Mandiant로 했는데 문제는 계약이다. 책의 말처럼 PL 법(제조물 책임) 조항이 온 것은 잘 이해가 된다. 그런데 보험조건이 하나 더 붙었다. Cyber Security보험으로 이 금액이 PL 법의 4배 수준정도로 기억된다. 그 결과가 너도 모르고 나도 모르니 사업규모에 맞춰 최대한으로 요청한다. 그런 일이 벌어지진 않았지만 기계 만든 회사, 프로그램 만든 회사, Cyber Security검증회사, 보험회사 등등 누가 책임을 져야 하는지 아주 머리 아픈 문제가 현행법 기준으로 만들어질 가능성이 높다는 생각을 하게 된다.
이런 경험을 차량과 함께 생각해 보면 더 문제 가능성이 많다. 차량은 차량 제조사에서 만들고, 자율주행 플랫폼은 전문 소프트기업이 만드는 경향이 많다. 자율주행의 기준도 없는데, 통신과 해킹이 문제가 된다면 제조물 책임상으로는 차량회사가 갖고, 구상권을 다시 플랫폼 소프트웨어 회사에 청구해야 하는데 입증이 잘 될는지 모르겠다. 지식의 불균형이 존재하기 때문이다. 당장 급발진만 해도 '우린 문제가 없다'는 주장, 전문가들의 '그런 일은 불가능하다'라는 말이 권위를 갖기 때문이다. 그런데 문제란 현상은 나오고, 전문가들이 해결도 못한다. 인간이 만든 것 중 완벽이란 없다는 반증만 하고, 법적 책임회피가 심하다. 누구도 거대한 책임으로 인증을 못하고 책임을 안 지려고 한다면 할 곳은 국가뿐인가? 이런 부분은 중국이란 일당체제가 유리하다는 생각을 하게 된다.
책의 말처럼 인간은 운전의 영역에서 밀려나고, 운행 또는 탑승자의 역할이 방향으로 가고 있다. 나중에 자율주행이 기본이 되면 면허를 딸 필요가 있나? 차량탑승권도 아니고. 세상의 격변은 이런 기술발전보다 법의 체계는 아주아주 느리게 변화할 수밖에 없다는 사실이다. 이 공간이 기회가 되는 것은 새로운 사업과 시장 지배력을 확보할 틈을 준다. 반면 법의 공백이 사람들에게 큰 피해를 줄 수도 있다. 제도의 변화는 세상 사람들이 널리 이롭게 된다는 홍익인간 정신을 바탕으로 현행 법체계가 받아들여야 한다. 그러려면 관련 현장을 잘 이해해야 한다. 그것이 아니면 자주 경험하는 실무처럼 법무팀은 거래관계, 상황 고려 없이 무조건 예전에 하던 대로 해야 한다는 개소리를 하게 되고, 실무는 계속 이렇게 해왔으나 향후 이렇게 바꿀 테니 법무팀이 거기에 맞게 조정하라는 피해를 키우는 형태로 또 다른 개소리를 할 수 있기 때문이다. 완급조절과 사전준비가 필요한 시대가 아닌가 한다. 결국 차량, 인공지능 플랫폼 소프트웨어의 제조물 책임, 통신, 도로시스템 등 자율주행 참역자의 역할과 책임으로 확장될 수밖에 없다. 갈수록 어렵고 복잡해지는 것은 사실이지만 또 갈수록 적응하고 단순화될 것이다. 그 기간이 너무 멀지 않고 안전하고 모두에게 이익이 되는 방향이 되길 바란다. (그럼에도 분명 세상 또라이의 악용이 나오는 걸 막을 순 없다. 이건 인간의 문제다)