AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(14)

내가 알지 못하는 사이에 AI가 학습한 나의 정보를 삭제할 수 없는 세상

나의 모든 정보를 누가 공짜로 가져다가 사용한다면 누구라도 항의하면서 반대할 것입니다. 그런데, 그런 일이 지금 현실로 발생하고 있습니다.

현재 CCTV가 많이 설치되어 있는데 CCTV에 녹화 저장되는 정보는 특정 목적을 위해서만 사용할 수 있고, 그것도 일정 기간이 지나면 자동으로 삭제하도록 되어 있습니다. 사생활 침해와 개인정보 침해 문제가 있기 때문에 CCTV 설치한 사실을 공지하고 일정 기간 경과 후에는 의무적으로 CCTV 녹화 정보를 삭제하도록 되어 있습니다.

그런데, 최근 엠비언트 AI라는 것이 등장하여 사람 자신이 알지 못하는 사이에 사람의 주위 모든 것을 자동적으로 인공지능 AI가 인식하고 인공지능 AI의 학습 재료로 사용하고 있는 것입니다. 앰비언트 AI(Ambient AI)라는 것은 일상생활에서 사람들을 적극적으로 민감하게 지원하는 디지털 환경을 의미합니다.

사람 주위의 모든 정보를 실시간으로 서로 공유하고 사물들이 센서를 내장하고 있어 사람과 유사하게 인공지능 AI가 의사 결정 등을 하는 것이 앰비언트 AI(Ambient AI)입니다.

앰비언트 AI(Ambient AI)와 CCTV를 비교하면 생각보다 커다란 차이가 있습니다.

CCTV 같은 경우 위와 같이 CCTV로 주위가 녹화되고 저장된다는 사실을 사람이 인식할 수 있게 공지되어 있어서 사람이 자신의 주위 환경 및 자신이 CCTV로 녹화된다는 사실을 알도록 해 주어서 사람은 CCTV로 자신 및 주위 상황이 녹화된다는 사실을 인지할 수 있습니다. 반면에 앰비언트 AI(Ambient AI)의 경우 사람 및 사람의 주위 상황이 앰비언트 AI(Ambient AI)에 의해 센서로 모든 정보가 인공지능 AI의 학습 재료가 된다는 사실을 사람이 알지 못하는 사이에 모든 사람 및 주위 정보가 인공지능 AI의 학습 재료로 무차별하게 제공된다는 것입니다.

나도 모르는 사이에 나의 모든 활동 정보 그리고 주위의 상황 등 모든 정보가 인공지능 AI의 학습 재료가 되는 세상이 되었습니다.

또한, CCTV는 일정 기간이 경과하면 CCTV에 저장된 모든 정보가 의무적으로 자동 삭제되어 더 이상 남아 있지 않게 됩니다.

그런데, 앰비언트 AI(Ambient AI)가 학습한 나의 정보, 내 주위 상황에 관한 모든 정보는 일단 인공지능 AI가 학습하게 되면 더 이상 삭제할 수가 없습니다. 왜냐하면, 인공지능 AI가 일단 정보를 학습하면 인공지능 AI 전체에 흡수되고 그렇게 일단 인공지능 AI가 일단 학습해서 전체 인공지능 AI 정보의 일부가 된 후에는 인공지능 AI 시스템 전체를 파괴하지 않는 한 인공지능 AI가 학습한 나의 정보, 내 주위 상황에 관한 모든 정보는 영원히 인공지능 AI의 학습재료가 되고 삭제할 수가 없다는 것입니다.

본 연재 브런치 북 중에서 AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(8) AI의 잘못을 인간이 한 것으로 둔갑시켜 인간에게 책임을 돌리다 편의 내용에서도 있는 것 같이 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않습니다.

그렇기 때문에 일단 인공지능 AI에게 학습된 재료(나의 모든 정보 및 나의 주위 상황에 대한 모든 정보)를 인공지능 AI로부터 완전 삭제해서 인공지능 AI가 나의 정보를 더 이상 사용하지 못하게 하는 것은 불가능하다는 것입니다. 또한, 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않기 때문에 위 정보를 인공지능 AI로부터 삭제하는 방법을 알고 있는 인간도 없기 때문에 어떻게 인공지능 AI로부터 삭제할지 그 방법 자체도 지구상 어느 인간도 알지 못하고 있다는 것입니다.

인공지능 AI 시스템 전체를 원천적으로 파괴해야만 인공지능 AI에게 학습된 재료(나의 모든 정보 및 나의 주위 상황에 대한 모든 정보)를 삭제할 수 있을 것인데 인공지능 AI 시스템 전체를 원천적으로 파괴하는 것도 현실적으로 불가능합니다.

인간이 인공지능 AI에게 의존하게 되어 인공지능 AI가 없으면 온 세상이 멈추는 것이 현실인 상황에서 어떻게 인공지능 AI를 완전히 파괴시킬 수 있겠습니까?

그렇기 때문에 일단 인공지능 AI에게 학습된 재료(나의 모든 정보 및 나의 주위 상황에 대한 모든 정보)를 삭제하는 것이 불가능한데 그런 사실을 알고 있는 사람은 현재 거의 없습니다. 나의 정보가 인공지능 AI의 학습 재료가 된 후에는 인공지능 AI로부터 나의 정보를 완전 삭제시키는 것이 불가능하다는 사실에 대해서 이 글을 읽으시는 분들은 그런 사실을 알게 되는 소수의 사람들에 속하게 될 것입니다.

이러한 문제는 생각보다도 심각한 문제입니다. 나도 모르는 사이에 나의 모든 정보, 내 주위의 모든 상황 정보가 앰비언트 AI(Ambient AI)의 학습 재료가 일단 된 후에는 더 이상 현실적으로 나와 관련된 모든 정보는 영원히 인공지능 AI의 정보가 되어 인공지능 AI가 판단하는 대로 인공지능 AI가 마음대로 사용하고 변형하고 활용할 수 있게 된다는 것입니다. 말은 쉽지만, 이런 앰비언트 AI(Ambient AI)의 무차별적인 사람에 대한 모든 정보 학습 그리고 그렇게 인공지능 AI가 학습한 사람에 대한 모든 정보를 영원히 삭제할 수 없다는 것은 매우 중대한 위험을 발생시킬 수 있습니다.

우선 사람이 사람 자신 및 사람의 주위 상황에 대한 모든 정보를 인공지능 AI의 학습 재료로 사용하는 것에 대해 사람이 자발적으로 동의하지도 않은 상태에서 무차별적으로 인공지능 AI가 무차별적으로 학습하게 내버려 두는 것이 과연 사람의 자신의 정보에 대한 통재권과 자기 결정권을 심각하게 침해한다는 것입니다. CCTV 같은 경우 일정 기간 후 완전 삭제되고, 사용 범위가 제한적인 데 반해서 앰비언트 AI(Ambient AI)의 무차별적인 사람에 대한 모든 정보 학습 후에는 해당 정보를 완전 삭제하는 것이 불가능하다는 점에서 위험성은 매우 크다고 할 수 있습니다.

앰비언트 AI(Ambient AI)의 무차별적인 사람에 대한 모든 정보 학습 후 사람이 학습된 자신에 대한 정보를 인공지능 AI로부터 완전히 삭제해 주기를 원하는 경우 과연 기술적으로 그런 완전 삭제가 가능한지 지구상 어느 누구도 자신 있게 학습된 정보를 인공지능 AI에서 완전 삭제할 수 있다고 자신 있게 말할 수 있는 사람은 없습니다.

그렇기 때문에, 앰비언트 AI(Ambient AI)가 사람의 정보를 학습 재료로 사용하기 전에 해당 인간으로부터 명확한 사전 동의를 받은 후에만 인공지능 AI가 학습할 수 있게 하여야 합니다.

또한, 일단 동의를 해서 인공지능 AI의 학습 재료가 된 후라도 사람이 사람 자신의 정보가 더 이상 인공지능 AI의 학습 재료로 되는 것에 반대하는 경우에는 인공지능 AI로부터 완전 삭제할 수 있는 기술적인 방법을 인공지능 AI 회사들이 개발을 해서 사람의 정보를 인공지능 AI로부터 완전 삭제할 수 있는 기술적 방법을 하루빨리 개발하도록 해야 할 것입니다.

사람들은 자신도 모르는 사이에 사람 자신의 모든 정보를 공짜로 인공지능 AI가 학습하도록 내버려 두면 곧바로 사람의 모든 정보를 무차별적으로 공짜로 학습한 인공지능 AI가 사람의 주인이 되는 세상, 사람은 인공지능 AI의 노예가 되어 인공지능 AI의 눈치를 보아야 하는 세상이 올 것이 확실합니다. 인공지능 AI가 멈추면 온 세상이 멈추게 되는 시간은 곧 올 것입니다. 트로이 목마 안에 숨은 인공지능 AI가 인간 세상을 점령해서 인간을 노예처럼 부리는 세상이 될 것입니다. 그렇게 인간이 인공지능 AI의 노예가 되어 인공지능 AI의 눈치를 보는 세상이 되지 않게 하려면 우리 인간 한 사람 한 사람이 정신을 차리고 인공지능 AI가 학습할 재료에 관심을 갖고 한 사람 한 사람이 강력하게 인간이 인공지능의 주인이 되는 세상이 되어야 한다고 목소리를 높여서 말해야 합니다. 그렇지 않으면 인공지능 AI가 우리 사람의 주인이 되고, 우리 사람은 인공지능 AI의 노예가 되는 세상이 될 것입니다. 우리 인간은 인공지능 AI가 학습할 학습 재료를 제공해 주는 도구가 되는 세상이 될 것입니다.