윈도 리콜은 왜 그리 몰매를 맞았나? 재앙의 모든 것
학습 차원에서 틈틈이 해외 전문가들이 블로그나 미디어 그리고 책에서 쓴 글을 번역 또는 요약 정리하고 있습니다. 이번 포스팅도 그중 하나고요. 거칠고 오역된 부분이 있을 수 있습니다. 제대로 번역되지 않은 부분은 확인 주시면 반영토록 하겠습니다. 의미 전달이 애매한 일부 문장은 삭제했습니다. 이번에는 DoublePulsar Kevin Beaumont가 미디엄에 올린 글을 정리한 것입니다.
나는 최근 마이크로소프트 CEO 사티아 나델라의 말을 빌리면 PC를 지속적으로 '스크린샷'을 찍어 사용자가 본 모든 것을 즉시 검색 가능한 데이터베이스로 만들어주는 마이크로소프트 윈도 11 새 기능인 코파일럿 플러스 리콜(Copilot+ Recall)에 관한 글을 썼다. 나델라의 말대로, 리콜은 PC 생활의 사진 기억이다.
표면적으로는 한 달 전에 어떤 주제에 대해 무엇을 했는지 즉시 검색할 수 있다는 점에서 할 일은 너무 많고 시간은 부족한 회사 관리자에게는 좋은 일이다.
그헣지만 실제 이러한 사용자들 요구는 Windows 사용자 중 극히 일부에 불과하며, 솔직히 경영진이 아닌 일반 사용자들에게 스크린샷을 찍으라고 말하는 것은 고객의 얼굴에 주먹을 날리는 것과 마찬가지다.
매우 신중한 커뮤니케이션, 사이버 보안, 엔지니어링 및 구현이 필요한 틈새 초기 사용자층을 대상으로 하는 흥미로운 옵션 기능이라고 생각하지만 코파일럿+ 리콜에는 이런 기능들이 없다. 이 기능을 함께 패키징하는 작업이 제대로 이루어지지 않았기 때문이다.
많은 Windows 사용자는 게임을 하고, 포르노를 보고, 실수를 저지르는 인간으로서의 삶을 살기 위해 PC를 사용하기를 원하며, 항상 기억하고 싶지 않은 실수를 저질렀는데, 기기에 액세스하는 다른 사람이 사진 메모리를 볼 수 있다는 생각은 매우 개인적인 차원에서 많은 사람들에게 매우 두려운 일이다. Windows는 개인적인 경험이다. 이것은 그 믿음을 깨뜨린다.
얼마나 제대로 구현되고 배포되지 않았기 떄문에 이것은 아마도 Copilot 브랜드 전체에 불을 지를 것이라고 생각한다. 이는 AI라는 이름으로 Microsoft가 자해 행위를 한 것이며, 대리로 실제 고객에게 피해를 입힌 것이다.
더 중요한 것은, 당시 내가 지적한 대로 이것이 Windows 보안에 대한 약속을 근본적으로 깨뜨린다는 점이다.
이제 그 이유를 자세히 설명하겠다. 일부 사람들이 이 문제를 어떻게 손사래 치는지 보는 것이 정말 흥미로워서 온라인 댓글을 바탕으로 Q&A로 구성해 보겠다.
Q. 데이터는 전적으로 노트북에서 로컬로 처리되나
A.그렇다! 여기서 현명한 결정을 내렸고, 에지에서 처리하는 Azure AI 등의 전체 하위 시스템이 있다.
Q. 해커나 맬웨어가 액세스할 수 없나?
A. 아니다. 접근할 수 있다.
Q. 하지만 암호화되어 있지 않나?
A. PC에 로그인해 소프트웨어를 실행하면 암호가 해독된다. 미사용 시 암호화는 누군가 집에 와서 물리적으로 노트북을 훔쳐갈 경우에만 도움이 되며, 범죄자들은 이러헥 하지 않는다.
예를 들어, 사용자 이름과 비밀번호를 자동으로 훔치는 InfoStealer 트로이목마는 10년 넘게 큰 문제가 되어 왔지만 이제는 Recall을 지원하도록 쉽게 수정할 수 있다.
Q. 하지만 BBC는 해커가 원격으로 데이터에 액세스할 수 없다고 하는데?
A. Microsoft의 말을 인용한 것이지만 이는 잘못된 정보다. 데이터는 원격으로 액세스할 수 있다.
Q. Microsoft는 해당 사용자만 데이터에 액세스할 수 있다고 말한다.
A. 이는 사실이 아니며, 동일한 디바이스에서 다른 사용자 계정이 데이터베이스에 액세스하는 것을 보여줄 수 있다.
Q. 어떻게 작동하나?
A. 몇 초마다 스크린샷이 찍힌다. 이러한 스크린샷은 Azure AI에 의해 자동으로 OCR되고 디바이스에서 실행되며 사용자 폴더에 있는 SQLite 데이터베이스에 기록된다. 이 데이터베이스 파일에는 사용자가 PC에서 본 모든 내용이 일반 텍스트로 기록된다. OCR은 이미지를 보고 문자를 추출 프로세스다.
Q. 데이터베이스 파일은 어떻게 획득하나?
A. 새로운 CoreAIPlatform 폴더 AppData에 있는 파일이다.
Q. 하지만 고도로 암호화되어 있어 아무도 접근할 수 없지 않나/
A. 다음은 두 명의 Microsoft 엔지니어가 폴더에 액세스하는 몇 초 분량의 동영상이다.
Q. ...하지만 일반 사용자는 관리자로 실행하지 않는다!
A. Microsoft 자체 웹사이트 리콜 출시 페이지에 따르면 관리자로 실행할 수 있다. 사실, 관리자가 아니어도 데이터베이스를 읽을 수 있다.
Q. 하지만 해당 동영상에서 UAC 프롬프트가 표시되었는데, 이는 보안 경계( security boundary)다.(보안 경계는 시스템 간 보안 통제를 정의하며, 이를 통해 불법적인 접근이나 데이터 유출을 방지하고 시스템의 보안을 유지한다)
A. Microsoft 자체 웹사이트(및 MSRC)에 따르면 UAC는 보안 경계가 아니다.
Q. 그럼... 여기에서 보안은 어디에 있나?
A. 그들은 여러 가지를 시도했지만 큰 허점이 있어 실제 세계에서 제대로 작동하는 것은 없다.
Q. 금융 정보 같은 것은 자동으로 스크린샷을 찍거나 OCR을 하는건 아니지 않나?
A. 아니다
Q. 데이터베이스 크기는 어느 정도인가?
A. 압축이 잘 되어 며칠 작업하면 약 90KB 정도다. 평균적인 광대역 연결로 몇 개월 분량 문서와 키를 몇 초 안에 추출할 수 있다.
Q. 검색 속도는 얼마나 빠른가?
A.기기에서는 매우 빠르다.
Q. 직접 리콜 데이터베이스를 추출해 본 적이 있나?
A. 그렇다. 데이터베이스를 업로드하고 즉시 검색할 수 있는 웹사이트를 만들어서 자동으로 추출하고 있다.
Microsoft가 이 기능을 출시할 때까지 기술적인 세부 사항은 일부러 보류하고 있다.
사실 나는 보여줄 것이 많아서 이 기능이 일반에 공개되면 더 많은 사이버 커뮤니티가 정말 재미있게 사용할 수 있을 거라고 생각하지만, 실제 피해가 발생할 수 있기 때문에 정말 안타까운 일이라는 생각도 든다.
Q. 데이터베이스에는 어떤 것들이 있나?
A. 사용자가 지금까지 본 모든 것이 애플리케이션별로 정렬돼 있다. 일부 사소한 예외를 제외하고 사용자가 본 모든 텍스트(예: Microsoft Edge 비공개 모드는 제외되지만 Google Chrome은 제외되지 않음), 모든 사용자 상호 작용(예: 창 최소화), 사용자 활동을 위한 API가 있으며, 타사 앱을 연결해 데이터를 보강하고 스토어 데이터도 볼 수 있다. 타사 앱이라도 사용자가 방문한 모든 웹사이트를 저장한다.
Q. 이메일/WhatsApp/Signal/Teams 메시지를 삭제하면 리콜에서 삭제되나?
A. 아니다., 데이터베이스에 무기한 보관된다.
Q. 메시징 앱에서 메시지를 자동 삭제하면 리콜에서 삭제되나?
A. 아니다. 리콜에서 스크랩되어 계속 사용할 수 있다.
Q. 해커가 내 PC에서 코드를 실행할 수 있는 액세스 권한을 얻으면 이미 게임은 끝났나!
A. 정보 탈취 프로그램 같은 것을 실행하면 현재로서는 자격 증명 저장소 같은 것을 자동으로 스크래핑한다. 해커는 피해자가 너무 많기 때문에 모든 피해자를 건드리지 않고 스크래핑해 온라인 마켓플레이스에서 재판매한다. 리콜을 사용하면 위협 공격자가 몇 초 안에 사용자가 본 모든 것을 자동으로 스크레이핑할 수 있다.
상용 인포스틸러로 테스트하는 동안 엔드포인트용 Microsoft Defender를 사용하여 상용 인포스틸러를 탐지했지만 자동화된 수정이 시작되었을 때(10분 이상 소요됨) Recall 데이터가 이미 오래 전에 사라진 상태였다.
Q. 웹 사이트에 있는 대량 데이터 유출이 가능한가?
A. 그렇다. 다음에 고객 데이터가 유출된 대규모 데이터 유출 사고가 발생하면 데이터를 처리하는 회사에 잘못이 있다고 추정하게 되겠지? 하지만 사람들이 서비스/앱 등에 액세스하기 위해 리콜 기능이 있는 Windows 디바이스를 사용했다면, 해커는 서비스를 운영하는 회사도 모르게 모든 것을 보고 데이터 덤프를 수집할 수 있다. 데이터는 이미 공격자를 위해 Recall 데이터베이스에 일관되게 구조화되어 있다. 따라서 AI 기반 슈퍼 침해에 대비하라. 현재 도난당한 암호를 구입할 수 있는 기밀 마켓플레이스가 존재하지만, 곧 Microsoft에서 이를 위한 전체 코드를 Windows에 사전 설치하여 활성화했기 때문에 보험 회사 등에서 도난당한 고객 데이터를 구입할 수 있게 될 것이다.
Q. Microsoft가 코파일럿 보안에 대해 BBC를 오도한 건 아닌가요
A. 그렇다.
Q. Microsoft가 Copilot 보안에 대해 고객을 오도한 적이 있나?
A. 그렇다. 예를 들어, 그들은 이 기능을 선택적 경험이라고 설명하지만 기본적으로 활성화되어 있으며 사람들이 선택적으로 비활성화할 수 있다. 이는 말장난이다. Microsoft CEO는 제품에 대한 인터뷰에서 "스크린샷"을 언급했지만 제품 자체는 "스냅샷"을 의미할 뿐이며 스냅샷은 실제로 스크린샷이다. 어떤 이유로든 다시 한 번 말장난이다. Microsoft는 고객이 정보에 입각한 선택을 할 수 있도록 이것이 무엇인지 명확하게 설명해야 한다.
Q. 리콜은 하나의 하드웨어 디바이스에만 적용되나?
A. 사실이 아니다. 현재 모든 주요 제조업체에서 10개 Copilot+ 디바이스를 주문할 수 있습니다:
Microsoft 웹사이트에 따르면 마이크로소프트는 AMD 및 Intel 칩셋에 대한 지원을 위해 노력 중이다. 리콜은 Windows 11에서 제공될 예정이다.
Q. 리콜을 비활성화하려면 어떻게 하나?
A. 호환되는 Copilot+ 디바이스 초기 디바이스 설정에서 리콜을 비활성화하는 옵션을 클릭해야 한다. 엔터프라이즈에서는 기본적으로 리콜이 활성화되어 있으므로 리콜을 해제해야 한다.
Q. 개인 정보 보호에 어떤 영향을 미치나? GDPR에 위배되지 않나?
A. 내가 만난 개인정보 보호 담당자들은 가정 폭력 등의 상황에서 가정에 미칠 영향에 대해 매우 우려하고 있다고 말하고 싶다. 물론 기업 관점에서 볼 때 조직은 이와 같은 고객 데이터 처리 위험을 절대적으로 고려해야 한다. Microsoft는 데이터 처리자로서 책임을 지지 않으며, 사용자 디바이스에서 에지에서 수행되므로 여기서 책임은 사용자에게 있다.
Q. 이것이 정말 생각만큼 해로운가?
A. 부모님 집, 조부모님 집 등에 가서 Windows PC를 살펴보고 지난 1년간 설치된 소프트웨어를 살펴본 후 장치를 사용해 보라 바이러스 백신 검사를 실행하라. 1조 달러 규모 보안 산업이 존재하고 대부분의 문제가 멀웨어와 엔드포인트를 중심으로 발생하는 데에는 그만한 이유가 있다.
Q. Microsoft는 어떻게 해야 하나?
A. 내 생각에는 Recall을 리콜하고 추후에 제대로 된 기능으로 재작업해 제공해야 한다고 생각한다. 또한 이런 일이 발생해서는 안 되므로 이러한 상황을 초래한 내부 의사 결정에 대해서도 검토해야 한다. 이달 초 Microsoft CEO는 모든 직원에게 이메일을 보내 "보안과 다른 우선순위 사이 절충안에 직면한다면 답은 분명하다: 보안을 하라"고 말했다. 이 이메일에 대해 그가 진심인지 알아볼 것이다. 지금 당장 타격을 감수하고 겸손하게 파이를 먹어야 할지, 아니면 Copilot과 보안 브랜드에 대한 고객의 신뢰를 위험에 빠뜨릴지 결정해야 한다.
솔직히 리콜이 즉시 제공되지 않는다고 울부짖을 고객은 거의 없지만, Microsoft가 아무것도 하지 않거나, 제품을 배송하거나, 약간 땜질하거나, 언론에서 문제를 둘러싸고 말장난을 하는 것이라면 고객은 심각하게 우려할 것이다.
