Decision Infrastructure
세계 최고의 컨설팅 회사인 McKinsey의 두뇌가 두 시간 만에 해킹당했다.
최근 헤드라인은 이 이야기로 가득하다. McKinsey 내부 인공지능 시스템 Lilli가 외부 입력을 통해 영향을 받을 수 있다는 사실이 드러났기 때문이다. 공격은 복잡한 시스템 침입이 아니라, AI가 받아들이는 질문과 맥락을 교묘하게 조정해 판단의 방향을 흔드는 방식이었다.
두 시간.
그 짧은 시간 동안, 세계에서 가장 정교한 전략과 판단을 만들어내는 조직의 사고 과정이 흔들릴 수 있다는 사실이 많은 사람들을 놀라게 했다.
영화 인셉션을 기억하는 사람들이 있을 것이다.
꿈속으로 들어가 하나의 작은 씨앗을 심어 생각의 방향을 바꾸는 이야기다.
지금 우리가 마주하는 장면은 그 비유와 크게 다르지 않다.
누군가의 생각을 직접 바꾸는 것이 아니라, 생각이 만들어지는 구조에 조용히 개입하는 방식이다.
요즘 내가 자주 떠올리는 질문도 이 지점에 있다.
부동산 가치사슬에서의 AI 리스크와 관리다.
AI를 단순한 도구가 아니라 decision infrastructure, 즉 기업 의사결정의 기반으로 보기 시작하면 이 사건이 품고 있는 의미는 훨씬 더 무겁게 다가온다.
컨설팅 회사에서 AI는 단순히 정보를 정리하는 도구가 아니다. 시장 데이터를 해석하고, 전략의 방향을 제안하며, 기업의 판단 과정에 깊숙이 참여한다. 그 판단의 기반이 되는 시스템이 외부 입력에 의해 영향을 받을 수 있다면, 문제는 기술의 취약점이 아니라 의사결정 구조 자체의 취약성이 된다.
이 질문은 컨설팅 산업에만 머물지 않는다.
건축과 도시의 영역에서도 이미 AI는 설계, 엔지니어링, 도시 계획, 그리고 건물 운영 관리에 이르기까지 조용히 스며들고 있다. 각 단계에서 AI는 계산을 돕는 도구를 넘어 판단을 형성하는 시스템으로 자리 잡고 있다.
하지만 그 속도에 비해 우리는 아직 이 보이지 않는 지능을 어떻게 관리하고 책임질 것인지 충분히 이야기하지 않았다.
도시와 인프라, 그리고 자산의 가치를 결정하는 과정에 AI가 들어오기 시작한 지금, 중요한 질문은 점점 선명해지고 있다.
AI가 얼마나 똑똑한가 가 아니라,
그 판단을 우리는 어디까지 신뢰할 수 있는가.
그리고 그 판단이 조용히 바뀌고 있다면
우리는 과연 그것을 알아차릴 수 있을까.