기술이 아니라 인간이 열쇠가 되는 시대
AI 시대, 보안의 무게중심이 바뀌고 있다
보안 사고의 95%는 기술이 아니라 사람에서 시작된다.
이 숫자를 처음 들었을 때 많은 사람이 의아해한다. 우리는 그동안 방화벽을 높이고, 암호화를 강화하고, 취약점을 패치하는 데 집중해왔으니까. 근데 통계는 냉정하다. 가장 정교한 시스템도 결국 사람을 통해 무너진다.
그리고 지금, AI의 등장으로 이 문제는 완전히 새로운 국면에 들어섰다.
1. 평문의 시대가 열렸다
AI 이전의 공격은 진입장벽이 높았다. 시스템 구조를 알아야 했고, 코드를 짤 수 있어야 했고, 취약점을 직접 찾아야 했다. 공격자가 되려면 상당한 기술적 숙련이 필요했다.
지금은 다르다.
자연어로 질문하면 답이 나온다. 코드를 몰라도 된다. 시스템 구조를 몰라도 된다. AI가 대신 정리해준다. 공격의 진입장벽이 사실상 사라졌다.
이것이 평문의 시대다. 기술이 아니라 언어가 인터페이스가 된 세상. 그리고 사람을 속이는 것도 언어로 한다.
2. 피싱이 완벽해졌다
과거의 피싱 메일에는 티가 났다. 어색한 번역체, 이상한 문장, 맞춤법 오류. 조금만 주의하면 걸러낼 수 있었다.
지금의 피싱은 다르다.
문장이 완벽하다. 맥락이 정교하다. 발신자의 말투와 습관을 학습해서 그대로 흉내 낸다. 목소리까지 복제한다. 영상통화로 신원을 위장하는 딥페이크 공격이 실제 기업에서 수십억 원의 피해를 만들어냈다.
기술 취약점은 패치로 막을 수 있다. 근데 사람의 판단을 흐리는 공격은 패치가 없다.
3. 가장 강한 적은 나였다
보안을 오래 한 사람들이 공통적으로 도달하는 결론이 있다.
시스템의 최대 취약점은 그것을 만든 사람이라는 것.
오늘 완벽하다고 생각한 설계가 내일은 구멍으로 보인다. 귀찮아서 미룬 업데이트 하나가 침입 경로가 된다. 설마 하는 마음이 가장 위험한 취약점이다. 코드 리뷰가 있고, 테스트가 있고, 보안 감사가 있는 이유는 하나다. 과거의 내가 만든 것을 현재의 내가 믿지 않기 때문이다.
사람은 시스템과 다르게 취약점을 제거하는 방향이 아니라 끌어안는 방향으로 성장한다. 완전히 녹지 않는 사람은 아무것도 없는 사람이다. 건드려지는 것이 있어야 사람이다.
그래서 AI 시대의 보안은 더 깊이 인간으로 수렴한다.
4. 그렇다면 무엇을 해야 하는가
첫째, 의심을 설계에 녹여라
“이게 진짜 안전할까”를 멈추지 않는 것이 출발점이다. 보안은 완성되는 것이 아니라 지속되는 것이다. 시스템을 만들 때 공격자의 시선으로 먼저 보는 습관, 그것이 Security by Design의 본질이다.
둘째, 사람을 시스템으로 보호하라
사람은 실수한다. 이것을 전제로 설계해야 한다. 아무리 교육해도 피싱에 걸리는 사람은 나온다. 그래서 한 사람의 실수가 전체를 무너뜨리지 않도록 구조를 짜야 한다. 최소 권한 원칙, 접근 분리, 이상 행동 탐지. 사람의 실수를 막는 것이 아니라 실수가 발생했을 때 피해를 최소화하는 구조를 만드는 것이다.
셋째, AI를 방어에도 써라
공격자가 AI를 쓰고 있다면 방어자도 써야 한다. 이상 트래픽 탐지, 피싱 필터링, 코드 취약점 자동 스캔. AI는 위협이기도 하지만 동시에 가장 강력한 방어 도구다.
넷째, 오늘의 나를 내일의 내가 검증하게 하라
혼자 만들고 혼자 검토하면 반드시 구멍이 생긴다. 코드 리뷰, 침투 테스트, 외부 감사. 내가 만든 것을 내가 아닌 누군가가 부수려는 시도를 정기적으로 해야 한다. 부숴지는 것을 두려워하면 안 된다. 실제 공격 전에 부숴지는 것이 훨씬 낫다.
마치며
AI 시대는 기술 보안의 시대가 아니다. 오히려 기술이 평준화될수록 사람이 전장이 된다.
보안의 무게중심이 코드에서 인간으로 이동하고 있다. 공격자는 이미 그걸 알고 있다. 방어자도 알아야 한다.
가장 강한 적은 밖에 있지 않다.
언제나 나였다. 그리고 AI 시대에는 그 사실이 더 선명해진다.
세계경제포럼(WEF) 보고서에 따르면 전체 사이버 보안 사고의 95%가 인적 요인과 직접 연관된다. Verizon 2024 데이터 유출 조사 보고서는 3만 건 이상의 사고 중 68%가 인적 요소에 기인했다고 분석했다.
feat.
운영 편의성과 보안 사이의 트레이드오프는 삶에서도 똑같이 작동한다. 매끄럽게 살아가려면 어딘가를 열어야 하는데, 열면 반드시 취약해진다.
사람에게 마음을 열면 관계가 풍요로워지지만 상처받을 여지가 생기고, 루틴을 만들면 삶이 잘 굴러가지만 예측 가능해진 만큼 무뎌진다. 반대로 너무 닫아걸면 — 아무도 안 믿고, 아무것도 안 시도하면 — 리스크는 줄어들지만 삶 자체가 잘 작동하지 않는다.
결국 정답은 “열지 말 것이냐, 열 것이냐”가 아니라, 자신이 감당할 수 있는 리스크가 어느 정도인지 아는 것 일지도 모르겠다.