기술을 탓하다
은행에서 AI 이야기를 꺼내면, 늘 비슷한 장면이 떠오른다.
그해에도 교육은 했고, PoC도 있었고, “의미 있는 시도였다”는 말로 정리된 보고서가 남았다. 그리고 다음 해가 되면, 다시 처음부터 같은 질문을 한다.
그런데 왜 이번에도 남는 게 없을까.
이 질문은 늘 기술을 향한다. 모델이 부족해서, 데이터가 아직 정리되지 않아서, 규제가 많아서. 하지만 시간이 지날수록 확신하게 된다. 은행에서 AI가 남지 않는 이유는 기술이 약해서가 아니라, 남지 않도록 다뤄져 왔기 때문이라는 것을.
은행에서의 AI는 대부분 ‘시스템’이 아니었다. 그것은 행사에 가까웠다. 연간 계획에 들어가고, 중간 점검을 거쳐, 연말에 “완료”라는 말과 함께 사라진다. 프로젝트는 끝나면 기록만 남고, 조직은 그대로다. AI가 진짜로 남으려면 데이터가 흐르는 방식, 권한이 움직이는 경로, 책임이 귀속되는 구조가 바뀌어야 한다. 그런데 바로 그 부분은 언제나 가장 안전하게 피해 간다.
AI는 필연적으로 성공한 듯 포장된다. 특히 은행처럼 규정과 예외가 겹겹이 쌓인 조직에서는 더 그렇다. 문제는 성공 그 자체가 아니다. 과정은 남아있지 않는다는 점이다. 성공으로 포장되고 정리되었지만, 조용히 덮인다. 다음 의사결정의 근거로 남지 않는다. 그래서 조직은 매년 같은 질문을 반복한다. 왜 아무것도 남지 않았지? 그리고 같은 답으로 돌아온다. 아직 준비가 안 됐으니까.
AI를 맡았던 사람들의 위치를 떠올려 보면 더 분명해진다. 그들은 대부분 담당자였다. 데이터에 접근할 권한도, 시스템을 바꿀 권한도, 업무 판단을 재정의할 권한도 없었다. 이 구조에서 할 수 있는 일은 한정돼 있다. 아이디어를 정리하고, 데모를 만들고, 가능성을 설명하는 일. 운영을 바꿀 수 없는 사람에게 운영의 변화를 기대한 셈이다.
또 하나의 오해가 있다. 은행은 AI를 ‘자동화’가 아니라 ‘지능’으로 바라봤다. 더 똑똑하게 판단해 주길 기대했다. 하지만 은행에서 AI의 진짜 가치는 생각을 대신하는 데 있지 않다. 판단 단계를 줄이고, 사람의 개입을 제거하고, 책임의 흐름을 단순하게 만드는 데 있다. 이 구조가 바뀌지 않으면 AI가 아무리 똑똑해져도 업무는 그대로다.
그래서 정확히 말하면, 은행의 AI는 모두 성공이었다. 다만 AI가 아무것도 남기지 않도록 학습해 왔을 뿐이다.
AI는 사라졌지만, 조직은 안도한다. 아무것도 바꾸지 않아도 되었으니까.
이제 질문을 바꿔야 할 때다.
모든 AI 프로젝트는 성공했다가 아니라,
왜 우리는 과정이 남지 않도록 설계해 왔을까.
그 질문을 던지는 순간, 비로소 다음 단계가 보이기 시작한다.