AI와 전통 기업(금융)의 부활 –실패

- AI의 가장 큰 혜택, 가장 큰 시장 금융, 실패 사례 편

최재홍 가천대학교 스타트업 칼리지 교수

III. AI를 통한 금융업의 성공과 실패

AI는 금융업계에 혁신과 효율성을 가져다주지만, 모든 금융 기관이 AI 도입에 성공하는 것은 아니다. AI 도입에 실패한 금융기관들은 명확한 비즈니스 목표 없이 기술을 도입하거나, AI에 과도한 기대와 의존으로 인해 문제가 발생하는 경우가 많다. 특히 데이터 품질 문제, 규제 미준수, AI 시스템의 불완전성 등으로 인해 심각한 금융 손실과 법적 문제를 초래할 수 있다. 때문에 AI를 도입했다고 해서 반드시 성공이 보장되는 것은 아니며, 철저한 준비와 전략이 없으면 오히려 기업의 신뢰도를 떨어뜨리고 재정적 손실을 초래할 수 있다.

AI 도입에 실패한 대표적인 사례 중 하나로 웰스파고(Wells Fargo)를 들 수 있다. 웰스파고는 미국의 대형 금융 서비스 회사로, 은행, 투자, 그리고 보험 서비스를 제공한다. 1852년에 설립된 이래로 개인 및 기업 고객을 대상으로 다양한 금융 상품과 서비스를 제공하고 있응 최고의 금융기관이다. 이러한 웰스파고가 AI 기반 금융 자동화 및 고객 서비스 개선을 시도했으나, 데이터 문제, 고객 신뢰 상실, 규제 위반 등의 복합적인 요인으로 인해 실패를 경험했다.

1. AI를 적용하여 실패한 기관 사례 - 웰스파고(Wells Fargo)

미국의 대형 은행인 웰스파고는 AI를 활용하여 금융 서비스를 자동화하고 고객 경험을 개선하려는 목표를 세웠다. 먼저 고객에 대한 서비스 강화를 위해 AI 기반 고객 서비스 자동화 (AI-Powered Customer Service)로 챗봇과 AI 기반 가상 비서를 도입하여 고객의 금융 상담을 자동화하려 했다. 챗봇은 고객의 일반적인 문의(계좌 잔액 확인, 거래 내역 조회, 송금 등)를 AI 챗봇이 자동으로 처리하도록 설계되었다. 이를 통해 고객 대기 시간을 줄이고, 실시간 응대를 제공하려 한 것이다. 고객을 위해서는 당연히 필요했고 어떠한 이견도 없었다. 또한 AI 가상 비서 (Virtual Assistant) 운영은 고객을 위한 금융 AI 에이전트로 AI가 고객의 금융 습관을 분석하여 맞춤형 금융 조언(예산 계획, 대출 추천 등)을 제공하도록 하는 첨단 서비스이다. 고객이 계좌 관련 문의를 하면 AI가 자동으로 답변을 주거나, 필요시 담당 직원을 연결하도록 했는데 이렇게 AI서비스를 통해 고객에게 양질의 서비스를 제공하려고 했지만, 그러나 AI 시스템이 예상만큼 신뢰할 수 있는 성과를 내지 못하면서 오히려 고객 불만이 증가하고, 법적 문제에 휘말렸다. 웰스파고의 AI 도입 실패는 다음과 같은 원인들로 인해 발생했다.

1) 데이터 품질 및 알고리즘 오류 (Data Quality & Algorithm Errors)

웰스파고는 AI를 이용해 고객 신용 평가 및 대출 승인 과정을 자동화하려 했지만, AI의 근간이 되는 데이터 자체에 문제가 있었다. AI 시스템이 기존 데이터에 포함된 편향을 학습하면서 특정 인종이나 소득 계층에 불리한 결과를 초래했다. AI 알고리듬이 잘못된 데이터 학습으로 인해 신용 등급을 부정확하게 평가하였다. 고객의 실제 재정 상태와 무관하게 대출 거절 또는 불리한 금리 적용이 발생했다.

AI의 예측 모델이 기존의 차별적 패턴을 그대로 반영하여 결과적으로 금융 소외 계층이 더 불리한 대출 조건을 받게 되었다. 결과적으로 AI가 금융 서비스의 공정성을 개선하기보다는 오히려 기존의 불공정성을 강화하는 결과를 초래했고, 이로 고객 신뢰가 크게 훼손되었다.

2) 고객 서비스 자동화의 한계 (Limitations of Automated Customer Service)

웰스파고는 고객 상담을 자동화하기 위해 AI 챗봇을 도입했지만, 이 시스템은 복잡한 금융 문의를 해결하는 데 한계를 보였다. AI 챗봇이 고객의 질문을 정확하게 이해하지 못하고 엉뚱한 답변을 반복했다. 대출 신청이나 금융 상품 변경과 같은 민감한 문제에 대해 AI가 적절한 해결책을 제시하지 못했다. 불만을 가진 고객들이 상담원과 직접 연결되기를 원했으나 AI 시스템이 이를 원활하게 제공하지 못하면서 고객 불만이 증가했다. 결과적으로 AI 기반 고객 서비스가 오히려 서비스 품질을 저하시켰고, 기존 고객의 신뢰를 잃고 고객을 화나게 하는 요인이 되었다.

3) 윤리적 문제 및 법적 제재 (Ethical Issues & Legal Sanctions)

웰스파고의 AI 기반 신용 평가 및 대출 시스템이 특정 고객층에 차별적인 대출 심사를 진행한 것으로 밝혀졌다. 이는 공정 대출법(Fair Lending Act)을 위반하는 결과를 낳았으며, 금융 규제 기관으로부터 거액의 벌금을 부과받았다. AI가 학습한 데이터가 과거의 차별적인 금융 관행을 반영하여 특정 인종이나 사회적 계층에 불리한 조건을 적용했다. 대출 승인 과정에서 특정 고객이 부당하게 높은 금리를 적용받거나 대출 거절을 당하는 사례가 다수 발생했다.

결과적으로 웰스파고는 정부 및 소비자 단체로부터 강한 비판을 받았고, 신뢰 회복을 위해 막대한 비용을 지출해야 했다. AI의 결정을 사람이 직접 감시하고 수정할 수 있는 체계가 없었기 때문에, 이러한 문제들이 즉시 해결되지 않고 장기간 방치되었다는 점도 문제였다. AI는 결과는 낳지만 그 결과를 낳기 위한 알고리듬에 대한 분석이 제대로 이뤄지지 않는 것이 오류나 편향을 낳게돼도 개선하기 어렵다는 것이 더 큰 문제가 된다.

4) AI에 대한 과도한 의존 (Over-Reliance on AI)

웰스파고의 경영진은 AI가 인간보다 빠르고 정확하게 금융 의사결정을 내릴 수 있다고 지나치게 신뢰했다. 하지만 AI는 예상만큼 완벽하지 않았고, 문제를 일으켰는데 인간 전문가의 감독 없이 AI 모델이 독자적으로 신용 평가와 대출 결정을 수행했다. AI가 오작동하거나 잘못된 데이터를 학습해도 즉각적인 수정이 이루어지지 않았다. AI 시스템이 내놓은 결과를 맹목적으로 따르다 보니 고객 서비스 및 금융 서비스의 질이 저하되었다. 결과적으로 AI 모델의 예측 정확도를 충분히 검증하지 않고 도입한 것이 리스크 관리 실패로 이어졌다.

5) 내부 조직 문화와 AI 수용 실패 (Failure in Organizational AI Adoption)

AI 도입 과정에서 내부 직원들이 AI 시스템을 효과적으로 활용하지 못하는 문제가 발생했다. AI가 업무를 대체할 것이라는 두려움으로 인해 직원들이 AI 시스템을 적극적으로 사용하지 않았다. 조직 내에서 AI의 성과를 측정하고 지속적으로 개선하는 체계가 미흡했다. AI가 기존의 업무 방식과 제대로 통합되지 않으면서 직원들의 불만이 커졌고, 내부 반발이 심화되었다. AI 도입을 성공적으로 이끌기 위해서는 인간과 AI가 협력하는 구조를 만들어야 하지만, 웰스파고는 이를 제대로 실행하지 못했다.

2. 마치면서

웰스파고의 사례는 AI가 단순한 기술적 도구가 아니라, 적절한 데이터 품질 관리, 규제 준수, 고객 신뢰 확보, 조직 내 AI 수용 등의 종합적인 전략이 필요하다는 점을 보여준다. AI 도입이 금융업에서 성공하려면 다음과 같은 원칙을 지켜야 한다. 데이터 품질 관리: AI가 신뢰할 수 있는 결정을 내릴 수 있도록 데이터의 정확성과 공정성을 보장해야 한다.

1) 규제 준수: AI 시스템이 금융 규제를 위반하지 않도록 철저한 감독과 감사를 실시해야 한다. 규제 준수는 AI 시스템의 운영에서 필수적인 요소로, 금융 규제를 위반하지 않도록 하기 위해서는 정기적이고 철저한 감독 및 감사가 필요하다. 이를 통해 법적 요구사항을 준수하고, 고객과 시장의 신뢰를 유지하며, 잠재적인 리스크를 최소화하는 체계적인 접근이 이루어져야 하며 각 요소는 투명한 프로세스와 실시간 모니터링을 통해 더욱 강화될 수 있다.

2) 고객 신뢰 확보: AI가 공정하고 투명한 방식으로 운영되며, 고객 경험을 개선하는 방향으로 활용되어야 한다. 고객에 대한 공정과 투명은 기본이며 이외에 고객의 경험을 개선하여 고객의 맞춤형 서비스, 개인화된 추천 서비스를 통하여 AI 시스템이 고객과의 관계를 긍정적으로 형성하여야 한다.

3) 인간과 AI의 협업: AI가 모든 결정을 대신하는 것이 아니라, 인간 전문가와 협력하여 최적의 결과를 도출할 수 있도록 설계해야 한다. 인간과 AI의 협업은 효과적인 결과를 도출하는 데 매우 중요한 접근 방식이다. AI는 데이터 분석, 패턴 인식, 반복적인 작업 수행에서 뛰어난 능력을 발휘하지만, 모든 결정을 대신할 수는 없다.

인간 전문가의 경험과 직관은 복잡한 상황에서 AI가 간과할 수 있는 중요한 요소들을 보완한다. 따라서, AI 시스템은 인간의 판단과 결합하여 최적의 결과를 만들도록 설계되어야 한다. 이를 위해 상호 보완적인 역할을 명확히 정의하고, AI가 제공하는 인사이트를 인간이 이해하고 활용할 수 있도록 하는 것이 중요하다.

위와 같이 금융이 AI를 만났을 때 성공하는 경우와 실패하는 경우를 통하여 성공은 반복하고 실패는 버려야 더욱 빠르게 금융의 AI를 실현할 수 있다. 성공외에 웰스파고의 실패 사례를 반면교사로 삼아, 금융 기관들은 AI 도입 시 신중한 접근이 필요하며, AI가 가져올 수 있는 위험 요소를 철저히 분석하고 대비해야 한다. AI가 금융업의 미래를 선도할 기술이지만, 잘못된 적용은 오히려 심각한 문제를 초래할 수 있다. 이러한 요소들이 결합되어 AI 시스템이 고객과의 관계를 긍정적으로 형성하고, 신뢰할 수 있는 금융 파트너로 자리매김하게 됩니다. (본 원고는 Chatgpt4.0의 도움을 받아 편집되고, 본인에 의해 수정됨)