금융산업에도 혁신이 지속되면서 4차산업 기술이 금융의 질적인 변화를 주도할 전망입니다. 기술의 급속한 발전을 바탕으로 여신심사의 효율성·안정성·신뢰성을 높이기 위한 인공지능(AI) 기반의 신용평가 및 여신심사시스템도 확산될 것으로 보입니다. 이에 발맞춰 정부도 금융권의 AI 도입을 활성화하고 고객의 신뢰성을 제고하고자 ‘금융분야 AI 운영 가이드라인’을 발표한 바 있습니다.

신용보증기금은 재무 및 비재무 요소를 바탕으로 기업의 부도 확률과 성장 가능성을 평가하는 기업 평가 전문 기관입니다. 설립 이후 45년간 사람에 의해 수행되며 발전되어 온 기업 평가 및 정책지원 결정을 AI의 평가 및 결정으로 대체할 경우 신보에 발생할 수 있는 문제를 리스크 관리, 영업조직 운영, 인적자원 활용 등 다양한 측면에서 분석 및 기술하고, 이와 같은 문제를 해결하기 위한 방안을 구체적으로 제시하여 주십시오. (450자 이상 1,500자 이내)

[운영리스크 및 딥페이크에 대한 대비책]

우선, 리스크 관리 측면에서는 두 가지를 지적하고자 합니다. 첫째, CEO의 비윤리적 행태나 임직원의 부정행위 등 운영리스크를 간과할 우려가 있습니다. 둘째, 딥페이크를 악용할 경우, 기업의 비계량 정보는 충분히 조작될 수 있습니다. 이러한 리스크를 보완하기 위해서 제가 생각한 방안 역시 두 가지입니다. 먼저, 금융보안원 등과 협의해서 딥페이크에 대응할 수 있는 기술을 빠르게 내놓아야 합니다. 그리고 AI가 1차적으로 검토한 부분을 사람이 2차 검토하는 식으로 프로세스를 운영하는 걸 제안합니다. 이와 관련해서 필요한 인력은 AI 확대와 맞물려 영업인력의 축소가 예상되는 상황인 만큼 그들을 이 역할에 배치하면 어떨까 라는 생각을 해 보았습니다.

[AI와 인간 간의 업무 공존 및 효과적 분배]

다음으로 영업조직 운영과 인력자원 활용 면에서의 리스크를 얘기해 보고자 합니다. 당연히 AI의 역할이 늘어나면서 영업점의 축소 및 인적자원에 대한 의존도 감소가 예상되는 상황입니다. 이를 극복하는 방안으로는 '찾아가는 영업점'을 제안하는 바입니다. 직원들 개개인이 중소기업을 찾아가거나 필요하면, 아예 현장에 상주하는 것입니다. 현장의 요구사항을 바로 체크하고 반영하도록 인력운영을 한다면, 신용보증기금의 존재감이 전보다 더 높아지는 결과를 가져올 수도 있다고 봅니다.

[AI의 오류를 점진적으로 보완해 주다]

또한, AI가 잘못된 방향으로 의사결정을 내리지는 않는지 검토해 봐야 합니다. 사람들이 AI에게 긍정적인 면만 보여주고, 이를 학습시지는 않는지 자문해 볼 필요가 있습니다. 인간들의 불충분한 면을 고려하고, 이를 보완하는 방향으로 AI를 활용하면서 미래 발전 가능성까지 점쳐봐야 한다고 생각합니다. 즉, 인간다움을 AI가 갖춰야 진정으로 풍요로운 미래를 맞이할 수 있을 것입니다.

구체적으로 AI가 비재무적 요소를 평가함에 있어서 중소기업이나 소상공인 등 비재무적 요소를 챙길 여력이 없는 대상자들을 간과할 수도 있다고 봅니다. 소상공인, 1인 기업 등 초영세 중소기업 등도 신용보증기금의 도움이 필요합니다. 그렇지만, 이들이 지속가능성을 아예 경영 과정에서 고려하지 않는다면, 이 또한 문제가 될 수 있습니다. 환경이나 사회와의 공존 등에 대해서 이들이 지속적으로 관심을 가질 수 있도록 직원들이 교육하는 것이 필요하다고 생각합니다. 그와 동시에 이러한 교육 과정을 AI에게 학습시키면서 추후에는 AI가 소상공인 및 중소기업 경영주들의 ESG경영에 대한 인식이나 의지를 자체적으로 평가할 수 있도록 시스템을 구축할 수 있을 것입니다.

이렇게 크게 세 가지 방향으로 AI 대체 시, 부각될 수 있는 리스크에 대해 생각해 봤습니다. 궁극적으로 AI의 활용 극대화는 피할 수 없습니다. 인간과 AI가 전략적으로 공존하면서 상호 보완적 체제를 마련해 더 나은 미래를 그릴 수 있도록 모두가 머리를 맞대야 할 것입니다.

(개요)

<인간 → AI 시 신보에 생길 수 있는 문제>

리스크 관리

-. 운영리스크 놓칠 수 있다: CEO의 비윤리적 행태, 임직원의 부정행위

-. 딥페이크를 활용해 비계량 정보 같은 경우, 충분히 조작 가능.

-. ai가 1차 검토한 걸, 사람이 2차로 보완하는 식으로 가야 함: 마침 영업점 축소 예상되는 만큼 관련 업무를 배정할 준비 필요.

-. 금융보안원 등과 협의해서 딥페이크에 대응할 수 있는 기술을 빠르게 내놓아야 합니다.

영업조직 운영/인력자원 활용

-. 영업점의 숫자 축소 및 역할/비중 축소 등이 당연히 예상됨

-. 찾아가는 영업점 운영, 개개인이 중기들을 직접 찾아가고 현장에 상주.

-. 현장의 요구사항을 바로바로 체크/반영할 수 있게 인력을 배치하라.

AI가 잘못된 방향으로 의사결정을 내리는 건 없는지 검토해야 한다.