[中편] AI는 거짓말을 한다. 하지만 당신보다 싸다

IT 현장에서 목격한, 인간을 지우는 세 가지 냉혹한 공식

Dec 28. 2025

上편에서 말씀드린 것처럼, 저는 안정된 은행 부장 자리를 뒤로하고 소위 '야생'이라 불리는 테크 업계로 뛰어들었습니다. 클라우드 전문 기업(MSP)인 메가존과 블록체인 기술 기업 블록오디세이의 임원으로 일하며, 저는 은행 안에서는 절대 볼 수 없었던 기업들의 '진짜 속내'를 마주하게 되었습니다.

은행에 있을 때 우리는 이렇게 말했습니다. "에이, 그래도 AI는 사람을 못 따라와. 감정도 없고, 거짓말(Hallucination)도 하잖아." 하지만, 그것은 우리끼리의 위안이었습니다.

기술을 파는 공급자(Vendor)의 입장이 되어, 기술을 도입하려는 대기업 경영진들을 만나보니 그들의 계산기는 전혀 다르게 돌아가고 있음을 알 수 있었습니다. 그간의 경험으로 오늘은 그 '세 가지 잔인한 진실'에 대해 이야기하려 합니다.

진실 1. 당신은 해고되지 않는다, 다만 '투명해질' 뿐이다

많은 직장인이 "AI가 도입되면 당장 잘리는 것 아니냐"고 걱정합니다. 하지만 제가 현장에서 본 DX(Digital Transformation)의 양상은 '대량 해고'가 아니었습니다. 바로 '존재감의 희석'이었습니다.

제가 컨설팅을 했던 한 금융사의 여신 심사 부서의 사례를 들어보겠습니다. 그곳에는 15년 경력의 베테랑 심사역, 김 차장님이 계셨습니다. 그는 늘 "재무제표의 행간은 사람만이 읽을 수 있다"고 자부했습니다. 숫자로는 잘 드러나지 않는 기업의 평판 리스크, CEO의 관상(?) 같은 비정형 데이터를 읽는 것이 자신의 경쟁력이라 믿었죠.

그런데 우리가 도입한 AI 여신 심사 모델은 감정이 없습니다. 대신 최근 10년 치의 뉴스 데이터, 소송 기록, 연체 이력을 10초 만에 크로스 체크했습니다. 테스트 결과, 김 차장님이 "느낌이 좋다"고 했던 기업에서 AI는 3가지의 잠재적 부실 징후를 찾아냈습니다.

경영진의 반응은 어땠을까요? 김 차장님을 당장 해고했을까요? 아닙니다. 담당 부장은 아주 부드러운 목소리로 이렇게 말했습니다.

"김 차장님, 이제 1차 스크리닝은 AI가 90% 정도 걸러낼 겁니다. 차장님은 AI가 올린 리포트를 보고 '최종 검토 후 승인' 버튼만 누르시면 됩니다. 이제 야근 안 하셔도 되겠네요."

이 말이 축복처럼 들리시나요? 비즈니스 언어로 번역하면 이렇습니다. "당신 업무의 90%는 기계가 대체 가능한 영역이었습니다. 그러니 앞으로 당신의 연봉 인상은 불가능하며, 조직 내에서의 중요도(Value)는 1/10로 줄어들 것입니다."

이것이 제가 본 첫 번째 진실입니다. AI 시대의 비극은 실직이 아닙니다. 매일 출근은 하지만, 누구도 나를 '전문가'로 대우해 주지 않는 투명 인간이 되는 과정이라는 것입니다.

진실 2. 할루시네이션(Hallucination)? 그것은 '비용'의 문제다

AI 회의론자들이 마지막 보루처럼 붙잡는 논리가 있습니다. "AI는 없는 사실을 지어내는 환각 현상이 있잖아. 신뢰할 수 없으니 결국 사람이 다 봐야 해."

맞습니다. 생성형 AI는 확률에 기반해 단어를 조합하므로 거짓말을 합니다. 저도 박사 논문을 쓰며 이 기술적 한계를 깊이 연구했습니다. 하지만 경영진이 바라보는 관점은 달랐습니다. 그들에게 할루시네이션은 '결함'이 아니라, 관리 가능한 '비용(Cost)'일 뿐이었습니다.

OO은행 디지털사업부 시절, 고객 응대 챗봇(Chatbot) 도입 프로젝트를 돌이켜 봅니다. 당시 AI 챗봇의 오답률은 약 8%였습니다. 100명 중 8명에게 엉뚱한 소리를 한다는 뜻이죠. 치명적으로 보입니다. 그런데 말입니다. 인간 상담원의 데이터를 뜯어보니 놀라운 사실이 드러났습니다. 피로 누적, 감정 노동으로 인한 불친절, 매뉴얼 숙지 미숙으로 인한 인간의 오답률 및 불만 발생률은 약 12%였습니다.

경영진의 계산기는 냉정했습니다. "오후 3시면 지치는 '완벽하지 않은 인간' 100명을 고용하는 것보다, 24시간 군말 없이 일하는 '92점짜리 AI'를 쓰고, 8%의 오류가 터질 때만 개입할 '슈퍼바이저(Supervisor)' 5명을 두는 것이 훨씬 이득이다."

즉, 할루시네이션이라는 기술적 결함은 '인건비 절감분'으로 충분히 상쇄하고도 남는다는 결론이 난 것입니다. 그러니 "AI는 틀리니까 내가 필요해"라는 생각은 버리셔야 합니다. 우리도 어떤 선택을 할 때 가성비를 고려 하듯, 기업은 당신의 완벽함을 원하는 게 아닙니다. '가성비'를 원할 뿐입니다.

진실 3. "좋은 질문"이 경쟁력이라는 착각

AI 도입 초기, 아니 지금도 마찬가지로 서점가에는 <프롬프트 엔지니어링> 관련 책들이 쏟아졌습니다. "AI에게 일을 시키려면 질문을 잘해야 한다. 좋은 질문을 던지는 통찰력은 인간 고유의 영역이다."

저 역시 초기에는 직원들에게 그렇게 가르쳤습니다. 하지만 블록체인 비즈니스 사업 전략을 짤 때, 저는 이 믿음조차 깨지는 경험을 했습니다.

신규 STO(토큰 증권) 사업 기획안을 작성하며 챗GPT에게 물었습니다. "STO 시장 진입을 위한 전략을 짜줘." 당연히 뻔한 대답이 나왔죠. 그래서 저는 소위 '프롬프트 엔지니어링' 기술을 발휘해 질문을 다듬으려 했습니다. 그런데 문득 챗GPT에게 이렇게 되물어보고 싶더군요.

"내가 STO 사업 전략을 짜려고 하는데, 너에게 어떤 정보를 주고 어떤 순서로 질문해야 가장 완벽한 전략이 나올까? 네가 나에게 역으로 질문해 줘."

그러자 AI는 순식간에 10개의 질문 리스트를 쏟아냈습니다.

타겟 고객의 연령대와 투자 성향은?

보유한 블록체인 메인넷의 TPS 성능은?

금융규제 샌드박스 신청 여부는?

제가 미처 고려하지 못했던 규제 이슈와 기술적 제약 사항까지 짚어내며 저를 리드했습니다. 순간 멍해졌습니다. '질문하는 능력'조차 AI가 인간을 가르치는 시대가 온 것입니다. 이제 "나는 질문을 잘해"라는 것도 경쟁력이 되기 어렵습니다. AI가 "주인님, 이렇게 질문하셔야죠"라고 가이드해 주는 세상이니까요.