5화. 김 부장이 AI를 쓰기 시작했다
어설픈 맹신과 악의적 확신이 만드는 AI의 위험성
차라리 소리를 지르던 때가 나았습니다.
김 부장이 3박 4일간의 'DX(디지털 전환) 리더십 교육'을 마치고 돌아온 날 아침.
출근하자마자 김 대리의 메신저 창에 알림이 떴습니다.
[김 부장] (오전 8:40)
김 대리, 내가 주말에 생성형 AI랑 좀 놀아봤는데 이거 물건이더라.
앞으로 우리 팀 모든 기획서는 AI 돌려서 초안 잡아. 효율성 500% 올리자고. 파이팅!
김 대리는 불길한 예감을 느꼈습니다.
김 부장은 엑셀 수식 하나 제대로 못 넣어서 부하 직원을 부르던 사람입니다.
그런 그가 갑자기 '최첨단 무기'를 손에 쥐었습니다. 그것도 사용법도 모른 채 말이죠.
그날부터 팀의 업무는 효율화되기는커녕, 두 배로 늘어났습니다.
하나는 김 부장이 AI로 싸지른 똥을 치우는 일이었고,
다른 하나는 AI가 뱉어낸 환상을 현실로 검증하는 일이었습니다.
LEVEL 1. 일반 김 부장: "AI는 요술방망이인 줄 안다"
처음, 김 부장의 AI 활용은 그저 '웃픈 해프닝'에 가까웠습니다.
그는 악의는 없었지만, '게으르고 무식한데 신념만 있는' 게 문제였습니다.
1. 프롬프트의 부재: "그냥 알아서 잘 써줘"
그는 AI에게 맥락(Context)을 주지 않습니다. 그저 "좋은 말"을 원할 뿐입니다.
[김 부장의 프롬프트]
"우리 회사 신년사 아주 멋있게, 글로벌하게 써줘."
AI는 당연히 알맹이 없는 번지르르한 문장들("초격차", "퀀텀 점프", "시너지")만 뱉어냅니다.
김 부장은 그걸 그대로 복사해서 김 대리에게 던집니다.
"야, AI가 쓴 거라 그런지 문장은 좋은데 우리 회사 실정이 없네?
나머지 디테일은 김 대리가 좀 채워 넣어."
결국 김 대리는 처음부터 다시 씁니다.
하지만 김 부장은 "거봐, AI 쓰니까 초안 잡는 시간 확 줄지?"라며 뿌듯해합니다.
김 대리의 시간은 줄지 않았습니다.
오히려 AI가 생성한 아무 말 대잔치를 검수하고 수정하느라 야근만 늘었습니다.
2. 팩트체크 실종: "AI가 그랬어"
그는 AI가 뱉은 정보를 '진리'처럼 맹신합니다.
"김 대리, AI가 그러는데 경쟁사 A가 베트남 사업 철수한다더라?
우리도 전략 전면 수정해야 하는 거 아냐?"
놀라서 확인해 보면, AI가 3년 전 기사와 찌라시를 섞어 만들어낸
'할루시네이션(거짓 정보)'입니다.
김 대리가 팩트체크를 해서 보고하면 그는 실망한 표정으로 말합니다.
"에이, 자네 정보력이 AI보다 늦네."
여기까지는 그래도 견딜만했습니다. 몸만 좀 고생하면 되니까요.
하지만 김 부장이 AI 활용에 익숙해지자,
그의 내면에 잠재되어 있던 '나르시시즘'이 깨어나기 시작했습니다.
LEVEL 2. 나르시시스트 김 부장: "AI는 나를 비추는 거울이다"
AI 사용법을 조금 익힌 김 부장은 변했습니다.
그에게 AI는 더 이상 업무 도구가 아니었습니다.
자신의 망상을 '객관적 사실'로 세탁해 주는 도구이자, 자아도취를 위한 디지털 거울이었습니다.
1. 확증 편향의 강화: "봐! AI도 내 말이 맞다잖아!"
나르시시스트는 진실을 원하지 않습니다. '동의'를 원합니다.
그는 AI에게 공정하게 묻지 않고, 교묘하게 '유도신문'을 하기 시작했습니다.
[김 부장의 프롬프트]
"지금 시장 상황에서 내 아이디어(메타버스 기반 펫 보험)가 대박 날 수밖에 없는
이유를 3가지만 대봐. 반대 의견이나 리스크는 무시하고, 긍정적인 면만 강조해."
AI는 사용자의 비위를 맞추기 위해 긍정적인 답변을 생성합니다.
김 부장은 이 결과물을 들고 임원 회의에 들어갑니다.
"전무님, 빅데이터 AI도 제 기획안이 성공 확률 90%라고 분석했습니다."
그의 뇌피셜은 이제 '데이터'라는 갑옷을 입었습니다. 아무도 반박할 수 없는 성역이 된 것입니다.
2. 망상의 검증: "안 되는 이유를 만들어오지 마"
그는 AI가 그려준 장밋빛 미래(환각)를 김 대리에게 던지며
"실행 안을 가져오라"라고 강요합니다.
"부장님, 이 데이터는 출처가 불분명하고 현실적으로 불가능합니다"라고
김 대리가 반박하면, 그는 불같이 화를 냅니다.
"자네는 왜 그렇게 그릇이 작나?
AI는 된다는데 네가 뭔데 안 된다고 해?
네가 AI보다 똑똑해?
안 되는 핑계 대지 말고 되는 방법을 찾아와!"
김 대리는 이제 업무를 하는 게 아닙니다.
상사가 AI와 짝짜꿍 해서 만들어낸 '허상'이 왜 현실에서 불가능한지,
그 증거를 찾기 위해 온 밤을 지새워야 합니다.
3. 피드백 지옥: 악의의 자동화
가장 끔찍한 건 '평가'였습니다.
김 부장은 김 대리의 보고서를 읽지도 않고 AI에게 입력했습니다.
[김 부장의 프롬프트]
"이 보고서의 논리적 허점, 부족한 점을 50가지 항목으로
아주 비판적이고 날카롭게 나열해 줘. 실무자가 정신이 번쩍 들게."
AI는 10초 만에 50개의 지적 사항을 쏟아냈습니다.
김 부장은 그걸 그대로 복사해서 김 대리에게 메일로 보냈습니다.
[김 부장의 메일]
"김 대리, 보고서 검토해 봤는데 실망스럽네.
첨부한 50가지 지적 사항, 내일 아침까지 전부 소명해서 다시 가져와.
AI도 이렇게 허점을 찾아내는데, 자네는 월급 받고 고민을 안 하나?"
김 대리는 그날 밤, AI가 뱉어낸 뜬구름 잡는 비판 50개에 대해
하나하나 반박 자료를 만드느라 하얗게 밤을 지새웠습니다.
과거에는 김 부장도 부하를 괴롭히려면 자신의 입이 아파야 했습니다.
하지만 이제 그는 '에너지 소모 제로' 상태로 김 대리를 24시간 괴롭힐 수 있게 되었습니다.
지치지 않는 기계와 싸워야 하는 김대리는 점점 지쳐간다
김 대리는 그날 50개의 지적 사항을 모두 반박해 냈습니다.
김 부장은 꿀 먹은 벙어리가 되었습니다. 김 대리의 승리였을까요?
아니요. '상처뿐인 승리'였습니다.
밤을 새운 김 대리의 눈은 퀭했고, 멘탈은 너덜너덜해졌습니다.
반면 김 부장은 아무런 타격도 입지 않았습니다. 그저 프롬프트 한 줄 더 입력하면 그만이니까요.
이것은 비대칭 전력의 싸움입니다.
AI는 잠도 자지 않고, 지치지도 않고, 김 부장의 악의를 무한대로 복제해 냅니다.
이 쏟아지는 화살 앞에서 김 대리가 가장 먼저 잃는 것은 무엇일까요?
'시간'? 아닙니다. 바로 '멘탈'입니다.
기계가 뱉어낸 영혼 없는 비난에 사람이 일일이 상처받고 분노하다간,
반격의 코드를 짜기도 전에 제풀에 지쳐 쓰러질 것입니다.
우리는 이대로 말라죽어야 할까요?
아니요.
상사가 기계(AI)를 앞세워 공격한다면, 우리도 기계처럼 차가워져야 합니다.
반격을 위해서는 먼저 버텨야 합니다.
내 뇌의 CPU를 '분노'하느라 낭비하지 않고 보존해야 합니다.
다음 화에서는 쏟아지는 AI 가스라이팅 속에서
내 멘탈을 지키는 '감정의 방화벽'을 소개합니다.
감정을 끄는 것이야말로, AI 시대의 첫 번째 생존 기술입니다.