인공지능의 똥을 치울 수 있는 사람만 살아남는다
금요일 오후 5시, 퇴근을 앞둔 박 책임의 모니터 위로 챗GPT의 커서가 깜빡인다. 월요일 아침까지 끝내야 할 글로벌 결제 정산 로직의 검증 코드를 짜야 하지만, 이미 머릿속은 멈춘 지 오래다. 그는 대충 적은 기획안 초안을 복사해 붙여넣으며 짧은 명령어를 날린다.
"오류 없게 완벽하게 짜줘."
AI는 0.5초 만에 수백 줄의 파이썬 코드를 유려하게 뱉어낸다. 수십조 원의 자금이 오가는 정산 시스템의 핵심 로직이었지만, 박 책임은 코드를 뜯어보는 대신 그대로 복사해 개발 서버에 올린다. 테스트 몇 번에 성공 메시지가 뜨자 그는 가벼운 마음으로 퇴근 가방을 챙긴다. 하지만 그는 모른다. AI가 뱉어낸 매끄러운 코드 이면에는 비즈니스 예외 상황을 고려하지 않은 논리적 구멍이 숭숭 뚫려 있으며, 이는 한 달 뒤 전사적 재무 참사를 일으킬 거대한 '데이터 오물'의 씨앗이 되었다는 사실을 말이다.
사유의 의무를 외주화한 결과
지난 몇 년간 업계는 '프롬프트 엔지니어링'이라는 단어에 열광했다. 질문만 잘 던지면 AI가 모든 문제를 해결해 줄 것이라는 환상은, 역설적으로 실무자들에게서 고민의 의무를 앗아갔다. "알아서 해달라"는 한마디 뒤에는 복잡한 로직을 설계하기 싫은 게으름과 기술적 무능이 숨어 있다.
이것은 단순히 개인의 나태함 때문만은 아니다. 산출물의 속도만을 성과로 간주하고, 검증에 드는 시간을 지체로 여기는 조직의 비뚤어진 지표가 생각의 외주화를 정당화한다. 검증 책임은 AI에게 넘기고 실패 비용은 조직 전체가 떠안는 구조 속에서 엔지니어링의 본질인 '설계 의무'는 증발한다. 당신이 프롬프트 한 줄로 얻은 빠른 결과물은 사실 누군가의 주말을 망칠 예고된 재앙에 불과하다.
설계 없는 프롬프트는 기술이 아닌 변명이다
프롬프트라는 도구 자체에는 죄가 없다. 진짜 문제는 설계가 거세된 프롬프트다. AI는 정답을 말하는 기계가 아니라, 가장 정답처럼 보이는 문장을 만드는 확률 기계일 뿐이다. 로직의 전개를 스스로 설명할 수 없고 예외 상황을 도출할 능력이 없는 자가 던지는 프롬프트는, 사기꾼에게 금고 열쇠를 맡기는 것과 같다.
진짜 실력은 "어떻게 질문할 것인가"가 아니라, "AI 없이도 이 문제를 풀 수 있는가"에서 나온다. 문제를 풀 수 있다는 것은 코드를 다 외우는 능력이 아니다. 로직의 인과관계를 설명하고 실패 시의 영향 범위를 정확히 예측할 수 있는 '판단의 주도권'을 쥐고 있는가를 의미한다. 이해하지 못한 문제는 검증할 수 없고, 검증할 수 없는 시스템은 통제할 수 없다. 통제 불능의 시스템은 기술이 아니라 리스크 그 자체다.
정밀한 시계태엽 속에 쌓이는 쇳가루
데이터 파이프라인은 정교한 시계태엽과 같다. 톱니바퀴 하나만 어긋나도 시스템은 멈춘다. 설계 없이 프롬프트로만 코드를 짜는 행위는 시계 구조를 모르는 사람이 AI에게 "대충 돌아가게 만들어달라"고 말한 뒤 케이스를 닫아버리는 것과 같다.
겉보기엔 바늘이 움직이니 성공한 것처럼 보일 것이다. 하지만 케이스 안쪽에서는 잘못 맞물린 톱니바퀴들이 서로를 갉아먹으며 '쇳가루'를 뿜어내고 있다. 이 쇳가루는 데이터 드리프트와 스키마 변형이라는 형태로 누적되어 결국 전체 시스템을 부식시킨다. 시계가 완전히 멈췄을 때 그 안을 가득 채운 쇳가루를 치워야 하는 쪽은 AI가 아니라 당신이다. AI는 오물을 만드는 법은 알아도, 그 오물에서 나는 악취를 책임지는 법은 결코 배우지 못했기 때문이다.
프롬프트 뒤에 숨어 설계의 책임을 회피하지 마라. 당신의 게으름이 만든 코드는 반드시 당신의 커리어를 덮칠 오물로 돌아온다. 명령만 내리는 자는 결국 자신이 내린 명령의 결과물에 잡아먹히게 될 것이다.
[오늘의 복구 프로토콜] 프롬프트 의존증 탈출법
화이트보드 설계 강제화: AI를 켜기 전 전체 로직의 순서도를 직접 그려라. 스스로 예외 상황 세 가지를 도출하지 못한다면 질문할 자격이 없다.
논리적 인과관계 증명: AI가 짠 코드의 매 줄마다 왜 이 방식이 최선인지, 실패했을 때의 대안은 무엇인지 직접 주석을 달아라. 주석을 달 수 없는 코드는 당신의 짐이다.
시스템 영향도 분석: 이 코드가 하류의 다른 시스템에 미칠 영향을 재무적, 기술적 관점에서 문서화하라. 코드는 텍스트가 아니라 흐름이다.