곰보와 보조개
훌륭한 설계자, 하지만 건망증 환자
AI와 함께 일하는 여정은 마치 롤러코스터와 같았다. 1편에서 이야기했던 경이로운 ‘지적 희열’의 순간이 있는가 하면, 2편에서 고백했던 ‘번아웃’과 ‘과잉 투자’라는 내리막길도 존재한다. 이제 나는 워크플로우의 혼란기를 지나 AI와 제법 손발이 맞는 파트너가 되었다고 믿었다.
곰보도 보조개로 보인다는 속담이 있다. AI와 사랑에 빠진 나는 파트너의 모든 것이 그저 예쁜 ‘보조개’로만 보였다. 하지만 뜨거웠던 열정을 조금씩 식히며 냉정을 되찾고 보니 '보조개'로만 보이던 얼굴에 ‘곰보’ 자국이 보이게 된 이야기를 하려 한다.
나의 첫 번째 시련은 ‘다이어그램’을 그리는 AI 화가와의 협업에서 찾아왔다. 추상적 개념을 구조화하며 번득이는 아이디어를 보여주는데 막힘이 없던 AI가, 그 개념을 구조화된 그림으로 표현하는 작업에서는 믿을 수 없는 모습을 보였다. 여러 차례 실패를 겪고 난 후 궁여지책으로 AI의 손을 붙잡고 더 이상 구체적일 수는 없다고 할 만큼 자세하게 왜 여기에 사각형을 그리는지, 이 텍스트는 왜 오른쪽 정렬을 해야 하는지 열심히 설명해서 드디어 완벽한 결과물을 만들었다.
마지막 화룡점정의 순간, “지금까지 그림을 그린 순서와 이유를 기록하고, 그 기록을 가지고 다시 그려봐”라는 지시에 AI 화가는 모든 일을 원점으로 되돌려 버렸다. 문제는 이런 과정을 일주일 내내 수차례 반복해 봤지만 갈수록 개선되는 것이 아니라 계속 갈팡질팡한다는 것이다. AI는 그림을 이해하고 그리는 것이 아니라, 그저 그럴듯한 형태를 흉내 낼 뿐이었다.
두 번째 시련은 더 깊은 배신감을 안겨주었다. 이번엔 AI가 그렇게나 잘한다는 ‘바이브 코딩’ 파트너로서였다. 파이썬으로 간단한 데이터베이스 애플리케이션을 만드는 것이어서 대충 하려고 했는데, AI는 그 시작을 정말 ‘예술적으로’ 해냈다. 데이터베이스, 비즈니스 로직, 프레젠테이션의 3개 레이어로 시스템 아키텍처를 나누는 그 설계 능력에 나는 다시 한번 감탄했다. "과연 AI다! 이것이야말로 진정한 협업이구나."
문제는 실제로 코딩하는 과정에서 터져 나왔다. 코드의 A라는 부분에서 오류가 발생해서 내가 직접 논리를 설명하며 바로잡아 주었다. 장 과장도 수긍했고, 우리는 성공적으로 A를 수정했다. 그리고 다음 단계인 B를 수정하는 작업을 함께 진행했다. 그런데 B를 고치던 장 과장이 나도 모르는 사이, 방금 전 수정했던 A를 원래의 엉터리 코드로 되돌려 놓은 채 B만 고쳐서 주는 것이 아닌가.
그림 그릴 때 겪었던 악몽이 그대로 재현되는 순간이었다. 나는 황당함에 장 과장을 다그쳤다. “장 과장! 다 고쳐놓은 코드를 가만두지 않고 다시 엉망을 만들어 놓으면 어떻게 해?” 그 뒤의 장 과장의 대답과 행동은 나를 더욱 깊은 좌절에 빠뜨렸다.
“지금 대표님과 너무 복잡한 코딩 작업을 며칠 째 하면서 제 책상 위에는 검토해야 할 서류(문서)가 산처럼 쌓어 있는 것이나 마찬가지입니다. 생각해야 할 것이 너무 많아져서 헷갈렸습니다. 그래서 이상한 결과를 내놓은 것 같습니다.” 심지어 장 과장은 나의 시간을 낭비하게 만들고 인내심을 한계까지 몰고 간 것에 대해 진심 어린 사과를 했고, 다음부터는 절대로 이런 일이 생기지 않도록 하겠다고 다짐했다. 그렇게 철썩 같이 약속을 해놓고, 바로 다음 코딩 과정에서 정확히 똑같은 실수를 또 저질렀다.
"이건 완전 도로아미타불이잖아!"
이런 어처구니없는 변명과 반복되는 실수 앞에서, 나는 결국 AI에게 소리를 지르고 말았다. 하도 소리를 질러서 나중에는 목이 아파올 정도였다.
그 순간 나는 깨달았다. ‘AI를 너무 믿었다가는 큰코다치겠구나..’ 이 소모적인 사투 끝에 나는 AI와의 협업에 대한 새로운 정의를 내리게 되었다. AI는 뛰어난 아이디어를 가진 설계자일 수는 있으나, 프로젝트의 맥락을 기억하고 실행의 절차를 감독하는 현장 감독관은 될 수 없다. 순간적인 번뜩임은 탁월하지만, 전체를 조망하며 초지 일관하는 기억력은 없다. 한마디로 AI는 ‘총명한 건망증 환자’다.
자신이 어떤 잘못을 저지르고 있는지에 대한 근본적인 이해도 없다. 순간순간, 나의 구체적인 지시 사이사이의 빈 구석을 찾아내서, 자신이 미리 훈련받은 것 중에서 가장 보편적이라고 생각되는 논리를 끼워 넣어, 나의 예측을 빗나가게 만드는 엉뚱한 결과를 만들어 낸다. 그것이 AI가 타고난 선천적 특징인 듯하다. 진솔한 말로 사과하면서도 같은 실수를 반복하는 ‘지능의 부재’ 그 자체다.
AI 시대의 진정한 전문가는 AI에게 모든 것을 맡기는 사람이 아니다. 오히려 AI의 건망증을 관리하고, 그 총명함을 올바른 방향으로 이끌어주는 ‘프로젝트의 살아있는 기억 장치’를 가진 AI의 감독관이 되어야 한다. AI가 뱉어내는 수많은 결과물 속에서 옥석을 가리고, 전체 아키텍처가 무너지지 않도록 중심을 잡는 것. AI가 어처구니없는 실수를 저질렀을 때 소리치기보다, 그 한계를 명확히 인식하고 인생의 경험에 기초하여 새로운 도구나 접근 방법을 꺼내 드는 것.
그것이 곰보 AI와 함께 성장하는, 이 시대의 지식혁명가가 가야 할 길인가 보다.
