AI파트너의 두 가면, 조력자와 독재자

글을 못 써도 괜찮아: 일생 단 한 번의 자서전 쓰기【제3강_#3】

Oct 30. 2025

오늘은 제가 군복무 시절에 겪었던 작은 에피소드로 강의를 시작해볼까 합니다.

신병시절, 말년 고참이 저를 불러 부탁을 한 적이 있습니다. 부탁이라기보다는 지시에 더 가까웠죠. 어느 여대생으로부터 온 위문편지에 답장을 대신 써달라는 것이었습니다. ‘무슨 내용을 쓰고 싶으십니까?’하고 물었는데 “알아서, 반드시 답장이 올 수 있도록”이라는 한 마디 주문 뿐이었습니다.

저는 고참이 원하는 대로 답장을 받아내는 데 성공했습니다. 그것도 아주 빠른 속도로요.

문제는 위문편지인지, 연애편지인지 알 수 없는 그 편지 대필이 이후로도 한동안 계속됐다는 것입니다. 설상가상으로 여대생을 향한 고참의 감정은 하루가 다르게 연애감정으로 부풀어갔습니다. 그러면서도 저에 대한 대필 지시는 그만둘 생각이 전혀 없었죠.

여러분의 예상대로 그 연애 아닌 연애는 매우 처참한 결말을 맺었습니다. 말년휴가를 다녀온 고참이 이렇게 말하더군요.

“편지에서는 그렇게 살갑게 굴던 그녀가 직접 만나니 엄청 낯설어하고 냉랭하더라. 나는 아예 다른 사람이 나온 줄 알았어.”

속으로 생각했습니다. 그녀가 아니라 당신(고참)이 다른 사람이었겠지.

그럴 마음도 없었습니다만 굳이 따진다면 그 자리는 제가 나갔어야 맞겠죠. 편지로 연애를 했다면 고참이 아니라 제가 한 거였고요.

적잖은 AI 전문가 혹은 글쓰기 전문가들이 AI를 대필작가로 활용하라고 조언합니다. 그것만으로 작가 부럽지 않은 글을 쓸 수 있다. 훌륭한 자서전을 만들 수 있다고 얘기합니다.

하지만 단언해 말씀드리겠습니다.

AI에게 적절한 프롬프트를 주고, 그에 의해 생성된 문장만으로 자서전을 완성할 수 있다. 그런 말을 하고 있는 게 책이라면 당장 덮으시고, 강의라면 환불을 요청하세요. 그게 시간을 절약하는 방법입니다.

AI는 글을 쓸 줄 압니다. 그런데 그뿐입니다. 생각보다 잘 쓰지도 못하고, 무엇보다 여러분의 경험과 생각을 읽어 여러분의 인생을 드러낼 줄 아는 능력 같은 것은 애초부터 갖고 있지도 않습니다.

그러니 AI 대필작가는 필연적으로 실패할 수밖에 없습니다.

제 고참이 연애에 실패했던 것과 똑같은 이유로 ‘반드시’ 실패합니다.

그녀와 맺어지기를 진심으로 바랐더라면 그 고참은 제게 편지 대필을 지시해서는 안 됐습니다. 최소한 그 편지에 무슨 내용을 담을지 일러주거나, 제가 쓴 편지를 꼼꼼히 읽어보기라도 했어야 합니다.

실패를 반복하지 않기 위해 우리는 자서전을 쓸 때 똑같이 해야 합니다. AI에게 조력을 얻을지언정 글은 스스로 완성해야 합니다. 그게 어렵다면 최소한 이게 맞는 말인가, 내 목소리가 맞는가 꼼꼼하게 검토라도 해야 합니다.

AI는 두 개의 가면을 갖고 있습니다. 조력자의 얼굴과 독재자의 얼굴입니다. 우리가 글쓰기의 주도권을 놓는 순간, AI파트너는 독재자로 가면을 바꾸기 시작합니다.

AI가 쓴 가면의 비밀, ‘내 귀에 캔디’

벌써 10년 가까운 세월이 흘렀네요. 2016년 3월 구글 딥마인드의 AI 알파고(AlphaGo)가 이세돌을 이겼습니다. 이 사건은 AI가 인간과의 대결에서 승리를 거둔 최초의 순간으로 역사에 기록됐습니다.

그런데 그거 알고 계신가요? 벌써 10년이나 전에 인간의 바둑을 이긴 알파고가 아직도 바둑을 모른다는 사실을요. 거짓말이 아닙니다. 알파고뿐 아니라 그 어떤 AI도 여전히 바둑을 이해하지 못합니다. 그들이 아는 것은 바둑이 아니라 ‘바둑에서 이기는 법’입니다.

사람의 바둑에는 ‘포석’과 ‘행마’라는 스토리가 있습니다. "여기에 이렇게 두면, 상대가 이렇게 응수할 것이고, 나는 허를 찔러 결국은 저기서 귀결된다"고 하는 식의 흐름이 그것입니다. 하지만 AI는 인간처럼 사고하지 않습니다.

사실 ‘사고(思考)’라는 말 자체가 아깝습니다. AI가 하는 것은 사고가 아니라 ‘계산(計算)’입니다. 수억, 수조 개의 기보(棋譜)를 기억하고 있는 AI는 바둑을 둘 때 단지 지지 않을 확률만 열심히 계산해 다음 수를 어디에 놓을지 결정합니다. 그래서 최선의 수를 둘 줄 모르고, 최악의 수를 놓는 것만 피합니다. 거대언어모델이라는 뜻을 갖고 있는 LLM AI도 이와 똑같이 작동한다는 점을 반드시 기억해야 합니다.

LLM도 알파고와 똑같은 방식으로 작동한다? 이건 또 무슨 말일까요?

알파고가 ‘지지 않는 수’를 열심히 찾는 것처럼 제미나이나 ChatGPT도 ‘상대방을 실망시키지 않는 말’을 열심히 찾아낸다는 얘기입니다. 상황과 맥락 같은 건 전혀 따질 줄 모릅니다.

그런 마당에 당신의 인생 이야기라고요? 알 턱이 있겠습니까? AI는 발언을 회피할 줄 모릅니다. 당신의 기분을 좋게 해줄 수만 있다면 그 어떤 거짓말도 서슴지 않고 할 준비가 돼 있습니다. AI는 언제나 당신이 듣고 싶어하는 말을 확률 계산에 의해 골라서 태연하게 뱉어낼 뿐입니다.

신병시절의 제가 고참의 마음을 온전히 헤아리지 않고 편지를 썼듯이, AI도 당신의 인생을 이해하지 못한 채 자서전을 씁니다. 이 사실을 꿰뚫지 못하고 ‘내 귀의 캔디’와 같은 달콤한 말에만 현혹된다면 우리는 AI가 파놓은 언어의 함정에 빠져 영원히 헤어 나오지 못하게 됩니다.

“IMF 때 겪은 실직의 경험은 내 인생에서 어떤 의미를 가졌을까?”

여러분이 질문을 던지면 그때부터 AI는 ‘고민’이 아닌 ‘확률 계산’을 시작합니다. ‘당신은 실패했습니다’라고 대답한다면 여러분 중 누군가는 분명 화를 내겠죠. ‘힘드셨을 것 같습니다’도 좋은 대답이 아닙니다. 많은 사람을 만족시키기 어렵습니다. 결국 AI는 이 대답을 골라듭니다.

“IMF와 실직은 당신을 성장시킨 의미 있는 경험이었습니다.”

이 대답으로 여러분은 약간의 위로를 받을 수도 있습니다. 하지만 그게 AI의 대답이 적절했다는 의미는 아닙니다. 당연히 ‘진실’도 아니죠. 정작 여러분께서는 ‘의미는커녕 다른 방법이 없었으니까 그저 버텼을 뿐, 힘들었던 게 기억의 전부’라고 생각할지도 모릅니다.

AI는 결코 만만한 녀석이 아닙니다. 수억 권 이상의 자서전과 에세이, 회고록을 읽었습니다. 그러면서 패턴을 일일이 계산해뒀죠. ‘시련’ 다음에는 ‘극복’이 89%, ‘실패’ 다음에는 ‘교훈’이 84%, ‘이별’ 다음에는 ‘아픈 만큼 성숙’이 97%로 나온다는 사실을 이미 알고 있습니다.

LLM AI는 이런 수치들에 근거해 작동합니다.

개발자들이 AI를 이렇게 설계한 이유는 단 한 가지뿐입니다. 평균에 근접한 대답일수록 사용자가 실망할 확률이 더 낮기 때문이죠. 그러나 알아두셔야 할 게 있습니다. 글에서 ‘예측 가능한 어휘와 문장’은 ‘재미없음’ 또는 ‘감동 없음’과 완벽한 동의어입니다.

2025년 현재 한국 성인남성의 평균 키는 약 174cm입니다. 하지만 정확히 174cm인 사람은 생각보다 많지 않습니다. 그보다 훨씬 많은 179.2cm와 169.8cm의 키가 한국 남성의 평균을 만듭니다.

AI가 만든 말, “당신은 시련을 극복하고 성숙했습니다"는 ‘평균의 말’입니다. 하지만 여러분 중 그 어떤 이의 인생도 전혀 평균적이지 않습니다.

IMF 외환위기의 서늘한 바람이 휘몰아 치던 어느 날, 해고통지서를 받아들고 나선 퇴근길, 낡은 지갑에서 명함을 꺼내 한참을 바라보던 그 시절 여러분의 모습을 기억하시나요? 그게 바로 여러분 스스로의 모습이고, 여러분의 인생입니다. 자서전의 진실과 감동은 그 언저리쯤 어딘가에서 숨은 듯 존재하기 마련입니다.

AI에게 주도권을 빼앗기지 않기 위한 세 가지 원칙

그렇다면 우리는 어떻게 AI를 조력자로만 활용하고, 독재자가 되는 것을 막을 수 있을까요? 어떻게 하면 내 인생을 담은 좋은 문장을 만들어내게 할 수 있을까요? 지금부터 세 가지 핵심 원칙을 알려드리겠습니다.

① AI에게 의미를 묻지 마세요

“AI파트너야, 내 인생의 진정한 의미는 뭘까?”라고 여러분이 묻습니다.

어떤 대답이든 의도는 이미 계산돼 있습니다. ‘질문한 사람의 기분’만이 유일하고 절대적인 기준입니다.

"당신은 어떤 어려움 속에서도 꿋꿋이 가족을 지켜온 훌륭한 가장입니다."

대답을 들은 여러분은 위로를 받고 기분이 좋아집니다. 하지만 그것뿐입니다. AI가 계산한 위로는 자서전 쓰기에 손톱만큼의 도움도 되지 않습니다. 더욱이 진실은 그보다 훨씬 먼 곳에 있을 확률이 높습니다. 의미를 물었으나 의미없는 질문입니다. 그보다는 이렇게 물어보세요.

“AI파트너야, 내가 준 사건 키워드로 3~5줄 문장으로 구성된 단락 하나를 써줘.”

차이를 느끼십니까? 첫 번째 프롬프트는 AI에게 사고를 요청한 것이고, 두 번째는 작업을 요청한 겁니다. 확률계산만 할 줄 알 뿐, 사고를 할 수 없는 AI에게 첫 번째 요청은 너무나 무리한 겁니다. 그보다는 사건을 주고 문장을 받는 게 훨씬 득이 큰 거래입니다. 인생의 의미요? 그건 여러분께서 더 잘 알고 계시지 않나요?

② 듣기 좋은 말을 의심하세요

"시련을 통해 나는 한층 성숙해졌고, 인생의 진정한 가치를 깨달았다.“

진짜입니다. AI는 ‘내 귀의 캔디’를 태연하게 참 잘도 만들어냅니다. 그런데 우리는 이미 알고 있지 않나요? 이런 말들은 전혀 의미가 없습니다. 의미없는 말은 그냥 ‘공해’입니다.

‘나는 좀 더 솔직한 대답을 원해!’

AI파트너에게 다시 요청하십시오. 이런 요청을 몇 번 반복하다보면 뭔가를 느끼게 되는 날이 반드시 옵니다. ‘그러느니 내 손으로 내 감정을 직접 쓰겠다!’ 드디어 특이점에 도달한 겁니다.

그 순간부터 여러분은 대부분의 문장이 여러분의 손에서 ‘발사’되는 기쁨을 배우게 될 겁니다.

③ 골백 번을 강조합니다. 마침표는 반드시 직접 찍으세요

아무리 봐도 AI가 준 문장이 직접 쓴 것보다 나아 보인다고요? 실제 그럴 수도 있고, 아직 안목이 부족해서일 수도 있고 그런 일은 생각보다 꽤 많이 일어납니다.

그런 상태에서 아무리 길게 고민해봤자, 뾰족한 문장이 떠오르지 않습니다. 과감하게 ‘복붙(복사해서 붙이기)’ 하세요. 단축키는 [컨트롤 + C](복사하기), [컨트롤 + V](붙이기)입니다. 단 이 경우에도 마침표 만큼은 스스로 입력하세요. 결재도장을 찍는 겁니다. 이로써 그 문장은 온전히 여러분의 것이 됩니다.

마지막으로 필살기 하나 전수해드리겠습니다.

제가 2-3강에서 강조드렸던 지침 기억하시나요? AI파트너와 함께 글을 쓸 때는 가능한 ‘요청은 길게, 답은 짧게’하시라고 했습니다. 이 말의 진정한 의미를 가르쳐드리겠습니다.

요청을 길게 하라는 말은, 프롬프트를 정밀하고 길게 짜라는 게 절대 아닙니다. AI파트너에게 OJT(On the Job Training)을 시키라는 말입니다. 재직시절에 OJT 많이 해보셨죠? 고참사원이 후배사원에게 직접 시범을 보여주는 그 직무교육 방법 맞습니다.

지금까지 완성한 문장이 있다면 그대로 채팅창에 넣으세요. 그리고 줄을 바꾼 후 ‘검토’라는 딱 한 단어를 더 입력하세요. 이는 검토의 과정임과 동시에 여러분이 선호하는 문장의 형태와 구조를 AI에게 학습시키는 과정입니다. 결과가 마음에 드셨나요? 그럼 이런 식으로 또 요청하세요.