맥킨지 LLM 구축 사례를 통해 살펴본 도메인 지식의 중요성
기업의 사무직 사무실을 둘러보겠습니다.
마케팅부의 경영학과 출신, 기획팀의 경제학과 졸업생, 인사팀의 심리학 전공자, 법무팀의 법학과 출신들이 모여 있습니다. 이들 대부분은 소위 '문과생'들입니다. 그런데 최근 이들의 표정이 어둡습니다. 생성형 AI가 등장하면서 '내 일자리는 괜찮을까'라는 불안감이 커지고 있기 때문입니다.
하지만 맥킨지의 '릴리' 개발 사례는 문과생들에게 전혀 다른 메시지를 던집니다.
AI 시대에는 기술보다 도메인 지식이 더 중요하다는 것입니다.
https://www.chosun.com/economy/tech_it/2025/06/05/7KZB4O5KPNBQJDIWTOBKOFJJJ4/
맥킨지가 릴리를 개발하면서 얻은 첫 번째 교훈은 명확했습니다.
"생성형 AI의 성능은 도메인 전문지식과 프롬프트 엔지니어링에 달려 있습니다. 기술 전문성만으로 좋은 성능을 도출하는 것은 불가능하고, 도메인 전문가와의 협업이 필수입니다."
이는 매우 중요한 시사점을 제공합니다. 예를 들어 아무리 뛰어난 AI 기술자라도 마케팅 도메인을 모르면 마케팅에 최적화된 AI 솔루션을 만들 수 없습니다. 반대로 마케팅 전문가는 AI 기술의 세부 원리를 모르더라도, 어떤 질문을 던져야 하는지, 어떤 결과가 유용한지를 정확히 알고 있습니다.
실제로 맥킨지는 릴리 개발 당시 기술 전문가와 도메인 전문가를 1대 1로 매칭했습니다. 각 분야의 현업 전문가들이 AI에게 무엇을 어떻게 물어야 하는지, 어떤 답변이 실무에 도움이 되는지를 직접 가르쳤습니다. 그 결과 릴리는 단순한 검색 도구가 아닌, 컨설팅 업무의 실질적인 파트너로 진화할 수 있었습니다.
두 번째 교훈도 문과생들에게 유리합니다.
"데이터 큐레이션이 핵심입니다. 모든 데이터를 무작정 입력하는 것이 능사가 아닙니다. 중요한 것은 '관련성' 있는 정보를 정확하게 선별하는 것입니다."
이는 곧 정보를 판별하고 선별하는 능력이 AI 시대의 핵심 역량이라는 뜻입니다. 그런데 이런 능력은 누가 더 뛰어날까요? 수년간 해당 분야에서 일하며 어떤 정보가 중요하고 어떤 정보가 노이즈인지 체득한 현업 전문가들입니다.
마케팅 담당자는 수많은 시장 데이터 중에서 정말 의미 있는 트렌드를 골라낼 줄 압니다. 인사 담당자는 채용 관련 수천 개의 정보 중에서 핵심적인 인사이트를 추출할 수 있습니다. 이런 '눈'은 하루아침에 기를 수 있는 것이 아닙니다.
맥킨지도 전담 데이터 전략팀을 꾸려 철저한 큐레이션 작업을 진행했다고 합니다. 결국 AI의 성능은 어떤 데이터를 넣느냐에 달려 있고, 이를 판단하는 것은 도메인 전문가의 몫입니다.
여기서 중요한 질문이 하나 떠오릅니다.
IT 전공자가 현업 도메인을 배우는 것과 현업 종사자가 AI 기술을 습득하는 것 중 어느 쪽이 더 쉬울까요?
답은 명확합니다. 현업 종사자가 AI 기술을 익히는 것이 훨씬 쉽습니다.
도메인 지식은 단순히 책으로 배울 수 있는 것이 아닙니다.
마케팅 담당자를 예로 들어보겠습니다. 그들은 수백 번의 캠페인을 기획하고 실행하면서 '어떤 메시지가 고객의 마음을 움직이는지', '어떤 타이밍에 프로모션을 해야 효과적인지', '브랜드 이미지와 매출 사이의 미묘한 균형점은 어디인지'를 체득했습니다. 이런 직관은 수년간의 시행착오와 성공 경험이 축적된 결과물입니다.
인사 담당자는 어떨까요? 그들은 수천 명의 지원자를 면접하고, 수백 번의 조직 갈등을 중재하며, 다양한 성과 평가를 진행하면서 '사람을 보는 눈'을 길렀습니다. 어떤 질문이 지원자의 진짜 역량을 드러내는지, 어떤 조직 문화가 직원들의 동기를 높이는지, 어떤 보상 체계가 공정하면서도 효과적인지를 알고 있습니다.
IT 전문가가 이런 감각을 익히려면 얼마나 걸릴까요? 최소 3~5년은 필요합니다. 게다가 단순히 업무를 배우는 것을 넘어 '업계의 맥락'을 이해해야 합니다. 제조업과 서비스업의 마케팅은 다르고, 스타트업과 대기업의 인사 관리는 완전히 다른 접근이 필요합니다.
반면 AI 활용 기술은 본질적으로 '도구 사용법'입니다. 복잡해 보이지만 실제로는 다음과 같은 몇 가지 핵심 원리만 이해하면 됩니다.
첫째, 명확한 지시의 중요성입니다. AI에게 "보고서를 써주세요"라고 하는 것보다 "3분기 매출 실적을 바탕으로 4분기 마케팅 전략 보고서를 A4 3페이지 분량으로, 경영진 대상으로 작성해주세요"라고 구체적으로 요청하는 것이 효과적입니다. 이는 현업 종사자들이 이미 갖고 있는 '업무 지시 능력'의 연장선입니다.
둘째, 반복적 개선의 과정입니다. AI의 첫 번째 답변이 완벽하지 않더라도, "여기서 고객 세분화 부분을 더 자세히 설명해주세요" 또는 "경쟁사 분석 부분에 최신 데이터를 반영해주세요"라고 추가 요청하면 됩니다. 이는 부하 직원과 소통하는 방식과 크게 다르지 않습니다.
셋째, 다양한 AI 도구의 특성 파악입니다. ChatGPT는 텍스트 생성에 강하고, Claude는 맥락 분석에 뛰어나며, Midjourney는 이미지 생성에 특화되어 있다는 식으로 각 도구의 강점을 아는 것입니다. 이는 엑셀, 파워포인트, 포토샵 등 기존 업무 도구들의 특성을 파악하는 것과 본질적으로 같습니다.
현업 종사자들이 AI 학습에서 갖는 또 다른 장점들이 있습니다.
문제 정의 능력이 그 첫 번째입니다. 현업에서 일하다 보면 '정말 해결해야 할 문제가 무엇인지' 찾아내는 능력이 생깁니다. AI에게 질문할 때도 이 능력이 빛을 발합니다. "매출이 떨어진 원인을 분석해주세요"보다 "20~30대 여성 고객층의 재구매율이 지난 분기 대비 15% 감소한 원인을 고객 여정 단계별로 분석해주세요"라고 구체적으로 문제를 정의할 줄 압니다.
결과 검증 능력도 중요합니다. AI가 제시한 분석이나 제안이 현실적으로 실행 가능한지, 시장 상황에 맞는지 판단할 수 있습니다. IT 전문가는 AI의 기술적 정확성은 검증할 수 있지만, 비즈니스적 타당성은 판단하기 어렵습니다.
맥락 이해 능력도 빼놓을 수 없습니다. 같은 데이터라도 회사의 현재 상황, 업계 트렌드, 조직 문화 등을 고려해서 해석해야 합니다. 현업 종사자들은 이런 맥락을 자연스럽게 AI와의 대화에 녹여낼 수 있습니다.
그렇다면 문과생들은 어떻게 해야 할까요?
첫째, 자신의 도메인 전문성에 자신감을 가져야 합니다. 여러분이 수년간 쌓아온 현업 경험과 직관은 AI가 대체할 수 없는 고유한 자산입니다. 이는 AI 시대에 더욱 귀중해질 것입니다.
둘째, AI 활용 기술을 적극적으로 학습해야 합니다. 프로그래밍을 배울 필요는 없습니다. 대신 다양한 AI 도구들을 실제 업무에 적용해보고, 효과적인 프롬프트 작성법을 익혀야 합니다. 매일 30분씩 투자하면 3개월 내에 실무 활용이 가능한 수준에 도달할 수 있습니다.
셋째, 정보 큐레이션 능력을 더욱 발전시켜야 합니다. AI가 쏟아내는 정보의 홍수 속에서 진짜 인사이트를 찾아내는 능력이 더욱 중요해질 것입니다. 이는 현업에서 이미 기르고 있는 능력의 확장입니다.
넷째, AI와의 협업 방식을 체득해야 합니다. AI를 단순한 도구가 아닌 '업무 파트너'로 생각하고, 어떻게 하면 더 효과적으로 소통할 수 있을지 연구해야 합니다.
맥킨지의 릴리 사례는 우리에게 명확한 메시지를 전달합니다. AI 시대의 진정한 승자는 최신 기술을 아는 사람이 아니라, 도메인 지식과 AI 활용 능력을 결합한 사람이라는 것입니다.
문과생이여, 이제 AI를 두려워할 이유가 없습니다. 오히려 여러분이 AI 시대의 주역이 될 가능성이 더 큽니다. 중요한 것은 변화를 받아들이고 새로운 도구를 익히려는 의지뿐입니다.
여러분의 전문성에 AI라는 날개를 달아보시기 바랍니다.