모건 스텐리는 모든 걸 아는 전용 챗봇이 있다고요?

대학생을 천재 교수로, 파인튜닝

1.
LLM(대규모 언어 모델)을 공부하다 보면 '세상의 모든 일반 상식을 섭렵한 천재' 대학생"' 같다는 생각이 듭니다. 말은 청산유수로 잘하지만, 막상 현업의 복잡한 내부 프로세스나 업계의 뾰족한 전문 용어는 모를 때가 많거든요. 이때 등장하는 개념이 바로 파인튜닝(Fine-tuning, 미세 조정)입니다.

2.
파인튜닝은 이 똑똑한 대학생에게 '특정 분야의 전공 서적'이나 '우리 회사 업무 프로세스'를 집중적으로 공부시켜서 전문가로 만드는 과정이라고 생각하면 쉽습니다. 이미 만들어진 거대한 모델(챗GPT나 Gemini 같은 거죠)의 두뇌 세포(매개변수, 설정 같은 겁니다)를 아주 미세하게 조정하여, 우리가 원하는 말투나 지식 영역에 최적화된 답변을 내놓게 만드는 기술이죠.

3.
글로벌 금융 기업인 모건 스탠리는 이 방식을 아주 영리하게 활용했습니다. 오픈AI의 GPT 모델을 그대로 쓰는 대신, 자신들이 수십 년간 쌓아온 수십만 건의 내부 금융 보고서를 집중 학습시켜 '모건 스탠리 전용 AI'를 만들었는데요. 덕분에 일반 챗GPT는 절대 알 수 없는 그들만의 투자 전략과 비공개 분석 데이터를 반영해 자산 관리사들에게 초정밀 가이드를 제공하고 있습니다. 보안과 전문성이라는 두 마리 토끼를 다 잡은 셈이죠.

4.
실무 기획자 입장에서 보면 우리 브랜드만의 '힙한' 말투를 가진 쇼핑몰 상담 챗봇을 만드는 과정도 이와 비슷합니다. 먼저 챗GPT 같은 기초 모델(Base Model)을 가져온 뒤, 우리 브랜드의 과거 상담 내용이나 상품 상세 데이터를 준비(Request)합니다.

5.
그 다음 AI에게 "너는 20대 타겟의 패션 쇼핑몰 상담원이야. 말투는 ~해체로 하고 브랜드 철학을 반영해줘"라고 미세조정(Fine-tuning)을 합니다. 그러면 AI는 일반적인 응답(Response) 대신, 브랜드의 정체성이 듬뿍 담긴 답변을 내놓게 됩니다. 단순히 API를 연결하는 것과 뇌 구조를 우리에게 맞게 바꾸는 것은 차원이 다른 이야기인 거죠.

6.
저도 예전에 특정 주제로 AI의 답변 톤을 고정해보려고 프롬프트를 수십 번 수정하며 고생했던 적이 있는데요. 말을 잘 거는 기술인 '프롬프트 엔지니어링'도 중요하지만, 근본적인 지식이나 말투를 고정하려면 결국 데이터 학습이 답이라는 걸 깨달았습니다.

7.
기업들은 외부 AI에 의존할 필요 없이, 기업 내부 서버에 직접 설치해 우리만의 데이터로 학습시키는 게 조금씩 대세로 자리잡는 것 같습니다. 문득 팔란티어도 생각나네요. 제가 이해한 팔란티어의 온톨로지는 파인튜닝보다는 관계형 빅데이터에 가깝다는 생각이 들지만요. 더 공부해서 다음에 이야기해보고 싶네요.


[세 줄 이해]
- 파인튜닝은 범용 AI를 특정 분야의 전문가로 만드는 재교육 과정이다.
- 기업은 이를 통해 고유한 정보나 전문 지식을 AI에게 부여한다.
- 데이터는 AI 모델을 차별화하는 가장 강력한 비즈니스 경쟁력이다.