#11 LLM이라는 물건

이번 연휴 때 강수진님의 <프롬프트 엔지니어의 업무일지>라는 책을 읽었습니다. 저는 책프협을 하면서 리코멘트 출판사의 대표님과 개인적인 인연을 맺게 되었고 이 책이 작년에 나왔을 때 1권 증정 받았습니다.

조금 읽다가 그 당시에는 어렵게 느껴져서 중단했었는데 작년 10월 24일에는 강수진 저자님의 북 콘서트도 초청해주셔서 다녀왔습니다. 이렇게만 들으면 저는 프롬프트 엔지니어링에 꽤 익숙해야 할 지도 모릅니다.

하지만 현실은 그렇지 않았습니다. 챗GPT가 나왔을 때도 이후에 회사에서 Github Copilot을 지급해줬을 때도 저는 최소한의 대화(chat) 기능만 사용할 뿐 프롬프트 라는 것을 재대로 활용할 줄 몰랐습니다.

최근에 개인적인 프로젝트로 "클로드 코드와 한달 살기"를 해보면서 이것저것 배우고 있는데 결국 LLM(대규모 언어 모델; Large Language Model)을 잘 알아야 하고 그것을 활용하려면 프롬프트에 대해서도 알아야 한다는 것을 깨달았습니다. 무려 1년 전부터 기회가 있었는데 저는 간과하고 있습니다.

이번에 차분하게 시간을 가지고 다시 읽어보았습니다. 제가 읽으면서 적었던 노트입니다.

"왜 이것(프롬프트 엔지니어링)이 필요한지 몰랐는데 클로드 코드를 써보니 조금은 알겠다"

"언어 모델과 소통하는 프롬프트를 공부해보자!"

"내 업무 노트를 마크다운화 해보자."

"도대체 LLM은 무엇일까? "

"나는 서비스를 만들 것은 아니지만 LLM 자체에 대해서는 알고 싶어졌다."

등등입니다.

이 책을 다 읽었지만 기반 지식이 약하고 실제 업무에서 이 기법들을 사용해본 것이 아니라 여전히 초보자입니다. 하지만 적어도 그 필요성은 느끼게 되었습니다.

흥미를 더욱 확장시켜야 겠습니다. 그래서 새로운 책을 주문했습니다. 박해선님이 번역한 <밑바닥부터 만들면서 배우는 LLM> 부제: GPT를 내 손으로 직접 단계별로 만들어보면서 대규모 언어 모델의 기본기를 탄탄히 채우기라는 책입니다.

주문했으니 연휴 끝나기 전에는 받을 수 있을 것 같아요. 그리고 이 책에서 배운 내용도 조금씩 일상이나 업무에서 활용해봐야겠습니다.

기억나는 것들은

1) 프롬프트 작성에는 원칙이 있다.

2) 프롬프트에는 일정한 형식이 있다.

3) 한국어보다는 영어로 작성하는 프롬프트가 더 잘 먹힌다.

4) 프롬프트를 기록하고 그 성능을 시험할 수 있어야 한다.

5) 서비스를 만드는 경우 프롬프트로 인해 발생하는 결과 텍스트에 대한 만족도도 조사해야 한다.

6) 프롬프트를 평가할 수 있어야 한다.

프롬프트라는 영역은 이과도 아니고 문과가 아닌 두 속성이 모두 필요한 것 같습니다.

저는 이과니까... 제 방식대로 접근을 해봐야겠습니다. 그리고 시간이 되면 프롬프트에 대해서는 더 공부를 해보고 싶네요.

사실 그전에 <최고의 프롬프트 엔지니어링 강의>, <제가 쓰는 챗GPT는 당신이 쓰는 챗GPT와 전혀 다릅니다> 등의 책을 읽었지만 독자인 저 자신이 준비가 안되어 있다보니 머리 속에도 내용이 남아있지 않았던 것 같습니다.

반성하고 더 공부해야 겠습니다.

감사합니다.

2025.10.8