토큰을 아끼자.
ft. 클로드와 함께 하는 바이브 코딩
바이브코딩이라는 것을 한다고는 하지만, 제대로 된 앱을 만들거나 사이트를 구성하는 것은 아니고 기존에 하다가 멈추었던 블로그, 워드프레스의 연장만 하고 있는 중이다. 그것만 해도 클로드 코드에서 토큰을 심하게 낭비하게 된다. 글쓰기를 직접 시키기 때문이다. 어떻게 줄일까 고민을 하다 선택을 한 것은 로컬 PC에서 돌리는 AI다.
내가 뭘 안다고 로컬에서 LLM 모델을 돌리는 것을 상상할 수 있었을까. 불과 3주 전만해도 꿈도 못 꾸는 그런 기능이라 생각했는데, 지금은 집에서 Ollama라는 것을 통해 gemma3:12b, qwen2.5:14b, qwen3.5:9b라는 모델을 설치해 놓고 돌리고 있다. 이미지는 ComfyUI라는 것을 통해 그림을 그리고 그 위에 Pillow 라이브러리를 통해서 타이틀을 넣고 있다.
지금 위 문장을 2월에 봤다면, 뭐 그런게 있나보다라고 생각했을테지만, 지금은 그것을 다 사용하고 있다. 전체적인 윤곽을 잡아서 하나의 완성된 프로젝트로 만들어가는 능력은 아직 부족하지만, 하나씩 기능만 따져보면 상당히 많은 것들이 만들어 진 상황이다. 이런거 보면 왜 프로젝트 매니저가 중요한지 알 것 같다. 기능 하나씩을 만드는 것은 어렵지 않은데, 여러 기능을 통합하는 것은 여간 어려운게 아니다. 하지만 이제 한 달도 안 지난 나에겐 당연한 것 아니겠는가.
지금 이 글을 쓰는 동안 열심히 브런치용 글쓰기로 돌아가는 gemma3:9b의 결과물이 만들어지고 있다. 브런치에 접목시킬 이유는 뻔하다. 브런치는 검색엔진최적화(SEO)를 조금 덜 신경 써도 되고 팩트 체크 역시 조금 덜해도 되기 때문이다.
에세이에서는 나의 생각을 적는 곳이다보니 팩트가 조금 달라도 된다고 생각한다. 게다가 존대말로 쓰지 않고 혼자 독백톤으로 적어도 되기 때문에 로컬 LLM이 어려워하는 다양한 어미로 끝나는 존대말을 사용하지 않아도 된다. 분량 기준은 충족했으나, 아마 글의 품질은 이전보다 많이 떨어질 것이다. 뭐 어떤가, 그 자체로 하나의 글이면 되지.