고생은 내가 하고, 돈은 남이 버는 AI 세상

AI시대, 우리 회사는 괜찮을까?

by 손동진

드라마 <Silicon Valley>에서 피에드파이퍼 팀은

간절히 자신들만의 압축 알고리즘을 만들지만, 구글이 한 방의 업데이트로 끝내버린다.

이것은 하이프에 올라탄 기업이 결국 회의감에 빠지고 마는

그 심리와 현실을 실감 나게 드러내는 사례다.


우리 도메인 LLM도 똑같다. 만들고 달리고 있다 보면,

어느새 상용 LLM이 ‘핵심 성능'을 손쉽게 뛰어넘는다.

요즘 중소기업 대표들 사이에서 이런 말이 돌았다.

"우리도 LLM 하나 갖자." 처음엔 말이 멋졌다.

우리 회사만의 전용 모델. 도메인에 딱 맞춘 성능. 고객 질문도 척척, 사내 매뉴얼도 자동화.

AI로 일하는 방식 자체를 바꿔보겠다는 포부.

그래서 다들 시작했다.

데이터 모으고, 라벨링하고, 파인튜닝하고, 테스트하고. 팀 달리고, 예산 썼다. 야근했다.

그런데 결과는?


허무하게도,

우리가 몇 달 걸려 만든 도메인 특화 LLM보다 그냥 상용 GPT가 더 똑똑했다.

더 싸고, 더 빠르고, 더 안정적이었다.

그때 처음 생각했다. “이걸 왜 했지?”

LLM 하이프는 무섭다. 성능 향상이 너무 빠르다.

우리가 모델 파인튜닝하고 있는 동안, 오픈AI는 이미 다음 버전을 내놓는다.

그리고 그 다음 버전은 우리가 애써 만든 걸 단숨에 뛰어넘는다.

우리는 땀 흘리고, 걔들은 업데이트 한 번으로 끝낸다.


도메인 특화? 좋다.

근데 진짜로 성능이 높아야지.

그냥 ‘우리가 가진 데이터로 만들었다’는 이유만으로는 말이 안 된다.

데이터 품질, 양, 정제 수준, 프롬프트 설계, 인프라. 다 필요하다.

근데 현실은? 그걸 다 갖춘 중소기업 거의 없다. 그러니까 다들 지친다.

우리는 의지를 갖고 시작했지만, 회의로 끝났다.

모델은 돌아가지만, 실무자가 안 쓴다.

이유는 단순하다. 더 느리고, 더 틀리고, 더 불편하니까.

그리고 마지막엔 이렇게 된다. "그냥 GPT 쓰자."


문제는 그게 잘못된 선택이 아니라는 거다.

상용 LLM은 더 좋다. 그냥 사실이다.

우리가 만든 AI는 아무도 쓰지 않았다.

인정하기 싫지만, 현실이다. 근데 인정해야 된다. 그래야 다음 스텝이 나온다.

진짜 질문은 이거다. 우리가 LLM을 직접 만드는 게 진짜 필요한 일이었나?

아니면, "우리도 AI 한다"는 외침이 필요했던 거였나?


결국은 선택의 문제다.

자기가 직접 만든 무기를 들고 전장에 나갈 수도 있고, 이미 검증된 칼을 사서 싸울 수도 있다.

중요한 건, 이기느냐다. 직접 만들었느냐가 아니라.

기업의 전쟁터에선 '우리도 했다'가 아니라, '우리는 이겼다'가 기준이 돼야 한다.

그러려면 기개보단 실전이다.

오픈모델이든, API든, 쓰는 사람이 이기는 거다.

GPT 쓰는 게 부끄러운 게 아니다.

제대로 못 써서 성과 못 내는 게 부끄러운 거다.


keyword
이전 16화AI워싱, 잘 팔리는 거짓말이 업계를 망친다