Y Combinator가 말하는, AI 서비스의 함정
화려한 AI 서비스라는 골드러쉬에 현혹되지 마세요
Y Combinator 유튜브 채널에서 AI 스타트업에 관련된 새로운 팟캐스트가 올라와 흥미롭게 보았습니다.
팟캐스트로 패널들이 대화하고 있는 내용이다보니, 내용을 온전히 그대로 담았다기보단, 기억에 남는 내용을 중심으로 약간의 사견을 붙여서 정리해보았습니다.
AI를 어디에 어떻게 붙여야 할 지, 고민하고 계신 분들께 도움이 되길 바랍니다 :)
대학을 때려치고 AI의 세계로 뛰어드는 학생들
그야말로 모든 것에 AI가 스며들고 있습니다. 2023년 Batch에는 약 50%정도가 LLM 관련된 스타트업이었습니다. 실리콘밸리에는 AI 때문에 대학을 때려치고 스타트업에 뛰어드는 학생들이 많습니다. 웹 - 모바일 - AI로 이어지는, 인생에 단 한번뿐인 기회를 놓칠 수 없다고 생각하기 때문이죠.
AI는 경험이 적은 창업자도 잘 포지션될 수 있는 분야입니다. LLM이 시장에 태동한 지 고작 1년 조금 더 된 시간이 흘렀을 뿐이고, 누구도 이 분야에 경험이 많지 않기 때문이죠.
AI Tarpit, 모르고 빠지는 AI의 늪
Tarpit(타르 구덩이). 처음에는 좋은 아이디어라고 생각했지만, 하다보니 별로지만, 그럼에도 불구하고 지금까지 쏟은 매몰비용 때문에 빠져나올 수 없는 것을 비유하는 말입니다. AI의 경우, Tarpit에 빠지기가 훨씬 더 쉽습니다. 모르기 때문이죠.
어떤 AI Copilot이 있다고 합시다. 잠재 고객이 정말 많은 흥미를 갖고 있습니다. 먼저 연락이 오니 인바운드 리드 받는건 쉽습니다. 심지어 돈 받는 것 또한 쉽습니다. 그런데 문제가 있습니다. AI가 미래를 바꾼다고 해서 뭔가 해야할 것은 같은데 어떻게 사용해야 뽕을 뽑을 지를 고객은 알지 못합니다. 고객만 모를까요? 사실 서비스를 제공하는 당사자도 잘 모르고 있습니다.
기술이 핫해지면 발생하는 일입니다. 예전엔 블록체인이 그랬고, 메타버스가 그랬습니다. 지금은 AI가 핫하니 “우리 AI 전략이 뭐야”하고 재촉하겠죠. 계속 이터레이션을 하면서 Product Market Fit을 찾을 수밖에 없습니다. 그러다가 흐지부지 될 지도 모르는 일입니다.
지루한 것을 대체하세요
AI의 화려함에 매료되기 쉽습니다. 멀티모달, AGI를 많이 꿈꾸지만, 사실 배치에서 보면 평범한 것이 훨씬 더 많습니다.
LLM은 반복적인 일들을 대체하는 데 최적화되어있습니다. 업무에서 반복되는 일들을 대체하는 것은 완벽한 핏입니다. 단순하다고 생각하겠지만, 생각보다 이 분야에 탁 알맞은 앱이 없습니다. 그래서 AI로 뭔가 하고 싶으면 이쪽도 좋은 접근일겁니다.
Sweetspot은 정부 계약 비딩으로 니즈를 명확하게 좁혔습니다.Sweetspot은 AI 업무 자동화로 성공적으로 피봇팅한 케이스입니다. 원래는 푸드 트럭 음식 주문으로 시작한 스타트업입니다. 그리고 지금은 정부 컨택, 계약, 제안서 제출과 같은 일들을 자동화하는 SAAS로 피봇팅 했습니다.
지루함은 비즈니스가 될 수 있습니다. 우리가 어떤것을 귀찮아 하는 지 다시 생각해봅시다.
“Where there’s muck there’s brass”
진흙이 있는 곳에 황금이 있다.
니치한 Use Case에 집중하세요
AI가 돌아가는 흐름을 보면 골드러쉬를 연상시킵니다. 사람들은 골드를 캐기 위한 여러가지 도구를 팔라고 극성입니다. 그러나 아직, 금을 발견하진 못한 것 같습니다.
AI를 붙이면 일단 관심을 끌긴 쉽습니다. 하지만 더 파보면 실체가 쉽게 드러납니다.
“진짜 사람들이 사용하고 있어요? 사용 사례가 어때요?”
그러면 가입자수와 매출 지표를 보입니다. 하지만 이는 지속가능한 지표가 아닙니다. 처음에는 서로 흐린눈으로 AI를 사고 팔겠죠. 허나 유저가 제대로 사용하고, 지불한 돈값 이상으로 가치를 내는 것이 아니면 Product Market Fit이 명확하지 않은 상태에서 고객이 떠나는 것은 한순간입니다. 빅테크에서 그 분야에 LLM을 도입하면 순식간에 고객은 그쪽으로 가겠죠. 몇달이면 빠집니다. 진짜 빠릅니다.
너무 제너럴하면 안됩니다. 특정한 니즈를 해결하지 못한다면, 사용 케이스를 제대로 만들어내지 못한다면 성공하기 어렵습니다. 문제를 다 해결하고, 다 자동화한다고 하지 마세요. 예를 들어 LMS라고 하면 “세일즈 로그 데이터를 주면 AI가 뭘 할 지 알려줄게”라는 식으로 자세하게 가야합니다.
AI가 아니라 그 동안의 소프트웨어를 보세요. 그 동안의 성공적인 소프트웨어를 보고, 어떻게 고객에게 가치를 만들었는 지 보면서 AI가 무엇에 도움을 줄 수 있을 지 다시 생각해보세요.
소상공인을 생각해 보는 것도 좋습니다. 동네 가게나 작은 기업들은 자동화 할 것들이 정말 많습니다. 물론 이 부분은 조심스러운 부분이기도 합니다. AGI가 적용이 되어서 만약 독과점이 된다면 더 많은 비딩을 한 업체가 더 매출을 따낼 수 있도록 설계가 될 수도 있으니까요.
모델 최적화는 중요합니다
굳이 최신 모델, 비싼 모델, 파라미터 수 많은 모델 쓸 필요 없습니다.
물론 비용은 계속 낮아지고 있지만, 작은 모델, 구형 모델에서 트레이닝 시켜서 먼저 최적화 하세요. 프로토타이핑이라고 생각하세요. 최신 모델을 먼저 적용하는 것은 반도체로 치면 FPGA로 프로토타이핑 하는 꼴입니다.
Purpose Trained Model을 도입하는 것이 좋습니다. 특정 도메인과 타겟 데이터가 있다면, 이를 더 작은 버전을 로컬에서 돌려서 일반 LLM보다 더 좋은 결과를 더 저렴한 가격으로 내보일 수 있습니다.
데이터 보안도 새로운 시장
데이터를 OpenAI에 넘겨야 하는 것에 대한 보안 이슈도 있죠. 클라우드 기술이 나온 이후, 클라우드 보안 회사가 나왔듯, AI 시장이 커지면서 AI 보안에 관련된 새로운 시장도 열리게 될겁니다.
예) PromptArmor : LLM 보안 스타트업
GPTs만 봐도 아무리 보안 문구를 프롬프트에 심어 놓더라도 어렵지 않게 해킹할 수 있고, 프롬프트나 데이터를 술술 불어내기도 하죠 ^^;;
그 밖에, 실수하는 것들
챗 기반 인터페이스는 적합한 형태는 아닙니다. 채팅창 형식은 유저가 어떻게 컴퓨터와 이야기할 지 알아야 하는지에 너무 강조되어 있습니다. 자연스럽게 연결되는 사용자 경험이 필요합니다.
마케팅 카피 자동화, 컨텐츠 자동화 등등 과 같은 GPT Wrapper 방식의 접근은 지양하는 것이 좋습니다. 오픈 AI가 앱스토어를 연 이상 이 분야를 잠식하는 것은 너무 쉬운 일이기 때문이죠.
개인적으로, 작금의 AI 시대가 골드러쉬 같다는 표현이 정확하다고 생각했는데요.
Tarpit에 빠지지 않는 진짜 Gold를 찾는 AI에 관한 이모저모를 앞으로 정리해서 올려보겠습니다 :)
출처: Y Combinator YouTube Lightcone Podcast
