brunch

창업하는 당신에게 비추천하는 Ai 분야 Idea

1️⃣ Foundational LLM Model

by Peter Shin


1️⃣ Foundational LLM Model

ChatGPT, Claude, Gemini 같은 대형 언어모델의 바닥부터 만들기를 시도하는 아이디어.

많이 늦었다. 이유는 아래와 같은데:


A/ 천문학적 초기 비용

최소 수천억 원(USD 기준 수억 달러) 이상의 GPU, 데이터, 인력 비용이 필요함. OpenAI, Anthropic, Google DeepMind조차 매년 수십억 달러를 태우는 게임이라, 시드 단계 스타트업이 들어가면 시작하자마자 캐시버닝 속도가 음속을 돌파한다.


B/ 경쟁 구도

이미 글로벌 빅테크와 사상 최대 규모의 자본, 인재, 데이터가 진입했다. 더 잘 만드는 것보다 다르게 만드는 게 유일한 스타트업의 생존 전략이지만, 이분야에서 차별화는 거의 불가능함.


C/ 고객 획득 난이도

Foundational LLM은 결국 B2B·B2C 모두에서 브랜드 신뢰가 중요한데, 아무리 기술력이 뛰어나도, 보안·안정성·윤리 이슈에 대한 레퍼런스가 없는 신생 기업에게 기업 고객이 핵심 시스템을 맡기기 어렵다.


D/ Exit 불확실성

시장점유율 1~3위가 전부를 먹는 Winner-takes-most 구조라, M&A 기회도 제한적이다. 결국 살아남아도 niche 모델로 전락할 가능성이 크다. 이를 투자자가 안다.


2️⃣ 모든 걸 해주는 범용 AI 에이전트(Agent OS / 워크플로우 코파일럿)

'이메일·슬랙·노션·캘린더 다 붙여서 알아서 처리해주는 에이전트' 컨셉. 이유는 아래와 같다.


A/ 거대 플랫폼의 기본 기능화

MS Copilot, Google, Apple, Notion·Slack·HubSpot 등 네이티브가 계속 흡수 중. 사용자가 바라는 건 하나 더 깔기가 아니라 이미 쓰는 도구 안에서 동작하는 것. 외부 범용 에이전트가 설 자리가 급격히 줄어들고 있다.


B/ 데모는 감탄, 일상은 무덤.

데모에선 신기하지만, 매일 쓰는 순간 오탑·권한 오류·컨텍스트 누락이 누적된다. 에이전트는 90점이 아니라 99.9% 신뢰가 필요하고, 이걸 달성하려면 도메인 한정과 정교한 가드레일이 필수인데 범용은 구조적으로 어렵다.


C/ 권한·보안·컴플라이언스 지뢰밭

메일/캘린더/CRM/파일시스템까지 쓰는 권한을 한 번에 달라? 보안팀이 바로 ‘No’. 초기 레퍼런스 확보가 극도로 힘들다. POC가 길어지고 체류자원(창업팀 시간/현금)이 바닥난다.


D/ 통합 지옥 & 유지비 폭탄

모든 앱과 연결은 약속이 아니라 부채에 가깝다. API 변경, OAuth 정책, 레이트리밋, 데이터 스키마가 계속 바뀌고 통합 유지만으로 스프린트가 녹는다. 초기팀의 속도로는 무한히 밀리게 된다.


E/ 수익화의 협상력 부족

범용이면 대체재가 많아 ARPU가 낮고 해지 저항이 약함. 결국, 싼 가격 + 무한 피처로 소모전 굴레이다. 특히나, CAC 회수도 길어진다.


�F/ 단 예외적으로 통하는 경우 (회피 루트)

F1/ 수직 특화 + 고빈도 반복 작업 한 두 개에 몰빵: 예) 보험 청구 사전심사, 특정 ERP의 월마감 분개 자동화, 전자상거래 반품 CS 라우팅 등.

F2/ 업무 결과가 돈/리스크로 직결되는 곳을 찌르기: 분 단위 비용이 보이는 영역(콜센터 AHT, 재고회전, 부실채권 회수 등).

F3/ 데이터 모트 확보: 고객 시스템에서만 나는 템플릿·룰·메타데이터를 지속 학습해 타사 재현이 어렵게.

F4/ 완전 자율이 아니라 강제 확인 UX: 자동 실행 전 체크포인트(퍼블리셔-리뷰어)로 신뢰 누적.


3️⃣ AI 검색엔진 (Vertical Search 포함)

구글보다 똑똑한 AI 검색 혹은 특정 산업 전문 AI 검색 - 컨셉. 요즘 많이 본다. 그런데 비추. 이유는:


A/ 기본 검색은 빅테크의 방어벽

Google, Microsoft, OpenAI가 이미 AI 기반 검색+RAG를 자사 검색·오피스 제품에 흡수 중. 검색 UX와 인덱싱 속도, 스케일 면에서 초기팀이 도전하기엔 진입장벽이 너무 높음.


B/ 데이터 권한 문제

2-C와 같은 계열인데, 산업별 전문 검색을 만들려면 민감한 내부 문서·데이터를 가져와야 하는데, 초기 스타트업이 이 권한을 얻는 건 거의 불가능하다.


C/ 수익화의 베리어.

일반 검색은 광고·제휴모델이 거의 유일하고, Vertical Search는 소수 기업 고객이 전부라 LTV 확보가 어렵다. B2C 검색의 유료 구독 전환율은 1% 미만이 대부분.


D/ 유지보수 지옥

크롤링·인덱싱·랭킹 알고리즘·RAG 파이프라인 모두 지속적인 튜닝이 필요하다. 초기에는 데모가 화려해 보여도, 3개월 안에 답변 품질 저하와 데이터 업데이트 지연이 누적된다.

E/ 중요. AI 검색은 출발점이지 도착지가 아님

검색 자체는 고객의 문제 해결 과정 중 일부임. 검색 이후 액션(문서 작성, 분석, 승인, 실행)까지 이어지지 않으면 stickiness가 떨어짐.


�F/ 회피 루트

F1/ 검색이 아니라 업무 결과를 바로 내주는 실행형: 예) 법률 검색 → 계약서 조항 자동 생성, 제약 연구 검색 → 임상시험 계획서 초안 작성.

F2/ 폐쇄·고정된 데이터셋 + 규제산업(의료, 금융, 방위)에서만: 오픈웹 크롤링 대신 고객 내부 DB/문서에서만 검색.

F3/ Search + Workflow 번들링: 검색이 곧바로 업무 프로세스의 트리거가 되도록.


4️⃣ 4/ AI 연애·멘탈케어 앱

AI 연애 코치, AI 심리 상담사, 나만의 AI 남친·여친 같은 컨슈머 앱.


A/ 리텐션 리텐션 리텐션..

초반 다운로드·체험은 폭발적일 수 있으나, 감정적 novelty 효과는 2~4주면 급격히 식는다. 장기 리텐션 유지가 어려워 대체적으로 LTV가 매우 낮다.


B/ 신뢰·윤리·규제 리스크

정신건강, 연애 조언은 법적·윤리적 규제 위험이 단기적인 미래에 큼. 잘못된 조언, 자해 유도, 개인정보 유출 사례 한 번이면 앱스토어 퇴출 또는 소송 리스크.


C/ 수익모델 한계

정기 구독은 저가(월 $5~15)로 형성돼 있어 CAC를 회수하려면 대규모 유저풀이 필요함. 인앱 결제·프리미엄 기능도 심리/연애 카테고리 특성상 ARPU가 제한적임.


D/ 마케팅 채널 경쟁

연애·멘탈케어 키워드는 TikTok·Instagram·유튜브에서 인플루언서+기존 브랜드가 장악하고 있음. 광고비 상승과 콘텐츠 경쟁 속에서 차별화가 힘듬.


E/ 콘텐츠 피로도

AI 대화의 질을 높이려면 지속적인 fine-tuning과 prompt 엔지니어링이 필요한데, 개인화가 진행될수록 성격 고착화 문제가 발생해 신선함 유지가 어렵다.


�F/ 회피 루트

F1/ 의료보험·EAP(Employee Assistance Program)와 연계한 B2B2C 모델: 기업 복지 혜택으로 입점.

F2/ 일반 연애·멘탈케어가 아니라 특정 커뮤니티/문화권 특화: 예) 장거리 커플, 특정 종교·언어권.

F3/ 대화형에서 끝나지 않고 오프라인 행동 촉진: 미션·이벤트·실제 데이트 연결.


5️⃣ 하드웨어+앱 번들형 AI 제품
전용 디바이스 + 전용 앱 패키지 (예: AI 통역기, AI 헬스 밴드, AI 회의 녹음기 등). 출시만 하면 시장이 열릴 것 같지만 비추. 이유는:


A/ 이중 난이도
하드웨어와 소프트웨어 모두를 잘 해야 하는데, 초기 스타트업은 양쪽을 동시에 깊게 파기 어렵다. 제조·공급망·QC·펌웨어 업데이트까지 전담할 팀이 필요하고, 이게 비용·리스크를 기하급수적으로 키운다.


B/ 재고·현금흐름 압박
생산 후 판매 예측이 빗나가면 재고가 현금 덩어리째 묶인다. 시즌/모델 교체 타이밍이 늦으면 재고 가치가 급격히 하락한다.


C/ 고객지원 지옥
하드웨어는 A/S·환불·교환 지원이 필수라 CS팀·물류 시스템·품질보증 절차가 없으면 평판이 빠르게 무너진다. 해외 판매 시 국가별 전자인증·관세 문제까지 겹친다.


D/ 업데이트 한계
앱은 빠르게 업데이트 가능하지만, 하드웨어는 한번 출시하면 스펙·센서·배터리 제약으로 기능 개선 폭이 제한된다. AI 성능은 발전했는데 기기가 못 따라가는 ‘스펙 역전’ 현상 발생.


E/ 단기 매출, 장기 리텐션 부재
기기 판매로 초기 매출이 찍혀도, 구독·서비스 매출이 약하면 매출 곡선이 급격히 꺾인다.


F/ 회피 루트
F1/ 하드웨어 직접 제작 대신 OEM/ODM 활용, 소프트웨어·데이터·브랜드에 집중.
F2/ 기기 판매가 아니라 구독/서비스 번들 중심 설계: 하드웨어는 원가 이하 공급, 데이터·분석·프리미엄 기능에서 수익 창출.
F3/ 초기에 한 국가·한 채널만 공략: 글로벌 물류·지원 확장은 시리즈 A 이후로 미룸.


6️⃣ Web3 + AI 조합형 제품
“AI가 생성한 콘텐츠를 NFT로 발행”, “블록체인 기반 AI 모델 마켓플레이스”, “탈중앙 AI 학습 네트워크” 같은 Web3와 AI의 결합형 아이디어. 표면적으로는 차세대 기술 시너지가 있어 보이지만, 초기 창업에선 비추. 이유는:


A/ 시장 피로감
2021~2022년 Web3 버블 붕괴 후 투자자·사용자 모두 피로감이 누적됨. AI 붐과 결합한다고 해서 바로 신뢰 회복이 되지 않는다. 특히 탈중앙 모델은 ‘왜 탈중앙이 필요한가?’를 명확히 설명 못하면 바로 신뢰 손실.


B/ 규제 불확실성
국가별로 암호자산·토큰 발행·데이터 주권 관련 규제가 다르고, 미국·EU·아시아 주요국 규제 스탠스가 자주 바뀜. 토큰 발행이나 DAO 기반 거버넌스는 초기팀이 감당하기 힘든 법률 리스크를 수반.


C/ 진입장벽과 교육비용
Web3와 AI 모두 학습 곡선이 높아, 잠재 고객을 교육하고 전환시키는 데 시간이 오래 걸림. B2C면 유저 유입 속도가 느리고, B2B면 PoC 기간이 길어진다.


D/ ‘양쪽 모두’에서의 경쟁
Web3 쪽에서는 이미 대형 체인과 생태계가 포진, AI 쪽에서는 빅테크와 대형 모델 스타트업들이 장악. 양쪽 모두에서 틈새를 찾기 어려움.


E/ 수익화 난이도
토큰 기반 모델은 가격 변동성 때문에 안정적인 매출 예측이 불가능하고, AI API 결합형 서비스는 운영비가 높아 토큰 경제와 조합해도 이익률이 낮음.


F/ 회피 루트
F1/ Web3는 기능이 아니라 ‘필요한 유즈케이스’에만 한정: 예) AI 모델 출처 검증, 학습 데이터 위변조 방지 등 블록체인 필수 영역만.
F2/ 토큰 발행보다 기존 결제·구독 모델로 시작해 PMF 확보 후 토큰 경제 실험.
F3/ ‘Web3+AI’ 마케팅 대신 문제 해결 중심 메시지: 고객이 “이건 Web3라서 좋은 거구나”를 자연스럽게 느끼도록.


20250813_KOR.png



____


· 사진은 Googler Ethan님과 세션중인 Outsome Founder Sprint 2기 창업자들.


· 실리콘벨리를 품는 창업가들을 위한 영어 뉴스레터 - https://lnkd.in/gK67Fw_u


· Infra 없이 Agent만 올리는 창업이 지속 가능할까? - https://lnkd.in/gsudiKV9

keyword
작가의 이전글학연, 지연, 출신 없는 언더독 파운더들의 VC 투자