PART 3. [이해] 엔지니어와 대등하게 대화하기
"내일 오전 10시에 서울역 근처 카페 예약해줘."
ChatGPT에게 이렇게 요청하면 어떤 답이 돌아올까?
"네이버에서 '서울역 카페'를 검색하고, 원하는 곳을 찾아 전화로 예약하시면 됩니다." 아마 이런 식일 것이다. AI는 방법은 알려주지만 실행은 하지 못한다. 마치 컨설턴트가 실행계획은 제안해 줄 수 있지만, 실행은 고객이 직접 해야 하는 것과 같다.
지난 3주 동안 우리는 AI의 두뇌를 들여다봤다. AI가 어떻게 생각하고(LLM), 전문가가 되고(Fine-tuning), 거짓말을 막는지(RAG) 배웠다. 하지만 이 모든 것은 AI의 '머릿속'에서만 일어나는 일이다. 아무리 똑똑해도 현실 세계와 상호작용할 수 없다면 AI는 여전히 불완전하다.
이번 주 질문은 명확하다. AI가 현실 세계에서 실제로 일을 처리하려면 무엇이 필요한가?
레스토랑을 떠올려보자. 주방장은 뛰어난 요리 실력을 가졌지만, 할 수 있는 일은 주문을 받고 요리를 만드는 것뿐이다. 손님을 맞이하고, 주문을 받고, 요리를 서빙하고, 계산을 처리하는 일은 홀 직원의 몫이다. 주방장이 아무리 훌륭해도 홀 직원 없이는 레스토랑이 돌아가지 않는다.
AI도 마찬가지다. 아무리 똑똑해도 외부 시스템과 연결되지 않으면 할 수 있는 일이 제한된다. 이 연결을 가능하게 하는 것이 바로 API(Application Programming Interface)다. API는 "프로그램 간 약속된 대화법"이라고 이해하면 된다. 두 시스템이 서로 요청하고 응답하는 규칙이다.
그리고 최근 생성형 AI는 Function Calling(도구 호출)이라는 능력을 갖추게 되었다. AI가 필요할 때 외부 도구를 사용할 수 있게 된 것이다. 작동 방식은 생각보다 단순하다.
먼저 개발자가 AI에게 "너는 이런 도구들을 사용할 수 있어"라고 알려준다. 예를 들어 날씨_조회(도시명), 이메일_발송(받는사람, 제목, 내용), 예약_하기(날짜, 시간, 장소) 같은 도구들이다.
그다음 사용자가 질문을 하면 AI는 판단한다. "이 질문에 답하려면 외부 도구가 필요한가?" 만약 사용자가 "내일 서울 날씨 어때?"라고 물으면, AI는 이렇게 생각한다. "날씨 정보는 내 학습 데이터에 없다. 날씨_조회(서울)가 필요하다." 그리고 AI는 "날씨_조회(서울)를 실행해 주세요"라는 신호를 보낸다. 중요한 점은 AI가 직접 실행하지 않는다는 것이다.
개발자는 AI에게 "이런 함수들을 쓸 수 있어"라고 목록만 알려준다. 예를 들어 날씨_조회(도시명), 이메일_발송(받는사람, 제목, 내용) 같은 함수의 이름과 용도를 정의만 해둔다.
이후 사용자가 "내일 서울 날씨 어때?"라고 물으면, AI가 문맥을 읽고 "아, 이 질문은 날씨_조회(서울) 함수가 필요하겠구나"라고 스스로 판단한다. AI는 "날씨_조회(서울)를 실행해 주세요"라는 JSON 형식의 요청을 반환한다. 그러면 개발자가 작성해 둔 코드가 실제로 날씨 API를 호출하고, 결과 "{온도: 5도, 상태: 맑음}"를 받아 AI에게 전달한다. AI는 이를 받아 자연스러운 답변을 만든다. "내일 서울은 맑고 기온은 5도 정도입니다. 외출 시 두꺼운 외투를 챙기세요."
여기서 핵심은 AI가 "언제, 어떤 도구가 필요한지"를 스스로 판단한다는 점이다. 예전의 규칙 기반 방식(Rule-based)은 개발자가 "질문에 '날씨'라는 단어가 있으면 날씨 API 호출"처럼 모든 경우의 수를 미리 코딩해야 했다. 하지만 Function Calling은 AI가 문맥을 이해하고 판단한다. 사용자가 "내일 우산 챙겨야 해?"라고 물어도, AI는 이것이 날씨 정보가 필요한 질문임을 알아낸다. 이것만으로도 AI는 '대화'에서 '행동'으로 진화한다.
연결 가능한 도구가 많아질수록 AI의 가치는 기하급수적으로 증가한다. 이를 보여주는 대표적 사례가 업무 자동화 도구 Zapier다.
Zapier는 AI 없이도 강력했던 업무 자동화 도구다. 기본 개념은 간단하다. Trigger(조건)가 발생하면 Action(실행)이 이루어진다. "Gmail에 첨부파일 포함 메일이 도착하면(Trigger), 자동으로 Google Drive에 저장한다(Action)." 현재 Zapier는 8000개 이상의 앱과 연결된다. Gmail, Slack, Notion, Google Sheets, CRM 등 우리가 쓰는 거의 모든 업무 도구가 포함된다.
한국 기업들의 실제 성과를 보자. 한 스타트업은 Zapier 도입 후 하루 평균 4시간이 소요되던 일 처리가 2시간 미만으로 줄었고, 월 40시간을 절약했다. 고객 문의 건도 절반 이하로 줄어 업무 효율이 극적으로 개선되었다.
쏘카(SOCAR)는 자동화 도구를 활용해 CRM 업무 자동화와 비즈니스 파이프라인을 구축했다. 마케팅 채널로 인입된 예약 건을 스프레드시트에 자동 기입하고, 특정 단계의 거래를 다른 파이프라인으로 자동 복사하는 등 반복 업무를 대폭 줄였다. 데이터 분석가는 서비스 운영 안정성을 위해 정책이 제대로 적용됐는지 확인하는 봇을 만들어 오류 상황에 기민하게 대응할 수 있게 되었다.
협업 툴 잔디(JANDI)를 사용하는 기업들도 Zapier를 활용해 생산성을 높이고 있다. 스마트시트의 업무 요청이 업데이트되면 자동으로 Gmail이 발송되고 담당자에게 잔디 알림이 전송되는 식이다. 매주 금요일 저녁마다 "사무실 소등 확인" 메시지가 자동 발송되도록 설정해 두면, 누군가가 매번 기다렸다가 메일을 보낼 필요가 없어진다.
그리고 이제 ChatGPT와 Zapier가 결합되고 있다. ChatGPT가 Zapier를 호출해서 "이메일 요약하고, Slack에 알림 보내고, 스프레드시트에 기록"하는 복잡한 워크플로우를 자연어 한 줄로 실행할 수 있게 된 것이다.
이처럼 AI와 외부 도구의 연결이 폭발적으로 확대되고 있다. OpenAI의 GPT Store는 이런 흐름을 더욱 가속화하고 있다. 초기 ChatGPT Plugins는 2023년 3월에 등장했지만 개발자만 참여할 수 있어 1000개 선에서 성장이 멈췄다. 전환점은 2023년 11월에 찾아왔다. OpenAI는 "코딩 없이 대화로 만드는 맞춤형 AI" GPTs를 공개했고, 결과는 폭발적이었다. 2024년 1월 GPT Store 오픈 당시 이미 300만 개의 GPTs가 만들어졌고, 그중 16만 개가 스토어에 등록되었다.
실제 활용 사례를 보자. 한국에서 만든 '챗GPT'는 한국 문화와 언어에 최적화된 응답 스타일을 제공해 1100만 회 이상 사용됐다. Consensus는 2억 편의 학술논문을 검색하는 GPT로, "AI가 광고산업에 미치는 영향"이라고 물으면 관련 논문 4편을 인용하며 구체적인 답변을 제공한다. Canva는 디자인 도구와 연결되어 "회사 소개 PPT 만들어줘"라고 요청하면 자동으로 디자인을 생성하고 ChatGPT 안에서 바로 수정할 수 있다.
핵심은 이것이다. ChatGPT 혼자 있을 때는 "답변만 주는 똑똑한 동료"였다. 하지만 GPTs와 Zapier가 연결된 ChatGPT는 "실제로 일을 처리하는 비서"가 된다. 유튜브가 "영상 콘텐츠 제작을 방송사에서 일반인에게" 민주화했듯이, GPT Store는 "AI 서비스 제작을 개발사에서 일반인에게" 민주화하고 있다.
구글, 마이크로소프트, OpenAI, Anthropic 등 생성형 AI 시장의 주요 기업들은 모두 두 가지에 집중하고 있다. 첫째는 더 나은 모델 개발이고, 둘째는 더 많은 외부 서비스와의 연결이다. 왜 이들은 API 생태계 구축에 이토록 집중할까?
답은 간단하다. AI 모델 자체의 성능 차이는 시간이 지나면 줄어들지만, 생태계의 크기는 격차가 벌어지기 때문이다. 주요 기업들의 전략을 하나씩 살펴보자.
OpenAI는 두 방향으로 동시에 움직인다.
첫째, API 개방이다. "우리 GPT 기술을 가져다 쓰세요"라는 전략이다. 현재 수천 개 서비스가 GPT API를 사용한다. Notion의 AI 글쓰기 도우미, Duolingo의 대화형 언어 학습 튜터, Khan Academy의 맞춤형 과외 선생님... 사용자는 ChatGPT를 직접 방문하지 않아도 각자가 쓰는 앱 안에서 OpenAI 기술을 경험한다.
둘째, GPT Store다. 반대로 외부 서비스를 ChatGPT 안으로 끌어들인다. 논문 검색(Consensus), 디자인 제작(Canva), 업무 자동화(Zapier)... 모두 ChatGPT 안에서 해결된다. 2024년 1월 기준 300만 개의 GPTs가 만들어졌다. 외부 서비스는 ChatGPT의 2억 사용자에게 무료로 노출되고, OpenAI는 사용자를 플랫폼에 묶어둘 수 있다.
Microsoft는 OpenAI의 가장 큰 파트너다. 130억 달러를 투자하고 Azure 클라우드를 통해 OpenAI 서비스를 독점 제공한다. 그리고 이 기술을 자사 제품 전체에 심었다.
Office 365의 Copilot이 대표적이다. Word에서는 문서 초안을 작성하고, Excel에서는 데이터를 분석하며, PowerPoint에서는 디자인을 제안한다. Windows 11에도 Copilot이 탑재되어 설정 변경부터 파일 검색까지 자연어로 처리한다. GitHub Copilot은 개발자에게 코드를 제안한다.
Microsoft의 전략은 명확하다. "당신이 쓰는 모든 도구에 AI를 심어놓겠다." 직장인이 하루 종일 Microsoft 제품을 쓴다면, 하루 종일 AI를 경험하게 만드는 것이다.
Google은 자체 모델 Gemini를 앞세운다. 전략은 두 갈래다.
첫째, Google Workspace 통합이다. Gmail에서는 이메일을 작성하고, Docs에서는 문서를 요약하며, Sheets에서는 데이터를 분석한다. Android 스마트폰에는 Gemini가 기본 탑재되어 음성 비서로 작동한다. Google 검색에도 AI 요약 기능이 들어갔다.
둘째, Gemini API 개방이다. 외부 개발자들도 Gemini를 활용할 수 있게 했다. 특히 무료 사용량이 많아 스타트업들이 선호한다. Google은 거대한 자사 생태계(검색, Android, Workspace)를 기반으로 외부로도 확장한다.
Anthropic은 Claude API의 품질과 안정성을 강조하며 금융, 의료 등 기업 시장을 공략한다. "가장 안전하고 신뢰할 수 있는 AI"라는 포지셔닝이다.
Amazon은 Bedrock 서비스로 다른 전략을 택했다. OpenAI, Anthropic, Meta 등 여러 AI 모델을 한 곳에서 선택해 쓸 수 있는 '마켓플레이스'를 만들었다. 고객은 용도에 따라 모델을 골라 쓰고, Amazon은 클라우드 인프라(AWS) 사용료를 받는다.
이들의 공통점은 무엇인가? 모두 네트워크 효과를 노린다는 것이다.
많은 도구가 연결될수록 사용자가 유입된다. 사용자가 증가하면 더 많은 도구 제작자가 유입된다. 도구가 증가하면 플랫폼 가치가 상승한다. 이 순환이 반복되면서 격차는 벌어진다.
우리는 이미 이 결말을 안다. PC 운영체제 시장에서 Windows가, 모바일 운영체제 시장에서 Android와 iOS가, 클라우드 시장에서 AWS가 그렇게 1위를 굳혔다. 2위는 존재하지만 1위를 따라잡지 못한다. AI 플랫폼 경쟁도 같은 길을 걷고 있다.
그래서 빅테크들은 더 나은 모델 개발만큼이나 더 많은 연결 확보에 사활을 건다. Apple의 앱스토어가 iPhone을 지배 불가능한 플랫폼으로 만들었듯이, API 생태계가 AI 플랫폼의 해자(moat)가 되는 것이다.
투자 관점에서는 "이 AI 기업이 얼마나 많은 외부 서비스와 연결돼 있는가?"를 봐야 한다. GPT Store의 300만 GPTs, Microsoft 365의 전 제품 통합, Google Workspace의 10억 사용자... 이런 것들이 진짜 경쟁력이다. 경쟁사가 비슷한 성능의 모델을 만들어도 이 생태계를 단기간에 따라잡을 수 없다.
기업 AI 도입 관점에서는 "우리는 어떤 AI를 쓸 것인가?"만큼 "그 AI가 우리 기존 시스템과 얼마나 잘 연결되는가?"가 중요하다. 회사가 Microsoft 365를 쓴다면 Copilot이, Google Workspace를 쓴다면 Gemini가 자연스럽다. 아무리 성능이 좋아도 고립된 AI는 업무 흐름을 방해한다.
결국 AI 시대의 승자는 가장 똑똑한 모델을 만드는 기업이 아니라, 가장 많은 연결을 확보하는 기업이 될 가능성이 크다.
지난 4주간의 여정을 돌아보자.
9주차에서 우리는 AI의 두뇌(LLM)를 이해했다. AI는 "확률적으로 다음 단어를 예측"하는 방식으로 작동한다는 것을 배웠다.
10주차에서는 AI 교육(Fine-tuning)을 배웠다. 백과사전 같은 AI를 특정 분야 전문가로 만드는 방법이었다.
11주차에서는 AI의 참고서(RAG)를 다뤘다. 오픈북 테스트처럼 외부 자료를 참조하게 해서 거짓말을 방지하는 기술이었다.
그리고 이번 주, 우리는 AI의 행동(API)을 배웠다. 폐쇄된 천재를 세상과 연결하는 방법이었다.
이제 당신은 엔지니어와 대등하게 대화할 준비가 되었다.
개발자가 "이 기능은 외부 API 연동이 필요해서 개발 기간이 2주 더 걸립니다"라고 말한다면, 과거의 당신은 "네... 알겠습니다"라고 대답했을 것이다. 하지만 지금의 당신은 다르다. "어떤 API를 쓸 건가요? Function Calling 방식이면 GPT Store에 있는 도구 활용도 고려해 보면 어떨까요? 개발 없이 먼저 프로토타입 만들어볼 수 있을 것 같은데요."
PART 3에서 우리는 AI '기술'의 작동 원리를 배웠다. 다음 PART 4에서는 이 기술이 '산업'을 어떻게 바꾸는지, 그 속에서 우리는 어떤 기회를 잡을 수 있는지 통찰할 것이다.
다음 주 주제는 "온디바이스 AI - 내 손 안으로 들어온 인공지능"이다. AI가 클라우드에서 내 스마트폰과 노트북 안으로 들어올 때, 어떤 변화가 일어날까?
매일 아침 출근길에 여러 앱을 오가며 뉴스를 확인하고 주식 시세를 보는 데 시간을 쓰고 있지 않은가?
이번 주는 AI와 자동화 도구로 이 시간을 되찾아보는 미션이다.
Step 1: 어떤 정보가 필요한가?
매일 또는 매주 정기적으로 확인하고 싶은 정보를 하나 골라보자.
매일 아침 7시, 내가 관심 있는 주제(예: AI 산업, 부동산 정책)의 주요 뉴스 3건
매일 아침 8시, 미국 주요 지수(S&P500, 나스닥)와 내 관심 종목의 전날 마감 시세
매일 오전 9시, 비트코인/이더리움 시세와 주요 뉴스
매주 월요일 오전, 이번 주 날씨 예보와 미세먼지 정보
Step 2: Zapier로 직접 만들어보기
Zapier는 무료 계정으로도 월 100회까지 자동화를 실행할 수 있다. 매일 1회 실행이라면 한 달 내내 무료로 쓸 수 있다는 뜻이다. 다음 단계를 따라 해보자.
https://zapier.com 접속 후 무료 가입
우측 상단 "Create" 버튼 클릭 → "Zaps" 선택
Trigger(언제) 설정:
- 검색창에 "Schedule by Zapier" 입력 후 선택
- "Every Day" 선택 → 원하는 시간 설정 (예: 오전 7시)
- "Continue" 클릭
Action(무엇을) 설정:
- 검색창에 "ChatGPT" 입력 후 선택
- "Conversation" 선택
- 프롬프트 입력 예시: "오늘 AI 산업 관련 주요 뉴스 3건을 요약해 줘"
- "Continue" 클릭
결과받기 설정:
- 다시 Action 추가 버튼 클릭
- "Gmail" 또는 "Slack" 검색 후 선택
- Gmail: "Send Email" 선택 → 내 이메일 주소 입력
- 이메일 본문에 이전 단계의 ChatGPT 응답 연결
- "Continue" 후 "Publish" 클릭
설정이 어렵다면 Zapier의 "Templates" 메뉴에서 "Daily News Summary"나 "Stock Price Alert" 같은 템플릿을 검색해 바로 사용할 수도 있다.
실제로 시도해 보았는가? 결과에 만족했는가? 이 작은 자동화가 당신의 아침 루틴을 어떻게 바꿀지 상상해 보라.
OpenAI - GPT Store를 소개합니다
제일기획 매거진 - 취향 저격 AI 서비스가 쏟아진다, GPT 스토어가 바꿀 일상
요즘IT - '애플' 만난 GPT 스토어의 미래는?
스코디 블로그 - Zapier 사용법 정복하기
JANDI 블로그 - 일 잘하는 팀의 실전 '재피어' 활용법
SOCAR 기술 블로그 - 노코드 자동화 툴로 일잘러 데이터 분석가 되기
Oracle - API란 무엇인가
OpenAI - Function Calling