내가 운영하고 있는 서비스에 ChatGPT를 직접 불러와 활용하기
앞에 썼던 글 - GPT 안에 App, APP 안에 GPT (1)에 이어지는 글입니다. :)
OpenAI Dev Day가 알려준 또 하나의 방향
2025년 OpenAI Dev Day에서는 Apps in ChatGPT SDK가 발표되며 “GPT 안에 앱”이라는 개념이 spotlight를 받았다. 하지만 같은 행사에서 발표된 또 하나의 기술이 있다. Agent Kit — 즉 ‘앱 안에 GPT’를 구현하는 기술이다.
이제 서비스 운영자는 앱·웹·챗봇·고객센터·사내시스템 등 자신이 운영하는 모든 공간에 ChatGPT의 능력을 자연스럽게 탑재할 수 있게 된다.
한마디로 AI 플랫폼으로서의 ChatGPT → AI 인프라로서의 ChatGPT로 확장된 것이다.
Agent Kit은 개발자가 자신의 서비스에서 ChatGPT를 활용할 수 있도록 만든 도구이자 SDK이며, 아래와 같은 도구들로 구성되어 있다.
Agent Builder: 멀티 에이전트 워크플로 생성 및 버전화를 위한 시각적 canvas (코딩 없이(또는 최소 코딩) 에이전트를 만들고 설정하는 빌더)
Connector Registry: 관리자가 OpenAI 제품과 데이터 및 도구의 연결을 관리할 수 있는 중앙 위치
ChatKit: 사용자 제품에 맞춤화 가능한 채팅 기반 에이전트 경험을 임베딩하기 위한 툴킷 (서비스 내부에 ChatGPT(LLM) 대화 인터페이스를 손쉽게 삽입하기 위해 만든 UI SDK)
특히나 지금 제공하고 있는 Agent Builder는 시각적으로 빠르게 연결하며 쉽게 구성할 수 있는 구조이기 때문에 직관적으로 앱 내에 GPT를 넣어 구성할 수 있게 된 것으로 보여진다.
그리고 ChatKit는 바로 프론트엔드에 UI를 쉽게 적용할 수 있는 구조를 제공하기에 내 서비스 안에 GPT를 이용해 서비스 경험을 높여주는데 있어 필수적인 SDK이다.
이러한 구조는 기존의 단순 API 호출을 넘어서, 서비스 안에서 GPT가 업무·데이터·도구를 실행할 수 있는 구조를 목표로 한다. 예를 들어 내 앱 안에서 GPT는 다음을 수행할 수 있다.
금융 서비스에서 고객의 카드·대출 데이터 조회 및 요약
쇼핑 앱에서 사용자의 장바구니를 기반으로 추천 상품 제공
헬스케어 앱에서 운동·식단 로그 분석 및 플랜 생성
CS 시스템에서 문의 내역·매뉴얼·정책을 검색 후 해결책 제시
기존 챗봇의 “텍스트 질문–텍스트 답변” 패턴을 넘어 GPT가 서비스 내부의 도구를 직접 실행하고 결과를 반환하는 구조라는 점이 가장 큰 변화다.
Agent Kit의 핵심은 GPT가 다음을 할 수 있도록 만드는 것이다.
서비스의 내부 데이터에 접근
내부 시스템의 기능을 호출
사용자 의도에 맞게 결과를 반환
이를 통해 GPT는 단순 상담원이 아니라 실행력을 가진 “에이전트(Agent)”가 된다.
공식 문서를 기반으로 정리하면 다음과 같다.
Agent Kit 설치 및 샘플 프로젝트 분석
서비스 내부 기능(API, DB, 사내 시스템 등)과 연결할 actions 정의
도구 실행 규칙 및 권한 설정
ChatGPT가 사용할 프롬프트·의도·워크플로우 정의
사용자 서비스 화면에 UI·대화 인터페이스 적용
AgentKit을 사용하여 서비스 내 다양한 Widget 또한 구축할 수가 있는데, 해당 내용은 아래 링크에서도 확인해볼 수 있다. https://widgets.chatkit.studio/gallery
결과적으로 사용자의 질문 → GPT가 판단 → 서비스 내부 기능 실행 → 결과 반환이라는 완성된 흐름이 만들어진다. 이 경험이 자연스럽게 연결될수록 사용자는 “GPT가 앱을 대신 조작해주는 느낌”을 받게 된다.
기존 앱 UX는
탐색 → 2) 메뉴 이동 → 3) 기능 선택 → 4) 결과 확인 이라는 구조였다.
하지만 GPT가 앱 안에서 동작하면 흐름은 다음처럼 바뀐다.
“지난달 우리 가족 외식비 추이 차트 보여줘.”
→ GPT가 내부 데이터를 분석해 차트 생성
→ 앱 UI로 결과 표시
사용자는 이제 목적을 기능을 탐색하고 조작하는 것이 아니라, 대화를 통해 달성하게 된다. 그리고 이것이 앞으로의 UX가 맞이할 가장 큰 전환점이라고 생각한다.
그렇다면 앞으로의 서비스 경쟁력은 얼마나 많은 기능을 넣느냐가 아니라, AI 플랫폼을 얼마나 자연스럽고 깊이 있게 활용해 사용자의 목적을 실현시키느냐로 평가될 가능성이 높다.
이러한 변화 속에서 기존의 프로덕트 매니저와 프로덕트 디자이너는 어떤 역할을 맡게 될까?
화면과 플로우를 설계하는 사람이 아니라, 사용자의 의도와 맥락을 설계하는 사람으로 진화하게 될지도 모른다. 그리고 그다음에 펼쳐질 세상은 아직 아무도 본 적이 없다.
어떤 제품이 등장하고, 어떤 경험이 탄생하며, 어떤 역할이 새롭게 만들어질지..
그 변화의 한가운데를 함께 목격하게 된다는 사실만으로도 무척 흥미롭다.
Reference
- ChatKit 공식 가이드: 「ChatKit – OpenAI API」 OpenAI Platform
- JS/프론트엔드 예시 문서: 「OpenAI Agent Embeds – ChatKit JS」 openai.github.io
- 위젯 기능 가이드: 「ChatKit widgets」 Chatkit widget
- 테마 가이드: 「Theming and customization in ChatKit」 Theme Guide
- 외부 튜토리얼(한글 포함): 「OpenAI 챗키트 사용법 | 10분 만에 AI 챗봇 구현하기」 라이즈 모먼트 AI
- 깃허브 샘플 코드: 「openai/openai-chatkit-advanced-samples」 GitHub
- https://openai.com/ko-KR/index/introducing-agentkit
- https://platform.openai.com/docs/guides/agents
- https://platform.openai.com/docs/guides/chatkit#embed-chatkit-in-your-frontend