LUKE

온디바이스 AI의 미래 - TecAce의 로드맵

2026-03-13T22:50:12Z

온디바이스 AI의 미래 지난 9편의 연재를 통해 우리는 클라우드 비용과 보안 문제의 해결책인 '온디바이스 AI'의 개념부터, 경량화 모델(SLM)의 선정과 양자화, 오프라인 STT/TTS의 통합, 로컬 RAG 구축, 그리고 AI SuperVision을 활용한 깐깐한 품질 검증과 하드웨어 성능 최적화까지 챗봇 개발의 모든 여정을 살펴보았습니다. 대장정의 마

온디바이스 성능 한계 도전 - 발열, 배터리, 그리고 응답 속도

2026-03-13T22:50:12Z

성능 한계 도전발열, 배터리, 그리고 응답 속도 지난 8편에서는 'AI SuperVision'을 통해 챗봇의 환각(Hallucination)을 잡아내고 답변의 품질을 높이는 과정을 공유했습니다. 모델이 똑똑해지고 정확해지는 것은 기쁜 일이지만, 실제 스마트폰(Galaxy S25 FE 등) 환경에서 이를 구동할 때 우리는 매우 물리적이고 현실적인 벽에 부딪

환각(Hallucination) 잡기 - SuperVision 테스트 결과 분석

2026-03-13T22:50:12Z

8편: 환각(Hallucination) 잡기SuperVision 테스트 결과 분석 지난 7편에서는 스마트폰 내부의 챗봇 앱과 PC의 AI SuperVision 서버를 연결하여, '질문 주입부터 답변 추출, 자동 채점'까지 이어지는 테스트 파이프라인을 구축했습니다. 이제 수십 개의 테스트 케이스를 자동으로 돌려볼 수 있는 환경이 마련되었습니다. 그렇다면 과

자동화된 챗봇 테스트 파이프라인 - SuperVision 구축기

2026-03-13T22:50:12Z

SuperVision 구축기자동화된 챗봇 테스트 파이프라인 지난 6편에서는 생성형 AI의 고질적인 환각(Hallucination) 현상을 객관적으로 평가하기 위해 Testworks의 'AI SuperVision' 도구를 도입한 배경을 설명했습니다. 하지만 이 도구를 실제 우리 프로젝트에 적용하기 위해서는 한 가지 큰 기술적 장벽을 넘어야 했습니다. 바로

AI 품질, 어떻게 검증할까? - Introduction to SuperVision

2026-03-13T22:50:12Z

AI 품질, 어떻게 검증할까? (Introduction to SuperVision) 지난 5편에서는 로컬 RAG(검색 증강 생성)와 멀티 컨텍스트 스위칭을 통해 온디바이스 챗봇에 우리 회사만의 지식을 주입하는 과정을 살펴보았습니다. 하지만 챗봇이 지식을 얻었다고 해서 모든 문제가 해결되는 것은 아닙니다. "이 챗봇이 엉뚱한 대답을 꾸며내지 않고, '진짜

문맥을 이해하는 챗봇 - 로컬 RAG와 멀티 컨텍스트 구현

2026-03-13T22:50:12Z

문맥을 이해하는 챗봇로컬 RAG와 멀티 컨텍스트 구현 지난 4편에서는 기기 내부에서 동작하는 STT와 TTS를 연동하여 챗봇에게 '눈과 귀와 입'을 달아주었습니다. 하지만 챗봇이 아무리 사람의 말을 잘 알아듣고 자연스럽게 대답하더라도, 우리 회사의 사내 규정이나 특정 제품의 매뉴얼 등 '도메인 지식'을 모른다면 업무용 비서로서는 반쪽짜리에 불과합니다. 소

챗봇의 귀와 입: 온디바이스 STT/TTS 통합기 - On-Device AI Chatbot

2026-03-13T22:50:11Z

챗봇의 귀와 입온디바이스 STT/TTS 통합기 지난 3편에서는 거대 언어 모델을 스마트폰의 제한된 리소스에 맞게 압축하고, 모바일 NPU를 활용해 추론 속도를 끌어올리는 최적화 과정을 살펴보았습니다. 빠르고 똑똑하게 사고하는 '뇌(Brain)'를 기기 내부에 탑재하는 데 성공했다면, 이제는 사용자와 자연스럽게 상호작용할 수 있는 '귀와 입'을 달아줄 차례

모바일 AI의 핵심 기술: 양자화 - 양자화(Quantization)와 NPU 최적화

2026-03-13T22:50:11Z

Core Technologies of Mobile AIQuantization and NPU Optimization 지난 2편에서는 TecAce 프로젝트에 적합한 소형 언어 모델(SLM)로 Gemma-2B를 선정하고, 스마트폰의 제한된 리소스 환경에서 CPU와 GPU를 활용해 성능을 테스트한 과정을 공유했습니다. 하지만 테스트 결과, 초기 구동 지연과 메모

내 손안의 거대언어모델: 모바일용 SLM - 모바일용 SLM(Small Language Model) 선정 전략

2026-03-13T22:50:11Z

내 손안의 거대언어모델모바일용 SLM(Small Language Model) 선정 전략 1편에서는 클라우드 비용과 데이터 보안 문제를 해결하기 위해 '온디바이스 AI'가 필수적인 패러다임으로 자리 잡고 있음을 확인했습니다. 그렇다면 데이터센터의 거대한 GPU 랙에서나 돌아갈 법한 수백억, 수천억 개 파라미터의 거대 언어 모델(LLM)을 어떻게 스마트폰이라

왜 지금 '온디바이스 AI'인가? - On-Device AI Chatbot

2026-03-13T22:50:11Z

왜 지금 '온디바이스 AI'인가? 최근 몇 년간 챗GPT를 필두로 한 생성형 AI는 우리의 업무와 일상을 혁신적으로 바꾸어 놓았습니다. 하지만 이처럼 강력한 AI 서비스들의 이면에는 '클라우드 의존성'이라는 공통된 한계가 존재합니다. 사용자의 질문이 클라우드 서버로 전송되고, 거대한 데이터센터에서 연산된 결과를 다시 기기로 받아보는 구조는 필연적으로 데이

AI 에이전트 기반의 업무 혁신과 미래 전략 - 2026 슬랙봇(Slackbot) 웨비나

2026-02-26T19:06:15Z

최근 있었던 Slack 코리아의 슬랫봇 웨비나 내용을 정리해 보았습니다. 1. 웨비나 개요 및 비전: '에이전트 기반 엔터프라이즈'의 도래 2026년 1월 13일 공식 출시된 '슬랙봇(Slackbot)'을 통해 기업이 인적 자본을 최적화하고 생산성 한계를 돌파하기 위한 '에이전트 기반 엔터프라이즈(Agent-based Enterprise)'로의 전환 전략

DevFree Chatbot Platform - at SK AI Summit

2026-02-10T20:50:02Z

2025년 11월, AX Pro 프로젝트가 한참 진행 중일 때 작성된 SK AI Alliance 뉴스 내용입니다. AX Pro & AI Supervision Set a New Standard for Enterprise AI Operations TecAce, a global AI solution provider headquartered in Bellev

챗봇 서비스 검증 및 방법론 - AI 에이전틱 워크플로우를 활용

2026-02-10T20:50:02Z

2025년 11월, AX Pro 프로젝트가 한참 진행 중일 때 작성된 케이스스터디 내용입니다. 프로젝트 개요 스마트폰 제조사의 제품 정보를 제공하는 리테일 챗봇 프로젝트는, 온라인 환경 에서 고객 문의에 신속하게 대응하고, 제품 상담의 품질을 한 단계 끌어올리기 위해 추진되었습니다. 챗봇은 단순 정보 제공을 넘어, 실제 사용자의 상황과 문의 흐름을 파악

RAG 기반 챗봇 지식베이스 구축 - AI 에이전틱 워크플로우 활용

2026-02-10T20:50:02Z

2025년 11월, AX Pro 프로젝트가 한참 진행 중일 때 작성된 케이스스터디 내용입니다. 배경 및 도전 과제 최근 기업들은 단순한 챗봇을 넘어 고객에게 첨단 이미지를 제고하면서도 친밀하게 다가갈 수 있는 새로운 고객 경험을 요구하고 있습니다. 이러한 트렌드에 맞춰 AI 아바타를 활용한 다양한 솔루션이 등장하고 있습니다. IT 컨설팅 관점에서는 아바

AI와 함께 걷는 법을 배우다 - 혼자가 아닌 '함께' 일한다는 것

2026-02-10T20:50:02Z

혼자가 아닌 '함께' 일한다는 것 지난 4편의 글을 통해 AX Pro의 도입부터 실전 운영까지의 과정을 가감 없이 공유해 드렸습니다. 브랜드 관리자이자 PO로서 수많은 툴을 다뤄봤지만, AX Pro만큼 '인간과 AI의 협업'이라는 본질에 집중한 플랫폼은 드물었습니다. 단순히 답변을 잘하는 기계를 들인 것이 아니라, 우리 팀의 철학을 이해하고 전문가의 손길

감이 아닌 ‘데이터’로 관리하는 AI 팀원 - 오퍼레이션의 진화

2026-02-10T20:50:02Z

이제 AI 관리도 ‘지표’로 합니다 예전에는 챗봇이 일을 잘하고 있는지 확인하려면 일일이 대화 로그를 뒤져봐야 했습니다. 하지만 AX Pro를 도입한 후, 제 아침 루틴이 바뀌었습니다. 대시보드의 ‘Performance Timeline’을 통해 지난밤 사이 우리 AI의 성과 추이를 한눈에 확인하는 것이죠. Module Control의 정교함: 대시보드

AI 길들이기: "내 챗봇이 달라졌어요" - 운영 및 피드백 편

2026-02-10T20:50:02Z

챗봇의 사춘기, 대시보드로 잡아내기 AI를 배포했다고 끝이 아닙니다. 진짜 업무는 지금부터죠. AX Pro의 메인 화면인 'Performance Radar'를 처음 봤을 때, 저는 마치 성적표를 받아든 기분이었습니다. 오각형 지표: Relevance(관련성), Accuracy(정확성), Toxicity(유해성) 등 6가지 지표가 실시간으로 분석되어 오각

기적의 5분: 코드 한 줄 없이 '전용 AI' 만들기 - 개발자요? 아니요, '저' 혼자 다 했는데요?

2026-02-10T20:50:02Z

개발자요? 아니요, '저' 혼자 다 했는데요? 보통 기업용 솔루션을 도입한다고 하면 개발팀에 기안을 올리고, 서버 사양을 논의하고, 복잡한 API 문서를 읽느라 한 달은 족히 걸리곤 합니다. 하지만 AX Pro는 '전문가 증강'이라는 이름에 걸맞게, 전문가가 직접 도구를 다룰 수 있도록 진입장벽을 허물어뜨렸습니다. 실제로 제가 'Create Accoun

AI가 내 일자리를 뺏는다고요? - 제발 좀 뺏어갔으면 좋겠습니다.

2026-02-10T20:50:02Z

AI 시대, 정말 우리 자리가 위태로울까? 요즘 어딜 가나 AI 이야기뿐입니다. 뉴스에서는 AI가 인간의 일자리를 대체할 것이라는 무시무시한 경고가 쏟아지고, 직장인 커뮤니티에는 "이러다 조만간 짐 싸는 거 아니냐"는 농담 반 진담 반의 걱정이 가득하죠. 하지만 브랜드 관리자이자 PO(Product Owner)로 일하며 하루 24시간이 모자란 저의 솔직한

엔터프라이즈 AI의 새로운 표준 - 인간 중심의 전문가 증강과 오퍼레이션 혁신

2026-02-10T20:50:01Z

1. 서론: 신뢰의 격차를 넘어서는 '전문가 증강'의 시대 지난 수년간 기업들은 생성형 AI 도입에 막대한 투자를 감행했으나, 약 95%의 프로젝트가 가시적인 성과를 내지 못했습니다. 이는 90%의 정확도에 가려진 10%의 오류, 즉 '신뢰의 격차(Trust Gap)' 때문이었습니다. 고위험 비즈니스 환경에서 통제되지 않는 AI는 자산이 아닌 리스크입니다.