생성형 AI 프로젝트를 성공적으로 수행하기 위해
출처 : gttkorea.com오늘날 AI 기술은 빠르게 진화하며, 다양한 분야에서 광범위하게 사용되고 있습니다. 특히, 생성형 AI는 메타버스영역까지 그 활용 범위가 확대되고 있습니다. 하지만 많은 기업들은 여전히 생성형 AI 를 도입하는 데 필요한 기본적인 요소들을 이해하는 데 어려움을 겪고 있습니다. 이 글에서는 전통적인 AI 프로젝트와 생성형 AI 프로젝트의 차이를 비교하며, 생성형 AI 에 필요한 역량들을 살펴보겠습니다.
전통적인 AI 프로젝트와의 차별점 인식
먼저 생성형 AI 프로젝트를 기존 전통적인 AI 프로젝트와 같은 시선으로 바라봐서는 안됩니다.
전통적인 AI 프로젝트는 문제 정의부터 알고리즘 선택, 그리고 제품화에 이르기까지 복잡한 단계로 이루어집니다. 도메인 전문가, 데이터 엔지니어, 머신 러닝(ML) 엔지니어, 그리고 애플리케이션 개발자가 참여하며,
특히 데이터 엔지니어, 머신 러닝(ML) 엔지니어의 역량에 따라 프로젝트의 성공과 실패가 나누어지는 경우가 많습니다. 모델구축이라는 단계에서 어마어마한 시간과 리소스가 소요됩니다. 또한 현실적으로 데이터 수집의 어려움, 비즈니스 요구 사항의 모호함등이 프로젝트의 난이도를 높이게 되고, 결과적으로 많은 돈을 쏟아부었음에도, 만족하지 못한 결과가 나오게 됩니다.
생성형 AI 프로젝트의 간소화된 단계
반면, 생성형 AI 프로젝트는 전통적인 방식보다 더 간소화된 과정을 따릅니다. 왜냐하면 모델구축이라는 단계를 뛰어 넘고 이미 만들어진 대규모 언어 모델(LLM)을 활용하기 때문입니다. 기업들은 자체 AI 모델을 처음부터 구축할 필요 없이 OpenAI의 GPT-4와 같은 사전 훈련된 모델을 활용할 수 있습니다.
LLM 모델을 활용한 AI 프로젝트의 가장 큰 장점 중 하나는 비용을 절감하고 시간을 크게 단축할 수 있다는 점입니다.
그런데, 기존 방식과 다르기에 다음과 같은 역량이 필요해졌습니다.
프로세스 중심 사고: 업무의 일부 개선이 아닌, 전체 업무 개선관점에서 접근하는 것이 필요합니다.
LLM 오케스트레이션: 적합한 LLM모델을 선택하고, 프롬프트 엔지니어링, 검색 증강 생성(RAG), 반복적인 테스트 및 검증.
기존 시스템 통합 및 연계 : 적절한 데이터 파이프라인을 구축하여 기존 시스템과의 연계를 강화합니다.
여기서 LLM 오케스트레이션이란? 단순한 LLM 모델 적용이 아니라, 업무 프로세스를 효율적으로 분해하고 결합하여 문제 해결에 최적화된 모델을 구성하는 과정입니다. (싱글모달,멀티모달을 쓸 수도 있고, 하나의 LLM모델이 아닌 여러 LLM모델들도 사용할 수 있습니다.)
그리고, 검색 증강 생성(RAG) 같은 개발 패턴을 통해 요구 사항에 맞는 정보를 추출하고, 템플릿화와 매개변수를 조정하여 사용자 맞춤형 결과를 도출하는 역할을 합니다.
예를 들어, 견적문의 이메일을 받고 자동으로 이 문의에 대한 답변을 만드는 생성형 AI 프로젝트를 구축한다고 가정해봅시다. 첫 번째 단계에서는 LLM을 사용하여 이메일에서 문의 요구 사항을 추출합니다. 그런 다음, 이 요구 사항과 일치하는 적합한 자료를 검색하여 검색 증강 생성(RAG)을 수행합니다. 벡터 데이터베이스에서 의미 검색을 사용하여 이를 수행하고, 마지막으로 검색된 정보를 바탕으로 LLM을 통해 답변 이메일을 생성합니다.
이 과정에서 LLM은 자동으로 데이터를 추출하고 분석할 뿐만 아니라, 최종 사용자에게 적합한 응답을 제공하는 전체 프로세스에서 중요한 역할을 하고 있습니다.
마치며
생성형 AI는 전통적인 AI 프로젝트와는 달리, 사전 훈련된 LLM모델과 간소화된 오케스트레이션을 통해 비즈니스 문제 해결에 초점을 맞추도록 해주었습니다. 이를 통해 기업은 비용 절감과 효율성 향상의 이점을 얻을 수 있으며, AI 기술의 대중화에도 기여할 수 있습니다. 생성형 AI가 모든 사람의 소유가 되는 미래는 단순히 기술적 도구를 넘어, 더 나은 비즈니스 성과와 혁신을 가져다줄 것입니다. 기업은 이제 LLM이라는 강력한 도구를 활용하여, 보다 빠르고 효과적인 AI 프로젝트를 구축하는 데 집중할 때입니다.
