프롤로그 : 생성형 AI를 더욱 똑똑하게 활용하는 방법

  생성형 AI 활용을 위한 비법노트

챗GPT와 함께 생성형 AI 붐이 시작된 지도 벌써 2년여라는 짧지 않은 시간이 지났습니다. 그동안 많은 분들이 생성형 AI라는 마법 같은 도구를 업무와 일상생활에 보다 잘 활용하기 위해 고군분투하며 많은 시행착오를 겪어왔습니다.

저 역시 현업에서 일하면서 개인과 기업을 막론하고 생성형 AI 활용에 대한 관심과 니즈가 커짐에 따라 사람들의 기술에 대한 전반적인 이해도가 이전과 다르게 높아지고 있음을 몸소 느끼고 있습니다. 사람들의 관심사는 분명히 바뀌고 있습니다. 기존에 '생성형 AI의 정체가 도대체 뭐야?'라는 질문에서 이제는 '생성형 AI를 잘 쓰러면 어떻게 해야 하지?' 라는 질문으로 포커스가 옮겨가고 있는 느낌이라고 할까요?

이에 맞추어 생성형 AI를 사용자들이 편리하게 활용할 수 있게 도와주는 서비스들 역시 많이 등장하고 있습니다. 챗GPT나 Gemini 그리고 Claude와 같은 기존의 채팅 인터페이스 기반의 서비스를 넘어서 구글이나 네이버와 같은 검색엔진을 대체하기 위한 시도로 등장한 퍼플렉시티(perplexity)나 솔트룩스의 구버(goover)와 같은 서비스들이 바로 그것입니다. 이들 서비스는 기존의 검색엔진과 챗GPT 사이의 그 어딘가를 지향하며 '지식 검색'이라는 패러다임 자체를 변화시키려는 시도를 이어가고 있습니다.

출처 : B2B Hackers

이처럼 새로운 생성형 AI 기반 서비스들을 접하다 보면 드는 생각이 있습니다. 생성형 AI의 미래에는 단순히 챗GPT에게 올바른 프롬프트로 질문을 잘하고 더 나은 답을 얻는 것보다 훨씬 더 근본적이고 큰 무언가가 있을 것이라는 점입니다. 퍼플렉시티의 CEO 아라빈드 스리니바스는 언젠가 생성형 AI 에이전트(agent)가 '지식 검색'을 뛰어넘어 많은 것들을 자동화해주는 세상이 올 것이라고 말합니다.

앞으로 우리는 검색 > 분석 > 인사이트 도출이라는 기존의 지식 활동 프로세스에서 앞으로 우리는 좋든 싫든 생성형 AI에 거의 모든 부분을 의존하게 될지도 모릅니다. 예를 들어 나만의 생성형 AI 개인비서가 학습된 데이터를 바탕으로 나의 성향을 파악하고 반영하여 비행기 티켓을 예약하고 필요한 물건을 구매해 주는 세상이 온다는 것이지요.

기술적인 관점에서 이야기하자면 시간이 지나면서 파인튜닝이나 프롬프트 엔지니어링과 같은 방법들을 단편적으로 적용하는 것 만으로는 생성형 AI를 활용하는 데에 있어서 원하는 결과를 얻기 힘들다는 사실 역시 점점 더 명백해지고 있습니다. 이에 대한 돌파구로서 다양한 방법들을 조합한 더욱 정교하고 세밀한 접근이 필요합니다.

현업 AI Architect로 제가 하는 일은 고객의 니즈에 맞게 LLM을 활용할 수 있는 아키텍처를 설계하고 제안하며 개발팀과 협력하여 더욱 좋은 서비스를 만들어가는 일입니다. 생성형 AI와 관련된 고민과 인사이트를 기록하고 나누고자 하는 목적에서 새로운 브런치북을 만들었습니다. 현업 AI 엔지니어의 비법노트로 생각하고 가벼운 마음으로 활용해 주셨으면 좋겠습니다. 아무쪼록 저의 글들이 생성형 AI를 활용하는 데에 있어서 조금이나마 도움이 되기를 바랍니다.