사내 GenAI 프로젝트와 AI 자동화
Gen AI 도입의 현실
2024년부터 AI 업무 자동화 시키는 데 굉장히 빠져 있어서 국내외 상관없이 많은 크리에이터들의 콘텐츠를 봐왔고, 상위 10% 정도는 된다고 스스로 생각하고 있다.
디자인, 콘텐츠 제작, 데이터 분석, 고객 관리, 광고 크리에이티브 등 정말 다양한 영역에 AI를 도입해 보며 내린 나름의 결론은 1인 사업, 소규모 회사를 운영 중이거나 개인 프로젝트를 할 때는 필수 도구가 되고 있지만, 회사에서 활용하기에는 상당한 제약이 있다는 것이다.
그리고 작년에 저장해 놓은 글을 보니 속도가 너무너무 빨라졌다는 게 확 실감 난다. 작년 상반기까지만 해도 AI가 '자아의 확장'과도 같다는 이야기를 하며 프롬프트 제대로 쓰는 법 등을 다뤘는데 이런 주제는 이미 식상하다. 올해는 마케터, 기획자, 개발자 등 역할별로 다른 AI 에이전트를 만들어서 활용한다는 얘기가 보인다. 상황에 따라 구체적인 역할과 이전 메모리를 기반으로 높은 수준의 전문성과 개인화된 답변을 요구하고 있으며 이것도 곧 당연해질 것이다.
https://brunch.co.kr/@dragonattack/18
2년 전 썼던 글.. 다시 보니 부족한 점도 많이 보인다 ㅎㅎ
다만 여전히 변하지 않은 생각은, 규모가 큰 회사일 수록 AI를 활용한다는 건 컴플라이언스와 충돌하는 방식에 가까우며 특히 외부 온라인 정보를 기반으로 작업하는 크리에이티브 쪽이 아닌 내부 데이터를 다루는 오퍼레이션일수록 더욱 그렇다는 점이다. AI는 방대한 데이터 처리의 자동화를 도와줄 수 있고, 데이터 분석으로 추가적인 분석이 필요한 부분을 정리해 줄 수 있지만 그 데이터를 제공할 수는 없는 노릇이다.
그렇기에 오퍼레이션에서 AI 활용은 전사적으로 도입되는 AI 도구를 개발하고 개선해 가는 과정에 참여하며 이루어지지 않을까 싶다.
일례로 이전 재직했던 IT 회사에서는 데이터를 추출하거나 수정하는 과정에서 AI 에이전트를 활용하는 Gen AI 프로젝트를 진행했고 여기에 한국 담당자로 참여했었다.
한번은 weekly open 세션에서 30개 이상 국가의 POC 중 기여도 기준 3위로 랭크됐던..ㅎㅎ
한국 상황에서 고객사 커뮤니케이션 케이스를 토대로 패턴을 발견하고 그를 기반으로 새로 필요한 데이터 추출 기능을 제안했다. 위클리 미팅을 통해 기술적으로 구현이 어려운 기능 케이스를 확인하며 제안할 때도 고려하였다.
부서별 서로 다른 니즈도 확인할 수 있었다. 예를 들면 프로덕트/개발팀은 고객사 레벨의 자료를 일괄 추출하는 기능에 집중했다는 걸 느낄 수 있었는데, 막상 현업에서는 아이템 레벨로 모든 세그먼트 값을 추출하는 게 더 실무 리소스를 줄여주는 데 더 중요했지만 해당 기능은 몇 개월이 넘도록 개발되지 못했다.
그럼에도 불구하고 이 GenAI를 활용했을 때 느낀 장점은 단연 시간 단축과 커뮤니케이션 비용 감소였다. 로우 데이터를 추출하기 위해 기존에 3개 팀에 이메일을 보내고, 시차 때문에 최소 4시간에서 길게는 2~3일까지도 기다려야 했던 과정을 30분 내로 처리할 수 있었다.
다만 아직 자연어의 처리 수준이 높지 않아 out of scope이라는 답변을 자주 뱉어냈고, 결국은 프롬프트 템플릿이 제공되고 빈칸을 채우는 식으로 버전 개선이 이루어졌는데 이를 생각하면, 기존 어드민의 권한을 유관 부서에도 주고 뽑게 하는 것과 본질적으로 차이가 무엇인가 라는 회의감이 들기도 했다.
물론 기존 어드민이 코딩과 쿼리 기반으로만 데이터를 추출할 수 있는 구조라면, GenAI를 통해 개발 지식이 없는 부서에서도 데이터를 비교적 쉽게 다룰 수 있다는 점은 분명한 장점이다. 이 점에서 보면 GenAI는 완전히 새로운 방식이라기보다는, 접근성을 넓힌 인터페이스에 가깝다는 생각도 들었다.
결국 이 프로젝트를 통해 가장 크게 느낀 점은, 필요한 데이터를 찾기 위해서는 KEY 값에 대한 이해가 중요하다는 것이었다. 이는 자연스럽게 back-end 단의 데이터베이스 구조와 API에 대한 기본적인 이해를 요구했고, AI의 사내 도입 수준이 높아질수록 이런 기본적인 기술적 이해 역시 함께 요구되지 않을까?
