brunch

매거진 tobl ai

You can make anything
by writing

C.S.Lewis

by 유호현 Apr 10. 2024

12. AI가 내 업무를 100% 대체하지 못하는 이유

왜 AI는 나에게 큰 도움이 되지 않을까?

https://themiilk.com/articles/ab0064b35



[오피니언] 유호현 토블AI 대표
왜 AI는 나에게 큰 도움이 되지 않을까?
현재의 AI를 업무에 유용하게 활용하는 방법


AI앞에 막막함


"우리 잘못은 아니다"


AI와 채팅창 앞에 앉으면 막막한 경우가 많다. 내 일을 도와줄 수 있다고 하는데 AI에게 일을 설명하고 있자니 그냥 내가 하는 게 빠른 경우가 많다. 유튜브 등 수 많은 컨텐츠가 일을 자동화 할 수 있다고 이야기하지만 실제 활용되는 예는 기대만큼 크지 않은 것 같다.


과기부·NIA가 진행한 '2023년도 정보화통계조사' 결과 250인 이상 대기업 AI 활용 비율이 36.4%라고 한다. 아마 인력을 실제로 대체한 경우는 그리 많지 않을 것 이다.


생성AI 열풍이 불고 있지만  언론이나 소셜미디어에 자주 등장하는 소식 만큼이나 AI는 우리의 삶과 업무를 '가시적'으로 바꿔놓고 있지는 않다.


실제 나우앤서베이 여론조사에 따르면 AI 사용시 가장 불편했던 점은 '동문서답'이었다. AI가 동문서답는 것은 대부분 컨텍스트를 충분하게 제공하지 않았기 때문에 발생한다. AI는 프롬프트에 컨텍스트와 데이터를 많이 넣고 해야 하는 일을 명확히 할수록 더 좋은 결과를 낼 수 있다.


AI가 가지지 못한 것들


사람이 AI 대비 가진 압도적인 강점은 바로 업무의 컨텍스트를 파악하고 있다는 점이다.


일이 주어지면 사람은 내가 어떤 회사에 어떤 프로젝트를 위해 일을 하는지, 고객은 어떤 취향인지, 지금까지 어떤 피드백을 받았었는지, 주로 어떤 데이터 소스를 활용하는지 등에 대한 컨텍스트를 즉시 알고 일에 임한다.


현재의 AI는 그런 특정 상황(컨텍스트)에 대한 지식이 없이 일을 한다. 상황에 대한 지식이 없는 사람에게 일을 시키게 되면 대학생 인턴처럼 큰 도움이 안되는, 오히려 부실한 결과물 때문에 내가 더 많은 일을 하게되는 상황에 처할 수밖에 없다. 즉 '짬'이 전혀 없는 일꾼이다.


사람이 AI에 비해 압도적으로 뛰어난 또 하나의 포인트는 일을 계획하고 분할해서 한다는 점이다. 현재 AI는 일을 하나 시키면 그에 대한 즉각적인 답만을 제시한다. 반면 사람은 일을 계획하여 하나하나 작업한다.


사람은 최근 산업 동향 리포트를 써 오라는 일을 받으면 전체 범위를 정하고, 소스를 정하고, 자료조사를 하고, 전체 보고서의 아웃라인을 잡고, 한 챕터씩 써나간다. AI는 아직 그렇게 하지 못하고 있다. AutoGPT가 그러한 시도를 해 보았지만 컨텍스트 크기의 한계 등으로 인해서 좋은 성능을 보여주지는 못하였다. 


사람과 AI의 차이 (출처 : 유호현 토블AI 대표)


정리하면 현재 AI가 나에게 주어지는 일을 100% 대체하지 못하는 이유는 다음과 같다.


1. 업무에 대한 주변 지식이 부족하다.


2. 이전에 제공한 피드백에 대한 기억력이 없다.


3. 업무 계획을 세워서 여러 개의 임무를 체계적으로 해내지 못한다.


AI가 한계를 극복하게 하기 위해 필요한 것들


그런데 이 모든 것이 AI가 할 수 있는 일이기도 하다. 업무에 대한 주변 지식은 정리해서 주면 된다. 내가 일하는 회사가 어떤 회사인지, 부서는 어떤 부서인지, 직책은 무엇이고, 주변 도움을 받을 동료들은 누구이고, 이전에 어떤 일이 있었고, 올해 목표는 무엇이고, 이번 주 목표는 무엇이고, 현재 시장 점유율을 어떻고 등등. 방대한 데이터이지만 제공하게 된다면 컨텍스트에 대한 이해가 높아진다.


이전에 제공한 피드백도 정리해서 주면 된다. 이 또한 귀찮은 일이지만 지금까지 있었던 피드백을 정리해서 모아놓고, 일을 시키는 사람이 원하는 스타일을 열심히 설명해 주면 된다. 


마지막으로 업무 계획은 프롬프트 엔지니어링으로 가능하다. 처음부터 "일을 해 줘"라고 하는 것이 아니라 "이 일을 위한 계획을 세워줘"라고 하고 하나하나 실행하면 된다. 물론 이 또한 귀찮은 일이다. 그럴 바엔 내가 일을 하고 말지라는 생각이 들 수도 있다.


이러한 한계를 극복하기 위해서 필요한 것은 다음과 같다.


1. AI에 입력할 수 있는 컨텍스트의 크기 증대.


2. AI에게 기억력 부여.


3. AI에 계획 능력과 다단계 실행 능력 부여.


이 모든 것들이 오픈 AI와 모든 AI 사업자들이 현재진행형으로 풀고 있는 문제들이다. 컨텍스트의 크기는 이미 어느 정도 해결이 되었다.


구글 Gemini 1.5와 Claude 3의 Opus 모델은 1백만 토큰 인풋 사이즈를 지원한다. 약 75만 단어에 달하는 양으로 프로그래밍할 때에는 코드 베이스 전체를 집어넣을 수 있고, 회사에서는 웬만한 관련 문서를 다 집어넣고 명령을 내릴 수 있다. GPT-4가 12만 토큰 사이즈를 자랑했었는데, 그보다 8배에 달하는 크기이다. 


오픈 AI는 챗봇에 기억력을 넣는 기능을 이미 완성하여 출시를 진행하고 있다. 이제 AI가 이전에 주었던 피드백도 기억해 낼 것이고, 다른 부서에서 입력한 데이터도 공유할 수 있을 것이다.


예를 들어, "이전에 토블 물산과 진행했던 수출 건 어떻게 되었어?"라고 물으면 "토블물산과의 수출 건은 현재 순조롭게 진행 중입니다. 지난주에 계약서를 모두 작성하고 서명을 완료했습니다. 첫 번째 물량은 다음 주 월요일에 출고 예정이고, 이후 매월 초에 정해진 물량을 공급하기로 했습니다. 토블물산 측에서도 일정에 큰 문제가 없다고 합니다." 이런 식으로 다른 부서에서 보고했던 내용들을 종합적으로 제공해 줄 것이다.


마지막으로 AI의 계획 능력과 다단계 실행 능력은 토블에이아이(Tobl.AI)에서 만들고 있는 영역이기도 하고 여러 AI 플랫폼에서 만들고 있다. 구글도 워크벤치(Workbench), MS도 파워오토메이트(Power Automate)이 있고 재피어(Zapier)도 있다. 앞으로 챗봇 자체에도 이런 기능이 추가되지 않을까 기대하고 있다.


결론적으로 현재 AI가 현업에 큰 도움이 되지 않는 것은 내 잘못이 아니다. AI가 덜 똑똑하기 때문이다. 그런데 그 이유를 살펴보고 나니 100% 대체될 수 있는 날이 얼마 남지 않은 것 같아 더 걱정이긴 하다.




AI로 사업을 만들어온 노하우를 전달해드리기 위해 아래와 같이 강의를 열었습니다. AI를 통해 꿈을 이루는 법을 알려드립니다. :) 많은 관심 부탁드립니다.


[The Red] 실리콘밸리 출신 CEO의 비즈니스 자공화를 위한 AI 활용 가이드

쿠폰 코드 : PRDTEA240624_br

할인율 : 20% (50명 한정)

기한 :  6/24~7/7 23:59

https://bit.ly/3xxG0yC


매거진의 이전글 11. 슈퍼휴먼의 하루
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari