한국기업의 생성형 AI 활용이 어딘가 어색한 이유

IT의 재발견, 기업혁신 그리고 AI

Mar 17. 2025

2024년에 돌아와 한국기업의 생성형 AI활용 및 개발 컨설턴트로서 매진하고 있는 필자는 "이대로는 안된다"라고 보고 있지만, 안되는 이유가 있을 것입니다. "생성형 AI를 할 수 없는 인간에게만 할 수 있는 일을 하자!"라고 하는 소리들은 AI시대를 살고 있는 우리들을 정말로 올바른 길로 인도하고 있는 것일까요?

한국은 물론, 전세계에서 생성형 AI는 엄청난 위력을 발휘하고 있습니다.

필자도 ChatGPT의 Deep Research기능을 사용하고 있지만, 이 서비스는 정말 대단하다고 생각합니다. 지금까지 많은 시간을 소비해서 정리하던 다양한 조사를 순식간에 해 줍니다. 이 도구를 사용하는 것과 사용하지 않는 것은 결과물에 걸리는 시간이나 퀄리티가 큰 차이로 나오는 것은 사실입니다.

▣ 한국기업의 생성형 AI 활용이 어색한 이유

생성형 AI를 비롯한 AI는 IT영역뿐만 아니라, 인간 활동의 모든 영역에서 큰 변화를 가져올 수 있습니다. 그러나 불행하게도 그렇지 못한 경우도 있다는 것입니다. 최근 한국기업에 의해 생성형 AI의 활용 사례가 많이 공개되고 있지만, 필자가 보면 그 목적이나 대처 자세는 어딘가 어색하다는 것입니다.

한국기업의 생성형 AI 활용은 자동화나 작업 효율화에 의한 비용절감이 중심인 한국기업의 AI 사용법은 어딘가 어색하다고 필자는 느끼고 있습니다. "사무자동화나 IT가 사람이 하지 않아도 좋은 업무를 대신해주기 떄문에 사람은 부가가치가 높은 상위 업무(창조적인 작업)에 집중할 수 있다"라며 오랫동안 이야기되어 왔지만, 이대로 업무를 변혁할 수 있던 사람은 매우 적은 것이 현실이 아닐까요? 창조적인 상품이나 서비스를 제공하는 한국기업이 한정적인 현상에 눈을 돌려야 합니다.

▣ 생성형AI 밖에 할 수 없는 것으로 혁신을 일으키자

"AI는 범용적이고 지속적인 업무에 활용하고 사람의 작업을 대체하기 위해 사용하는 것"이라고 주장하는 사람들이 많지만, AI의 이용을 그런 좁은 범위에 가두는 것에 필자는 반대합니다.

앞서 언급했던 많은 기업들이 업무개선과 자동화를 위해 AI를 활용하고 있습니다. AI는 이미 엑셀처럼 누구나 사용할 수 있는 범용적인 도구가 되고 있다고 필자는 보고 있습니다. 이런 점에서는 AI는 차별화요인이 되지 않는다고 말할 수 있지만, 그렇다고 해서 이 결론에 올인하는 것은 너무 아깝다고 봅니다.

생성형AI를 대표하는 AI에는 매우 큰 잠재능력이 있습니다. 이러한 첨단기술을 활용하여 지금까지 아무도 생각하지 못한 비즈니스적 아이디어를 생각하거나 획기적인 비즈니스 프로세스를 창출해야 합니다. 이를 위해서는 AI와 같이 일하는 이른바 'AI-augmented(AI로 강화된)의 자세로 창조적인 활동을 할 필요가 있습니다. "생성형 AI를 할 수 없는 인간에게만 할 수 있는 일을 합니다"라는 것도 중요하지만, "생성형 AI밖에 할 수 없는 것"으로 혁신을 일으킬 필요가 있습니다.

▣ 인간만 할 수 있는 일을 할 수 있는 사람은 매우 적다!

지금은 "생성형 AI를 할 수 없는 인간밖에 할 수 없는 일을 한다"라는 논조가 대세를 차지하고 있어 "AI에 의해 인간의 장점이 보다 살리는 시대가 된다"라는 낙관적인 주장을 하는 사람들이 많습니다. 하지만 정말 그럴까요?

다시 말하자면, 현실은 "인간밖에 할 수 없는 것"을 할 수 있는 사람은 정말로 극히 적다는 것이 필자의 생각입니다. 예를 들어, 애플리케이션 개발에 있어서는 가장 우수한 엔지니어를 제외하면 머지 않아 대부분의 엔지니어들이 AI로 대체되는 시대가 올 것입니다.

AI에는 소위 "Expert Muliplier Effect(전문가 증폭효과)"가 있습니다. 가장 우수한 층만이 AI의 능력을 활용하여 더욱 높은 수준으로 올라가는 것입니다. "AI-augmented"활동을 진행하면서 가장 우수한 엔지니어는 자신만으로는 취급할 수 없었던 과제에 도전해 신속한 프로토타이핑과 AI로부터의 피드백을 얻어 성장할 수 있게 됩니다. 이미 우수한 사람이 수십명이 하던 일을 해내 큰 소득을 얻을 수 있는 시대가 되어가고 있습니다. 또한 가장 우수한 사람이 AI를 익혀 "AI밖에 할 수 없는" 혁신을 일으키는 시대가 눈앞에 다가오고 있다고 필자는 생각합니다.

모든 직장인은 그러한 미래에 대비해야 합니다. 개발이나 운용, 유지보수의 업무에 있어서는 코드 템플릿 작성이나 리팩토링 작업, 단위테스트의 작성과 실행, 각종문서의 작성과 유지, 시스템 운용등의 태스크에서는 이미 AI가 활용되고 있습니다. 이러한 작업을 담당하는 사람은 AI의 위협에 노출될 것입니다.

▣ 전문가를 제외하고는 살아남을 수 없는 시대가 곧 온다!

앞서 언급한 AI시대에 대비하기 위해서는 무엇에 힘써야 할까요?

필자는 모든 IT 직장인은 전문가를 목표로 해야한다고 생각합니다. Ai-augmented(AI로 강화된) 시대에는 AI의 결과를 신속하고 정확하게 평가 및 판단하고 보다 우수한 결과를 끌어낼 수 있는 능력이 필수가 됩니다. 전문적 지식이나 기술, 경험이 부족한 전문가는 이러한 판단을 할 수 없습니다.

전문가가 없는 IT부서가 프리랜서가 개발한 시스템의 문제를 간과하지 않고 거액의 소송사태가 된 경우를 고려해서 그런 실수들을 반복해서는 안됩니다. 모두가 AI를 활용할 수 있는 시대로서 AI의 결과물을 희미하게 하는 기업이 생존할 가능성은 매우 낮다고 생각해야 합니다.

전문가 집단이 아닌 조달부문이 되어 버린 IT부문이 많이 있지만, 그러한 상태에서는 IT부문의 존재 가치가 해마다 저하된다는 위기감을 가져야 합니다. 전문가 육성이나 획득에는 시간이 걸리지만, 전문가 없이는 조직의 존속은 어렵게 될 것을 고려하여 각오를 하고 있는 전문가의 육성이나 획득에 노력하는 것을 크게 추천합니다.