brunch

You can make anything
by writing

C.S.Lewis

by florent Dec 22. 2024

딜로이트 테크 트렌드 2025 Part 1

Deloitte Tech Trends 2025

이 글은 Deloitte Tech Trends 2025 내용을 번역, 요약, 의역 및 재구성한 글입니다.



[IT의 필수 3요소]

1. 상호작용 (interaction): 사용자와 시스템 간의 소통, 입력과 출력의 교환 등을 의미
2. 정보 (information): 데이터를 가공하고 처리하여 의미를 부여한 결과물
3. 연산 (computation): 컴퓨터가 데이터를 처리하고 계산하는 과정



생성형 AI는 어김없이 2025년에도 중요한 핵심 키워드로 꼽힌다. 하지만 몇 년 전에는 AI가 기술적인 측면에서 엄청나게 발전했다는 것에 집중했던 반면, 이제는 AI가 알게 모르게 우리의 삶에 전반에 걸쳐 스며들어 이게 AI인지도 모른 채 살아가고 있다는 점이다. HTTP, 전기, 통신 등의 기술을 자세히 알지 못 한 채로 우리가 인터넷, 통신, 전기를 사용하고 있듯, AI도 이제 그러한 기술로 우리의 삶 깊숙한 곳에 위치하기 시작했다.



[트렌드 1: 상호작용 - 공간 컴퓨팅의 부상]


공간 컴퓨팅은 애플 비전 프로와 같은 고글형 기기를 써야하는 것은 아니다. 현실 세계를 반영하는 모든 데이터를 디지털화된 형태로 표현한 것이라면 공간 컴퓨팅의 범주에 속한다. 공간 컴퓨팅은 현실 세계의 물리적 요소를 감지한 후 이를 데이터화 하고, 물리적 데이터를 디지털 형태로 변화시키는 연결(bridging) 기술을 통해 디지털화한다.


예를 들어, IoT 기기, 카메라, 웨어러블 기기를 통해  물리적 데이터를 수집하면, 기기 내의 센서, 컴퓨터 비전, GPS, 렌더링 소프트웨어, 데이터 레이크 등의 연결 기술들이 이 데이터를 처리하여, 증강 현실을 구현하거나, 새로운 음성 파일을 만들어내는 등 디지털화 하는 것이다.


공간 컴퓨팅 이전의 데이터를 다루는 기존 방식은 현실에서 사용하기에는 기술으로나 이해할 수 있는 방식 있어서 장벽(silo)이 있어 실제 현업에 있는 실무자들이 사용하기에 어려운 경향이 컸다. 공간 컴퓨팅은 이러한 정보와 데이터를 실무자와 고객들이 보다 자연스럽게 상호작용할 수 있는 방식으로 풀어내면서, 기업의 관심을 크게 받고 있다.


예를 들어, 다양한 설계에 사용되는 캐드(CAD) 소프트웨어는 숙련된 디자이너나 엔지니어가 많은 정보를 처리하고 활용할 수 있지만, 이외의 마케팅, 재무, 공급망 등의 부서 사람들은 CAD 소프트웨어 내의 정보를 보면 큰 어려움을 겪을 것이다.


공간 컴퓨팅은 마케팅, 재무, 공급망 등의 부서 사람들이 CAD 관련 데이터를 요청하면, 이 사람들이 쉽게 이해하고 활용할 수 있는 형태로 비즈니스 데이터를 맥락에 맞게 제공한다. 즉, 물리적 세계와 디지털 세계를 매끄럽게 통합시켜 직원간의 상호작용을 강화시킬 뿐만 아니라, 더 나아가서는 고객의 경험 또한 개선시켜준다.


(1) 공간 컴퓨팅의 현재: 풍부한 시뮬레이션


공간 컴퓨팅의 본질은 디지털 세계를 실제 현실과 더욱 가깝게 연결하는 데에 있다. 기존에 잘 구조화된 사업 데이터뿐만 아니라, 물리적인 데이터를 추가하면 사업 운영에 대해 더욱 깊이 이해할 수 있다. 그렇기에 공간 컴퓨팅은 사업 자체의 운영 관리 방법을 근본적으로 바꿔낼 수 있다.


자산 집약적(asset-heavy) 산업에서는 물리적 요소가 많이 포함되어 있기 때문에 현실의 사업 운용 과정을 데이터화하여 관리하는 것은 중요하다. 하지만 사업 내 물리적 데이터는 종종 추상적으로 표현되거나, 수집하기 어렵거나, 직무간 상호 이해가 어려워 중요한 정보나 통찰들이 유실되는 것이 현실이다.


현재 공간 컴퓨팅 기술은 고도화된 시뮬레이션을 위해 활용되고 있다. 디지털 트윈(digital twitn)이 대표적인 예시인데, 기존의 물리적 자산을 그저 모니터링하는 것에 그치는 것이 아니라, 다양한 시나리오를 테스트하여 여러 조건이 기업 운영에 어떤 영향을 미칠지 예측하는 것이다. 예를 들어, 환자의 신체를 디지털화하여 수술 시뮬레이션을 하거나, 석유 및 가스 회사가 자원을 이동시키고 처리하는 과정을 2D 지도 위에 엔지니어링 모델을 겹쳐 시뮬레이션 해보는 것이 디지털 트윈의 활용 사례다.


(2) 공간 컴퓨팅의 과제: 데이터와 데이터 관리 자체가 차별화의 핵심


<데이터 파이프라인과 데이터 통합>


공간 컴퓨팅이 제대로 이뤄지기 위해서는 사업에서 활용되는 데이터들이 상호적으로 운용 가능한 상태여야 한다. 하지만 많은 회사들의 시스템 내 데이터들은 다양한 데이터베이스 내에서 다양한 형태로 존재하고 있기 때문에 자유롭게 상호 운용한 상태가 아니다. 즉, 공간 컴퓨팅을 활용하려면 공간 데이터를 올바른 형태로 시스템에 전달시키고 출력시키기 위한 데이터 파이프라인(data pipeline)을 구축하는 것이 중요한 엔지니어링 과제다.


“데이터는 새로운 석유다.”라는 말이 있다. 실제로 한 미국 석유 및 가스 회사는 데이터 파이프라인을 대대적으로 구축하여 엄청난 사업적 가치를 만들어 내고 있다. 공간 컴퓨팅을 통해 사업적 의미를 만들어 내기 위해선, 데이터 통합(data integration)이 필수적이다. 다양한 데이터 소스와 파일 유형을 연결하는 API들을 활용하고 연결하여 공간 저장 계층(spatial storage layer)를 구축하는 것이다. 


<데이터를 맥락화>


공간 컴퓨팅은 텍스트, 시각, 음성 등 다양한 유형의 데이터들을 복합적으로 처리하는 것이 필수적인데, 여기서 이 멀티모달(multimodal) AI가 중요한 역할을 수행한다. 과거에는 공간 데이터를 비즈니스 데이터로 통합하는 것이 거의 불가능에 가까웠지만, 멀티모달 AI의 발전으로 사실상 존재하는 모든 유형의 데이터를 원하는 형태로 변환 및 출력이 가능해졌다.


즉, AI는 서로 다른 데이터 소스를 연결해주는 역할을 수행하며, 공간 데이터와 비즈니스 데이터 간의 맥락을 해석하고 추가해주며 사업적 통찰을 만들어 주는 데에 핵심적인 역할을 수행한다. 하지만 여기서 유의해야할 점은, AI가 모든 유형의 데이터를 다룰 수 있다 해서 데이터를 때려박으면 안 된다. “쓰레기를 넣으면 쓰레기가 나온다(Garbage in, garbage out)”라는 말처럼, 그 영향은 더욱 더 비대해져 시스템에 오류를 천문학적으로 가중시킬 수 있는 위험성을 지닌다. 그렇기에 데이터를 표준화하여 효과적인 데이터 거버넌스를 수립해야 한다.


(3) 공간 컴퓨팅의 미래: AI 자체가 상호작용 인터페이스가 될 것


멀티모달 AI는 다양한 형태의 데이터를 처리하는 것의 시작일 뿐이다. AI가 더 많은 어플리케이션 적용되고 통합되면 다양한 플랫폼 내에서 조화를 이루며 AI들 간에서도 자연스러운 상호작용이 가능해질 것이다. 즉, 사용자의 필요에 따라 상황을 인지하고 작업을 수행하는 에이전트 시스템(agentic system)이 널리 퍼지는 것이다.


AI 에이전트는 사용자가 요청을 하지 않아도 미리 계획하고 선제적으로 상황을 대처할 수 있다는 점에서 현재의 봇(bot)과 차이가 있다. AI 에이전트가 공간 컴퓨팅과 통합되면, 사용자는 데이터가 어떤 유형이고 어떻게 처리됐는지 알 필요 없이, AI 에이전트에게 작업만 요청하면 되는 것이다.



[트렌드 2: 정보 - 거대 언어 모델에서 소형 언어 모델로의 집중]


기업들은 경쟁사와 차별화된 전략을 세우기 위해 거대 언어 모델을 필요에 맞게 활용할 방법을 적극적으로 찾고 있다. 현재 최대 70%의 기업들이 거대 언어 모델 활용 사례를 적극적으로 찾아보거나 실제 업무에 도입하고 있다. 그런데 선도적인 기업들은 이미 AI의 다음 단계를 고민 중이다. 너무 많은 데이터를 기반으로 한 범용적인 AI 모델보다는, 사업적인 요구를 더욱 효율적이고 적확하게 처리하는 AI를 찾고 있는 것이다.


예를 들어, 재무 데이터를 분석하여 손익을 예측하는 AI 모델이 고객 문의를 처리하는 챗봇 AI와 같을 필요가 없듯이 말이다. 즉, 특정 목적에 맞는 모델들이 만들어지고, 이러한 개발이 확산될 가능성이 큰 것이다. 현재 거대 언어 모델 기반의 AI를 활용하는 목적이 ‘지식 확장’에 초점을 맞추고 있는 반면, 이제 ‘실행력 강화’로 중심이 전환되는 중요한 기점에 있다는 것이다. 이제 ‘이 업무를 위한 앱이 있어요.’라고 말하는 게 아니라, ‘이 업무를 위한 에이전트가 있어요.’라고 말하는 미래가 올 수도 있다.


(1) AI의 현재: 기초를 다지는 단계


딜로이트(Deloitte), 파이브트랜(Fivetran), 밴슨 본(Vanson Bourne)의 최근 설문조사에 따르면, 생성형 AI를 실제 사업에 적용하는 사례는 3분의 1도 되지 않는다. AI의 정확성, 실제 적용 가능성, AI 프로그램을 실행하는 데 필요한 데이터 확보, 데이터 정제 등의 한계를 많이 겪고 있는 것이다.


데이터는 AI 모델의 핵심 기반이며, 데이터의 품질에 따라 AI의 성능이 극적으로 변하기 때문에 데이터 관리가 매우 중요하다. 이러한 ‘데이터’를 어떻게 AI에 적용하느냐는 다양한 접근이 필요하다. 데이터 자체를 관리하는 과정, 그리고 관리된 데이터를 적용하는 과정처럼 말이다. 이렇게 데이터를 관리하고 활용하여 의사결정에 사용하는 것을 데이터 활성화(data enablement)라고 부른다.


딜로이트 보고서에 따르면 기업의 75%가 데이터 활성화를 통해 생성형 AI를 제대로 활용하기 위해 데이터 생애주기 관리(data life cycle management) 투자를 확대했다고 한다. 그리고 몇몇 기업들은 인터넷에 존재하는 무분별하게 수집(scraping)하기 보다, 사업 도메인에 특화된 데이터만을 선별한 후 AI에 파인 튜닝(fine tuning)하여 작업을 효율적이고 효과적으로 처리할 수 있게 만들려고 한다.


이렇게 AI 모델 활용을 위한 기초 작업이 완료되면 그 가치는 더욱 명확해질 것이다. 실제로 AI는 보험 청구 검토, 통신 문제 해결, 소비자 세분화, 우주 장비 수리, 핵 모델링, 소재 설계와 같이 다양한 분야에서 전문적으로 활용되며 큰 반향을 일으키고 있다.


(2) AI의 과제: 목적에 맞는 AI 개발의 필요성


거대 언어 모델을 사용하는 현재 활용 사례는 인간의 지능을 보조하는 것 이상으로 확실한 효용을 보이고 있지 않다. 폭넓은 분야의 데이터들이 섞인 범용적인 AI 모델이기 때문에, 모든 상황에 뚜렷하게 적합할 수는 없는 것이다. 사용 목적에 맞춰 데이터의 크기와 데이터의 내용을 훈련시킨 AI 모델을 만들며 사업 전략에 맞는 방향을 찾아나가야 한다. 이 방향성을 보여주는 AI가 소형 언어 모델(SLM, Small Language Models), 멀티모달 모델(Multimodal Models), 그리고 에이전틱 AI(Agentic AI)다.


<소형 언어 모델>


실제 활용하려는 사업적 사례에 부합하도록 모델의 크기를 조정하고 최적화하는 것이 비용면에서 더욱 효율적이며, 성능 면에서도 더 효과적일 수 있다. 예를 들어, 보고서를 요약하는 것과 같은 작업에는 거대 언어 모델 수준의 AI를 만들 필요가 없다.


소형 언어 모델은 신중히 선별한 데이터 세트를 활용해 특정 문제를 해결하도록 학습시킨 AI다. 직장에서 각 직무별로 사람들을 조직화하듯, 사업적 문제도 구체적으로 분리해서 해결해야 한다. 다시 말해, 특정 도메인에 특화된 맞춤형 모델은 범용 모델이 작업을 수행했을 때보다 더 나은 결과를 제공한다. 하나의 AI가 만능 해결사로 보기보다, 다양한 문제를 해결하는 다양한 AI가 모듈화된 방식으로 접근해야 하는 것이다.

 

소형 언어 모델의 발전은 주로 허깅페이스(Hugging Face)나 아르시 AI(arcee.AI)와 같은 오픈소스 모델을 통해 이뤄지고 있다. 데이터브릭스(Databricks)의 최근 보고서에 따르며, 75% 이상의 기업들이 소규모 오픈 소스 모델을 기반으로 특정 활용 사례에 맞게 맞춤화 하고 있다.


<멀티모달 모델>


현재에도 텍스트를 입력한 후 이미지를 제공받는 것에 익숙하지만, 아직 멀티모달 AI는 초기 단계에 머물러 있다. 멀티모달 AI는 텍스트 기반 모델에 비해 훨씬 더 많은 데이터, 자원, 하드웨어를 요구하기 때문에 발전은 텍스트 기반 모델에 비해 매우 더디다. 또한, 다양한 데이터를 처리하기 때문에 환각(hallucination)과 편향(bias) 문제는 더욱 심각해질 수 있다. 하지만 제대로 학습시킨 멀티모달 AI는 무궁무진하게 활용될 수 있다. 다양한 데이터들이 상호 변환되며 디지털 포용성(digital inclusion)이 향상되어 새로운 기회를 창출시키는 것이다.


<에이전틱 AI>


액션 모델(action model)이란, 거대 언어 모델의 질문 답변 기능을 넘어 실제 세계에서 개별 작업을 수행하는 AI를 의미한다. 비행기를 예약하거나, 데이터베이스에 접근하여 필요한 작업을 수행하는 등 액션 모델의 확산은 에이전틱 AI의 초석을 다진다.


AI 에이전트는 기업 내 인간과 기계의 상호작용 방식을 변환시킬 수 있다. 사업 내에서 발생된 문제에 관한 데이터를 여러 AI 에이전트들이 수집, 가공하여 사람에게 정보를 제공하는 것이다. AI 에이전트는 인간을 완전히 대체하기보다, 팀과 협력하여 작업을 처리하면서 생산성을 더욱 증진시킬 수 있다.


<액체 신경망 (liquid neural network)>


위의 세 가지는 AI 모델에 관련된 것이었다면, 액체 신경망은 AI 설계와 실행 방식에 관한 것이다. ‘액체’란, 신경망 학습 방식에서 유연성을 강화했음을 의미한다. 액체 신경망은 기존의 경직된 학습 방식과 달리 인간 두뇌 구조를 모방한 머신러닝 알고리즘을 기반으로 적응력이 더 뛰어나다. 기존에 10만 개의 노드로 작업해야 했다면, 액체 신경망은 단 몇 십 개의 노드만으로도 충분히 작동한다.


앞으로의 AI 발전은 단순히 데이터의 크기나 유형에 크치지 않고, 그 기반이 되는 메커니즘 자체에서 변화가 발생함에 따라 혁신이 발생할 것으로 예상된다.


(3) AI의 미래: 모든 곳에 존재하는 AI 에이전트


앞으로 10년 동안 AI는 자율적인 실행에 초점을 맞추는 방향으로 발전할 가능성이 크다. 마치 사람간의 팀워크가 협력과 생산성을 극대화 하듯, AI 에이전트는 AI간, AI와 사람간의 업무 방식을 바꿔나가며 각자 스스로의 역량을 개선시켜 나가는 것이다. 이러한 미래를 위해 필요한 사항들은 다음과 같다.


<AI의 커뮤니케이션>


AI 에이전트끼리는 자연어보다 훨씬 효율적인 방식으로 소통할 수 있을 것이다. 그렇기에 에이전트간 소통 방식을 고도화시키면 사업에서 필요한 성과를 더 빠르게 얻을 수 있을 것이며, AI는 인간 개개인의 수준에 맞춰 정보를 전달할 것이다.


<일자리의 대체와 창출>


미래에는 AI 에이전트들이 제대로 협업시킬 수 있도록 AI 에이전트를 관리, 학습시키는 데에 집중할 가능성이 크다. 소수의 IT 팀이 기업을 위한 AI 에이전트를 만드는 ‘AI 공장’을 구축할 것이며, 이에 따라 ‘창의성’과 ‘디자인’과 같은 인간 고유의 능력이 더욱 중요해질 것이다.


<개인정보 보호와 보안>


시스템에 접근하는 AI 에이전트 확산은 사이버 보안에 대한 우려를 심화시킬 것이다. AI 에이전트를 안전하게 활용하려면, 도입되는 모든 분야에서 개인정보 보호와 보안을 보장할 수 있는 새로운 위험 관리 및 신뢰의 패러다임이 필요하다.


<에너지와 자원>


AI의 막대한 에너지 소비는 큰 과제로 떠오르고 있다. 향후 AI 개발은 성능과 지속 가능성에 대한 균형을 맞춰나가야 한다. 액체 신경망과 같은 효율적인 AI 학습 방식을 개발하고 활용하며, 이를 지원하는 하드웨어도 필수적이다.


<미래를 위한 리더십>


AI 기술 자체는 엄청난 잠재력을 가지고 있지만, 이 잠재력을 실현하는 것은 사업의 리더십에 달려있다. AI를 그저 기존 방식을 ‘빠르게’ 수행하는 도구로만 활용하면, 최악의 경우 현재에 안주하며 잠재력을 놓치게 될 것이다. 따라서 리더들은 새로운 방식으로 조직과 데이터를 구성하는 길을 모색하며 근본적인 변화를 이끌어 내야 한다.



[트렌드 3: 연산 - 하드웨어가 중요한 시대]


<칩>


소프트웨어가 세상을 집어삼킨 시대를 지나, 다시 하드웨어의 시대가 도래했다. 무어의 법칙(Moore’s Law)이 이제 한계에 다다랐다는 평가가 나오는 시점에서, AI 혁명의 성공은 적합한 하드웨어를 새롭게 만들어 내는 데에 달려있다. 대표적인 사례로, 엔비디아(NVIDIA)는 세계에서 가장 가치있는 기업 중 하나로 자리잡았다. 딜로이트 연구에 따르면, 생성형 AI에만 사용되는 칩 시장 규모가 올해 500억 달러를 넘어설 것으로 예상된다.


<장치>


칩 뿐만 아니라, AI가 내장된 엣지 디바이스(edge device, 네트워크의 가장자리에서 데이터를 처리, 저장, 분석하는 하드웨어)가 새로운 기회로 부상하고 있다. AI가 내장된 PC는 데이터 처리 작업을 오프라인 AI 모델에서 처리하면서 연산을 효율화시켜 업무 생산성을 대폭 향상시킬 수 있다. 하지만 칩이든 AI 엣지 장치든, 하드웨어를 취하는 방식에 있어 신중한 전략이 필요하다. AI 활용을 위한 리소스의 공급은 제한되어 있기 때문에, 무작정 도입하는 것은 막대한 비용을 발생시킬 수 있다.


<에너지>


또한 AI 활용은 엄청난 에너지를 사용하기 때문에 지속 가능성에 대한 우려를 가중시키고 있다. 국제에너지기구(IEA)는 2026년까지 AI가 사용할 에너지가 스웨덴이나 독일의 연간 에너지 사용 수준에 맞먹을 것으로 전망한다. 심지어는, 5년 전 경제적 이유로 폐쇄된 원자력 발전소를 재가동한 경우도 있다. AI가 더욱 접근하기 쉽고 지속 가능할 수 있도록 만드려면, 에너지원과 효율성에 대한 혁신이 필요하다.


<로보틱스>


AI 하드웨어는 사물인터넷(IoT)로 확장되어 새로운 작업들을 수행할 수 있게 될 것이다. 현재는 칫솔이나 시계 같은 곳에 ‘소소하게’ AI를 활용하는 수준이지만, 미래에는 의료기기에 AI를 통합시키는 등 더 스마트한 디바이스가 등장하여 로보틱스에 획기적인 변화를 가져올 수 있다.


(1) 하드웨어의 현재: 칩의 성장


최근까지는 투자 수익률(ROI, Return on Investment)의 핵심은 소프트웨어의 확장성, 업데이트 용이성, 지적 재산 보호에 달려있다고 믿어왔다. 하지만 이제 컴퓨터 하드웨어가 단순 연산 계산기(calculator)에서 AI의 두뇌(cogitator)로 진화하면서 하드웨어 투자가 급증하고 있다. 


AI를 학습시키고 활용하기 위해서는 막대한 자원이 요구된다. 효율적인 연산, 연산을 하기 위한 전기, 연산 작업으로 인해 발생하는 열 처리 등 작업 처리 부하를 줄일 수 있는 방법들이 필요하다. 기업들은 기기에 AI 칩을 심어 연산을 분산시키거나, AI 칩을 새로 설계하는 등의 방법으로 생산성을 크게 향상시키는 동시에 기술 인프라를 새롭게 구축하는 과정이 진행되고 있다.


현재 약 500억 달러 규모의 AI 칩 시장은 2027년까지 보수적으로는 1,000억 달러, 최대로는 4,000억 달러까지 이를 것으로 전망된다. GPU에 대한 수요는 공급을 초과하고 있다. AI 혁신 시대는 일종의 골드 러시와 같은 상황이다. 사업 혁신이라는 ‘금’을 찾기 위해 필요한 ‘곡괭이와 삽’인 AI 칩을 제공하는 기업들이 큰 성공을 거두고 있는 것이다.


NVIDIA와 같이 GPU를 생산하는 기업들은 새로운 칩을 설계하고 출시하는 데에 집중하고 잇으며, 하이퍼스케일러(hyperscaler, 대규모 데이터 센터를 가진 업체)들은 GPU를 대량 구매하여 고객사들에게 GPU 사용을 임대하기 위해 데이터 센터 인프라에 1조 달러에 가까운 금액을 투자하고 있다.


하지만 GPU에 기반한 연산과 막대한 사용량은 전 세계적으로 노후화된 전력망에 심각한 부담을 주고 있다. 이러한 문제를 해결하기 위해 기업들은 신경 처리 장치(NPU, Neural Processing Unit)와 같은 기술에 직중하고 있다. AI 작업의 일부를 높은 효율성으로 로컬 환경에서 처리하면서 전력 소비를 최소화한다. 이런 연산의 분산과 효율화는 기업 성과의 차별화 요소로 떠오를 수 있다.


(2) 하드웨어의 과제: 인프라가 다시 중요한 시대


무제한 접근이 가능할 것이라고 여겨졌던 클라우드는 막대한 AI의 연산량으로 인해 제약이 발생하기 시작했다. 수년간 단순한 유틸리티로 여겨졌던 하드웨어 인프라가 다시 전략적인 자산으로 부상하고 있는 것이다. 특히, AI 내장형 디바이스 및 사물 인터넷(IoT), 데이터 센터, 첨단 로보틱스는 AI의 주요 성장 영역에서 중요한 역할을 할 것이다.


<엣지 디바이스의 중요성 증대>


2025년까지 전체 데이터 50% 이상이 엣지 디바이스에서 생성될 것으로 예상된다. NPU가 확산되면서, 더 많은 기기들이 클라우드를 거치지 않고 AI 모델을 실행할 수 있게 될 것이다. 이를 통해 응답 속도가 더 빨라지고, 비용이 감소되며, 개인 정보 보호가 강화된다. 그리고 디바이스 내(on-device) AI 데이터와 클라우드 데이터가 혼합된 하이브리드 컴퓨팅(hybrid computing)이 필수 요소가 될 것이다.


지금까지 중앙 집중형 연산 장치로 데이터를 이동시켜 비효율적이고 안전하지 못 했다면, 이제 AI 자체를 데이터로 가져가면서 방대한 양의 데이터를 효과적으로 처리하는 것이다. 주요 은행에 의하면, AI PC는 2026년까지 전체 PC 출하량의 40% 이상을 차지할 것이며, 2024년 스마트폰 출하량의 약 15%가 AI 모델을 실행할 수 있는 역량을 갖출 것으로 전망된다.


물리적 기기가 중요해지고 선택의 폭이 넓어지는 만큼, 이를 관리할 좋은 거버넌스가 필수적이다. 사업의 필요를 충족시키기 위해 얼만큼의 기기가 필요한지, 그리고 어떤 직원이 필요한지에 대한 최적화가 필요한 것이다. 이 때문에 이제 기업들은 하드웨어를 전면적으로 교체하는 데에 전략적인 접근을 하며 기술 업데이트가 기업의 목표화 일치하도록 고민해야 한다.


<AI 도입 전 AI 필요 영역 확인과 효율적인 자원 관리의 필요>


데이터를 제대로 활용할 수 있는 상태가 아니라면, 하드웨어를 구매하고 AI를 도입하는 것은 사업에 어려움을 가중시킬 가능성이 크다. 통제되지 않은 데이터와 AI가 통제되지 않은 하드웨어에서 작동할 경우 비용은 천문학적으로 증가한다. 어떤 데이터를 처리해야 하는지, 이 데이터를 처리하는 것이 로컬 환경이 나을지 클라우드에서 해도 되는지 등에 대한 결정이 필요하다. 


또한, 실질적인 GPU 활용률은 15~20% 수준으로 지적되며, 주어진 자원도 제대로 활용되지 않는 경우도 많다. 즉, AI 도입 초기 단계에서는 유행에 쫓기듯 하드웨어를 확보하고 최적화하기보다, 객관적으로 어떤 부분에서 보충이 필요한지, 그리고 공급이 제한된 하드웨어들을 어떻게 최대한 활용할지에 대한 전략적 투자가 더욱 중요하다.


<보안으로 인한 AI 리소스 시장의 변화>


AI 주권(AI sovereignty)에 대한 우려가 전 세계적으로 증가하면서, 국가적 정보와 데이터 관리에 대한 민감성이 중요한 화두로 떠오르고 있다. AI 워크로드를 해외 서버에 배치하는 것이 국가적인 위기를 촉발할 수 있다는 것이다. 이로 인해 클라우드 업체가 국가별로 발생하거나, 프라이빗 클라우드 시장이 발달하거나, 다른 방식으로 컴퓨팅 파워를 제공하는 시장으로 세분화 될 수 있음을 시사한다. 또한, 양자 컴퓨팅의 발전으로 암호 기술을 AI 인프라를 보완하는 방식을 적용하는 AI 리소스 시장은 지속적으로 혁신되고 있다.


<지속 가능성을 위한 움직임>


주요 AI 챗봇의 하루 전력 사용량은 미국의 18만 가구의 하루 전력 소비량에 맞먹는다. 이러한 막대한 AI 워크로드를 감당할 수 있느냐에 대한 지속 가능성의 문제가 매우 큰 과제로 떠오르고 있다. 주요 테크 기업들은 이미 원자력 에너지 업체들과 파트너십을 모색하고 있으며, 지열, 수력, 화산 등 다양한 재생 가능 에너지원을 활용하려고도 한다.


그리고 AI 적용 자체가 탄소 비용을 상쇄시킬 수 있다. AI는 산업의 사업 운용을 효율화시키면서 탄소 배출량을 줄이는 데 활용되고 있다. 예를 들어, 스마트 빌딩 관리, 물류 최적화, 제조 공정 개선을 통해 사업에 들이는 리소스를 줄여나가기도 하며, 직접적으로는 산림 파괴 추적, 빙하 및 기상 패턴 분석을 통해 기후 대응에 AI를 활용하기도 한다.


하드웨어를 개선하여 에너지 및 비용을 절감하기도 한다. 인텔(Intel)과 글로벌 파운드리스(Global Foundries)는 빛을 통해 데이터를 전송하는 새로운 칩을 공개했다. 그리고 많은 기업들이 서로 다른 칩 간의 통신을 최적화하고 있으며, 6G 기술은 통신 지연을 최소화시켜 나가고 있다.


월스트리트저널(The Wall Street Journal)은 AI로 인한 변화가 자동차 업체들의 전기차 전환 과정과 유사하다고도 말한다. 전기차를 제대로 생산하기 위해 내연 기관기반 설계에서 벗어나 완전히 탈바꿈해야 하듯이, AI를 제대로 활용하려면 산업 전반에 걸쳐 근본적인 변화가 필요한 것이다.


(3) 하드웨어의 미래: 꿈꿔왔던 로봇의 시대


미래에는 여러 AI 기반 스마트 디바이스들이 메쉬 네트워크(mesh networks, 여러 장치가 연결되어 하나의 큰 네트워크를 이룬 것)를 형성하여 협업 컴퓨팅 환경을 조성하고 다양한 자원을 효율적으로 조율할 것이다. 미래의 로봇은 단순히 명령을 수행하는 도구에서 벗어나, 기업의 자원 상황을 스스로 학습하고 최적화하며 관리하는 핵심 동력으로 자리 잡을 것이다.


앞으로의 10년 동안 로봇 공학은 점점 더 복잡한 상황에 적용되면서 육체적 노동의 본질을 혁신할 수 있다. 이러한 발전은 인간이 하는 일을 역동적이고 지속적으로 학습하며 인간처럼 수행할 수 있는 로봇으로 이어질 수 있을 것이다. 그렇기에 기업들은 인간과 기계가 각각 단독으로 작업할 때보다 더 효율적으로 협력할 수 있는 방식을 찾아야한다. “저는 AI가 내 빨래와 설거지를 대신해주길 원하지, 제가 빨래와 설거지를 하고 AI가 제가 하는 예술을 대신 하는 것을 원치 않습니다.”라는 말처럼 말이다. 노동력 부족과 생산성의 비효율은 로봇 기술로 해결되어 인간이 창의적이고 복잡한 작업에 집중할 수 있는 시간을 더 많이 확보하도록 도울 수 있을 것이다.




원문: https://www2.deloitte.com/us/en/insights/focus/tech-trends.html


브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari