마이크로소프트 이그나이트 2024 리뷰
디지털서비스 이슈리포트 2024-11호
이 글은 제가 NIA [한국지능정보사회진흥원]의 < 디지털서비스 이슈리포트 > 2024년 11월호에 기고한 글입니다. 원본 글 '2024년 AI 현황 보고서 리뷰'를 이곳 브런치에서도 공유합니다.
들어가며
마이크로소프트는 매년 가을 이그나이트(Ignite) 라는 이름으로 개발자들을 위한 행사를 진행해 왔다. 1993년에 테크에드(TechEd) 라는 이름으로 처음 시작했고, 2015년부터 지금의 이그나이트로 바꾼 이후 마이크로소프트 제품을 이용해서 서비스나 제품을 만드는 개발자들을 대상으로 유용한 업데이트와 교육을 제공해 왔다. 몇 년 전부터는 애저 클라우드를 같이 다루면서 올해부터는 파트너들을 대상으로 진행하던 인스파이어(Inspire) 이벤트와 합쳐서 명실상부한 마이크로소프트의 최대 개발자 이벤트로 자리잡게 되었다.
일주일간 열리는 이그나이트 이벤트는 마이크로소프트와 협력사들의 최신의 혁신적인 기술들을 소개하는 것부터 전문가들과의 네트워킹 기회를 제공하며, 다양한 교육 세션과 실습을 통해 참가자들의 기술 역량을 향상시키는 것 등을 목표로 하는데, 2023년에는 시애틀에서 열렸고, 올해 2024년에는 11월 18일부터 22일까지 시카고에서 개최했다.
이번 글에서는 발표된 내용을 이미 마이크로소프트 제품들을 이용하고 있거나 혹은 애저 도입을 고려하는 클라우드 서비스를 만드는 회사의 시각에서 리뷰해 보도록 하겠다.
코파일럿
올해 이그나이트 행사 전체를 관통하는 하나의 키워드를 고른다면, 이는 코파일럿(Copilot)이었다.
그림 1 키노트에서의 코파일럿2021년 깃허브에 오픈AI가 만든 플러그인 형태로 코파일럿이 등장하고, 이후 2023년부터 마이크로소프트의 다양한 제품군에서 사용자에게 도움을 주는 보이지 않는 역할들을 넓게 포함하는 의미로 쓰여 왔는데, 이번 이그나이트의 키노트를 한 장으로 보여 주는 요약으로 그림 1과 같이 코파일럿, 코파일럿 디바이스, 코파일럿과 AI 스택 등의 셋으로 나누어 소개하고 있다.
개인이 마이크로소프트 오피스 제품을 이용하면서 각자의 생산성을 높이는 데 그치지 않고, 각종 엔터프라이즈 제품들에 사용할 수 있는 모든 것들 역시 코파일럿이라 부르며 뒤에서 다양한 도움을 줄 수 있는 제품들을 에이전트라 정의하며 모아서 사용할 수 있는 강력한 환경을 만들었다.
그림 2 코파일럿 아래의 구성회사 안에서 업무를 위해 다른 서비스들을 사용하는 경우 반복적인 내용들을 대신하게 한다거나 시간이 많이 걸리는 것들을 빠른 시간에 가능하게 하는 등의 일을 하는 것들을 에이전트라는 형태로 정의하고, 이들을 코파일럿에서 불러 사용할 수 있게 코파일럿 스튜디오에서 구성하고, 이들이 채널 형태로 정의가 되면 다른 마이크로소프트 제품군에서도 사용할 수 있게 되는 통로와 플랫폼으로서 역할을 하게 했다. 이 때 코파일럿 스튜디오에서는 여러 에이전트를 자유로이 부를 수 있고, 만들어진 코파일럿들을 전체적으로 회사나 그룹의 시각에서 관리할 수 있는 코파일럿 컨트롤 시스템도 같이 소개했다.
아래는 코파일럿으로 연결되어 있는 에이전트를 제공하는 70여개의 초기 파트너들이다. 마이크로소프트 엔터프라이즈 제품들을 사용하고 있으며 어도비나 워크데이(Workday), SAP, 혹은 서비스나우 등을 이미 사용하고 있던 기업들의 경우 그 사용을 훨씬 더 효율적으로 해 주는 도구로 사용될 수 있을 것이며, 기본적인 오피스 제품군 이후에 파워빌더 제품군도 코파일럿 사용 가능 제품들로 포함시키는 등 마이크로소프트는 엔터프라이즈 제품군을 풍성하게 하는 데 집중하고 있었다.
그림 3 코파일럿용 에이전트를 제공하는 업체들애저 AI 파운드리
그럼 1의 아래 부분인 코파일럿을 이용해서 만들 수 있는 AI 스택에 대한 소개 설명은 아래 그림 4로 설명하는데, 중심에 해당하는 AI 앱 플랫폼으로 애저 AI 파운드리(Azure AI Foundry)를 소개했다.
그림 4 코파일럿과 AI 스택
그림 5 애저 AI 파운드리 소개애저 AI 파운드리 서비스는 이전에 애저 AI 스튜디오로 불리던 제품을 재구성한 것으로 먼저 애저 AI 파운드리 SDK는 깃허브, 비주얼 스튜디오 같은 개발 도구에서 애저 AI 서비스와 기능을 활용할 수 있도록 하는 AI 툴체인을 제공한다. 이를 통해 개발자는 다양한 프로그램 혹은 모델과 통합할 수 있는 애플리케이션을 기존의 익숙한 환경에서 손쉽게 구축할 수 있다.
이미 사용 가능한 1800 개 이상의 AI 모델들을 이미 손쉽게 사용할 수 있고, 여기에 바이엘(Bayer), 사이트 머신(Sight Machine), 피델리티 랩스(Fidelity Labs), 페이지닷에이아이(Paige.ai) 등 다양한 기업에서 제공하는 산업 영역에 특화된 모델을 추가했다.
그림 6 AI 모델 카탈로그이 파운드리 도구를 이용해서는 서비스를 만들 때 사용하는 모델의 내용과 성능을 비교해 볼 수 있으며, 서비스를 만들어 운영하는 경우에 이를 개발, 실행, 관리 지원하는 것을 애저 AI 에이전트 서비스를 이용해서 쉽게 할 수 있게 구성하였다. 애저 AI 파운드리의 포털 페이지에 해당하는 곳에서는 새로운 관리 센터 경험을 도입했으며, 여기서 구독 정보(연결된 리소스, 접근 권한, 할당량 등)나 사용에 대한 내용을 한 곳에서 확인할 수 있다. 이를 이용해서 개발팀의 시간을 절약하는 것과 동시에 AI 라이프사이클 전반에 걸쳐 보안 및 규정 준수 워크플로우를 관제하고 간소화할 수 있어 더 세밀한 관리를 지원할 수 있다.
그림 7 애저 AI 파운더리에서 서비스 만들 때 필요한 내용들그밖의 발표
먼저, 코파일럿이 가장 자주 보이는 키워드였지만, 전체 제품들을 아우르는 주제로는 다양한 계층에서 보안에 대한 이야기들을 나누고 있었다. 퍼뷰(Purview)와 각종 도구에 대한 거버넌스 기능을 여러 계층에서 이야기 하고, 보안 기능을 일체화한 클라우드 기반 하드웨어 보안 모듈(HSM)에 대한 소개와 지원도 있었다.
그리고 애저의 멀티 클라우드 솔루션인 애저 아크에서 지원되는 저가형 기기인 애저 로컬을 소개해 온프렘 데이터센터에 한 발 더 나아가고, 데이터 센터 전용 칩인 코발트 100과 데이터센터에서 데이터 효율을 극대화시키는 자체 제작 칩 애저 부스트 DPU와 연초 발표한 애저 마이아(Maia) 100 등의 업데이트도 인상적이었다. 반도체 제조사와의 경쟁에서 뒤지지 않겠다는 의지와 더불어 엔비디아의 최신형 GPU인 블랙웰, AMD 와의 협업 결과인 초저전력 반도체인 HBv5 등의 성과들도 계속 진행해서 다양한 제품군을 꾸리고 있다.
고려 사항
마이크로소프트의 애저를 비롯해서 새로운 서비스들이 계속 나오고 있지만, 클라우드 상에서 확장하거나 새로운 서비스를 개발하려는 경우 아래의 여러 가지 요소들을 고려해야 한다. 가상화, 컨테이너 등의 도움을 받을 수 있지만, 특히 관리형 서비스가 있을 경우 클라우드 전체를 이동하거나 운영하는 데 여러 비용이 들고, 무엇보다 여러 개의 클라우드를 오가는 것은 전사적인 차원에서 2중, 3중의 계획이 있어야 가능한 부분이기도 하다.
제일 먼저 신경을 써야 하는 부분은 퍼블릭 클라우드 혹은 그 안의 서비스가 실제로 우리 제품이 사용되는 시점과 장소에서 사용 가능한가에 대한 내용이다. 위의 소개한 여러 서비스들이 시간적으로는 프리뷰 상태에서 진행되는 경우도 많고, 많은 글로벌 서비스가 미국의 중부 혹은 서부에서 먼저 진행이 되는데, 이 경우 실제 서비스를 이용해서 서비스를 만들어 놓으려 하면 여러 문제가 생기기도 한다.
법적 제약: 관련 법령에 따라 물리적으로 한국 지역에서만 서비스해야 하는 제약이 있는 경우, 사용하려는 서비스 자체가 한국에 들어오기를 기다려야 한다.
사용성 이슈: 한국 사용자들을 대상으로 하는 서비스가 실제 외국에서 서비스가 되는 경우 모든 트래픽이 바다를 건너 다녀 오는 지연이 생긴다.
비용: 같은 퍼블릭 클라우드의 경우라도 데이터센터가 다른 경우 데이터들이 오가게 되면 네트워크 비용이 발생한다. 새로 추가되는 기능들의 경우에는 특히 개발자의 사소한 실수에 더 쉽게 노출되고, 새로 소개된 도구도 연결제 등을 강요받는 경우들도 많아 개발 단계에 과도한 비용이 필요하다.
서드파티 업체 서비스 위치: 위와 같은 이유로 상용 서비스를 제공하는 업체들이 특정 데이터센터에서만 실행이 되는 경우가 종종 있다. 아래에는 요즘 각광받는 벡터데이터베이스 솔루션 업체인 파인콘(Pinecone)의 가격표인데, 미국 동부에 설치되어 있다. 개발 초기에 이를 원활하게 쓰기 위해서는 데이터센터의 제약이 생기게 되는데, 이게 매번 다른 서비스들을 고려할 때마다 같은 고민을 반복해야 한다.
그림 8 애저 AI 파운드리 에서 서비스 만들 때 필요한 내용들맺으며
세상을 놀라게 할 깜짝 발표가 있지는 않았지만, 마이크로소프트는 계속 개발 도구들로부터 시작하는 개발자 생태계와 오피스 제품군으로 시작하는 엔터프라이즈 생태계를 주도하고 있었다. 오픈AI 와의 관계에 대한 우려와 전략에 대해서도 다른 모델을 가까이에 놓아 개발자와 사용자들이 선택할 수 있는 방법론 등을 제공하게 하는 것으로 좋은 경쟁을 이끌어 내고 있다는 생각이 든다.
개인적으로는 이 이벤트를 정리하며 개발자 혹은 책임자로서 비쥬얼 스튜디오나 깃허브 등의 도구를 내가 계속 쓰는 이유라는 생각을 하게 되었고, 이후로도 더 많은 다양한 기능을 해 볼 수 있으면 하는 바램이다.
