5분 만에 이해하는 MS 365 코파일럿 동작 아키텍처
M 365 코파일럿의 작동 원리와 핵심 구성 요소를 간략하게 설명합니다.
예전에 워드, 엑셀, 파워포인트, 아웃룩등을 묶어 MS-Office라고 불렸던 시절이 있었습니다. 그 제품 패키지를 지금은 Microsoft 365 혹은 M 365 (이하에서는 M 365로 통일해 사용합니다.) 라고 하죠. 물론 그 안에 들어가 있는 제품군은 개인 사용자나 기업용으로 많은 종류의 새로운 추가되어 지금은 팀즈나 루프와 같은 제품도 포함되어 있습니다. (패키지 종류나 포함된 앱에 관해서는 이곳을 참조해 주세요.)
M 365 코파일럿(Copilot)은 독립된 기능으로 존재하는 것이 아니라, 일상적인 M 365 사용을 도와주는 AI 어시스턴트입니다. Outlook, PowerPoint, Word, Excel, Teams에서 코파일럿은 새로운 콘텐츠를 생성하고, 관련 제안을 제공하며, 생산성을 높여 시간을 절약하는 것입니다.
M 365 코파일럿의 활용 예는 다음과 같습니다.
- Outlook. 대량의 이메일 스레드 내용을 요약합니다.
- PowerPoint: 텍스트가 많은 슬라이드를 간결한 글머리 기호 목록으로 바꾸어 명확성을 높입니다.
- Word: 문단의 어조를 바꾸거나 스타일을 변경합니다.
- Teams: 회의와 채팅 스레드를 요약합니다.
코파일럿의 맥락과 사용자 요구 이해
M 365 코파일럿의 효율성은 사용자를 이해하는 능력입니다. 이해하기 위해 다음과 같은 방법을 사용합니다.
콘텐츠 분석: 초안을 작성하는 문서, 작성 중인 이메일, 참석 중인 회의에서, 코파일럿은 주제와 어조, 구조, 의미를 면밀히 분석하여 사용자의 의도와 의미를 파악합니다.
M 365의 작업 데이터에서 맥락 파악: 사용자의 커뮤니케이션, 활동 내역, 생성한 콘텐츠는 코파일럿이 사용자의 프롬프트에 응답할 때 실시간으로 추가 맥락을 파악하는 데 사용합니다.
코파일럿 동작 아키텍처
M 365 코파일럿은 개인 사용자로서 액세스 할 수 있는 조직의 데이터를 사용합니다. 예를 들어, Microsoft Graph의 일정 이벤트, 이메일, 채팅, 문서, 회의 등이 있습니다. 이 데이터와 관계를 매핑하여 개인화되고, 관련성이 있으며, 실행 가능한 정보를 제공합니다. 사용자의 데이터는 기존 보안, 규정 준수 및 개인 정보 보호 정책을 준수하면서 M 365 서비스 경계범위 내에서 안전하게 유지됩니다. 또한, 테넌트와 코파일럿 구성 요소 간의 통신은 암호화됩니다.
이 M 365 코파일럿의 워크플로우를 다음과 같은 순서로 정리할 수 있습니다.
M 365 코파일럿 워크 플로우1. 코파일럿은 Word나 PowerPoint와 같은 M 365 앱에서 사용자의 입력 프롬프트를 받습니다.
2. 그러면, 코파일럿은 그라운드라는 접근 방식을 통해 입력 프롬프트를 사전 처리하여 프롬프트의 구체성을 향상시킴으로써 특정 작업과 관련이 있고 실행 가능한 답변을 얻을 수 있도록 도와줍니다.
3. 이 프롬프트는 입력 파일이나 코파일럿이 찾아낸 다른 콘텐츠의 텍스트를 포함할 수 있으며, 코파일럿은 이 프롬프트를 처리를 위해 LLM으로 보냅니다. 여기에서 코파일럿은 기존의 M 365 역할 기반 액세스 제어를 기반으로, 개별 사용자가 액세스 할 수 있는 데이터에만 액세스 합니다.
4. 코파일럿은 LLM으로부터 응답을 받아 사후 처리합니다. 이 사후 처리에는 Microsoft Graph에 대한 다른 기초적인 호출, 책임 있는 AI (Responsible AI) 확인, 보안, 규정 준수 및 개인 정보 보호 검토, 명령 생성 등이 포함됩니다.
5. 코파일럿은 응답을 앱으로 반환하고, 사용자는 앱에서 응답을 검토하고 평가합니다.
마이크로소프트 그래프
그렇다면 그라운딩을 한다고 하는 마이크로소프트 그래프라는 것에 대한 설명을 간단하게 추가해 볼까요? 그래프라는 것은 그래프 데이터베이스라는 것으로 여러 입력미디어들 간의 관계를 지정해 주는 저장방법을 사용합니다.
마이크로소프트 그래프는 기본적으로 모든 M 365 서비스와 데이터를 하나로 묶어주는 데이터 구조입니다. M 365 코파일럿은 테넌트 내의 여러 소스에서 콘텐츠를 모으고 검색합니다. 이메일, 채팅, 문서, 회의 등의 사용자 자산과 경험으로부터 더 많은 맥락을 프롬프트에 제공합니다. 이 정보에는 Outlook, OneDrive, SharePoint, Teams 등의 서비스에서 가져온 데이터가 포함됩니다.
이 정보를 통합하는 가장 큰 장점은 사용자가 다른 앱으로 전환할 필요가 없도록 합니다. M 365 코파일럿이 관련 정보를 사용자에게 제공/배달하니까요.
또한 중요하게 기억할 점은 마이크로소프트 그래프를 통해 액세스 되는 프롬프트, 응답, 데이터는 Microsoft 365 코파일럿에서 사용하는 것을 포함하여 기초 LLM을 훈련하는 데 사용되지 않는다는 사실입니다.
이번 글에서는 Microsoft 365 코파일럿의 작동 방식과 그 기능을 가능하게 하는 핵심 구성 요소를 간략하게 설명 드려 보았습니다. 저도 매일 사용하고 있지만, Microsoft 365 코파일럿은 꽤나 놀랄만한 지능적인 제안을 제공함으로써 더 스마트한 작업할 수 있도록 합니다.
여러분들도 기회가 되는대로 한번 사용해 보시면서 내 업무에서 어떤 부분을 보강하여 사용하면 좋을지를 경험해 보시길 바랍니다. 늘 노력하는 여러분들을 응원합니다!!
