#4. 기업 AI 아키텍처
철학을 기반으로 전략을 실행할 수 있는 구체적 방법
아키텍처란 무엇인가?
"아키텍처는 가치의 표현이다 (Architecture is an expression of values)." 스티브잡스가 애플의 사옥 'Apple Park’ 설계를 의뢰했던 노먼 포스터(Norman Foster)는 아키텍처를 이렇게 설명했습니다. 건축분야에서 '설계'로 번역되는 아키텍처는 공간에 어떤 가치를 담고 어떤 삶의 방식을 유도할 것인가를 결정합니다.
기업의 IT 아키텍처는 어떠할까요?
기업은 기업철학을 기반으로 IT 전략을 도출합니다. 이러한 전략을 실행할 때 누가 어떤 기준으로 어떻게 실행할 것인지를 정의한 것이 IT 거버넌스입니다. IT 전략과 IT 거버넌스가 현실 세계에 구현된 논리적·물리적 실체가 IT 아키텍처입니다.
IT 아키텍처는 어떤 기술과 솔루션을 도입하고 어떤 절차로 임직원의 일하는 방식을 유도할 것인지를 설계한 것입니다. 데이터의 흐름과 업무 프로세스 등을 정의하는 IT 아키텍처를 수립하는 과정은 아래의 질문에 대해 답할 수 있는 시스템을 갖추어 가는 일입니다.
"우리는 IT를 통해 어떤 가치를 창출하고, 우리 조직은 IT를 활용하여 어떤 모습으로 존재할 것인가?"
아키텍처는 그리스어 아르키텍톤(Architekkton)에서 유래했습니다.
아르키(Archi)는 으뜸, 근원, 지배하는 것을 의미합니다. 지배하는 것은 누가, 어떤 기준으로, 어떻게 행동할 것인가를 결정하는 '거버넌스'와 일맥상통합니다.
텍톤(Tekton)은 제작자, 목수, 장인을 의미합니다. 비즈니스 아키텍처(BA), 데이터 아키텍처(DA) 등 전사 아키텍처(EA, Enterprise Architecture)의 각 계층을 물리적으로 구축하는 것과 이어집니다.
아르키텍톤은 거버넌스와 아키텍처의 의미를 모두 담고 있습니다.
IT 아키텍처는 성을 쌓는 일이었습니다.
정보전략·디지털전략 시대의 IT 아키텍처는 명확했습니다.
전사 아키텍처(EA, Enterprise Architecture)는 전사 차원에서 무엇을(BA), 어떤 데이터로(DA), 어떻게(AA), 어떤 기술적 인프라를 기반으로(TA) 만들지를 정의했습니다.
비즈니스 아키텍처(Business Architecture, BA): 무엇을 (조직의 목표, 전략, 업무 프로세스)
데이터 아키텍처(Data Architecture, DA): 어떤 데이터로 (데이터의 구조, 흐름, 관리체계)
애플리케이션 아키텍처(Application Architecture, AA): 어떻게 (비즈니스를 지원하는 소프트웨어와 서비스 간의 관계)
기술 아키텍처(Technical Architecture, TA): 어떤 기술적 인프라를 기반으로 (하드웨어, 네트워크, 보안 등)
이 구조는 "계획(Plan) → 설계(Design) → 구축(Build) → 운영(Operate)"의 선형적 흐름으로 마치 성을 쌓듯 기획자가 설계도를 그리면 개발자가 만들고, 운영자가 지켰습니다. 예측할 수 있고 통제 가능하며 안정적이었습니다.
AI 아키텍처는 다릅니다.
AI 아키텍처는 EA, BA, DA, AA, TA의 구조로 정의하기 어렵습니다. AI 아키텍처의 대상은 IT 아키텍처와 마찬가지로 '시스템'과 그 시스템을 운영하는 '사람'입니다. 이 시스템은 짜여진 코드대로 움직이는 것이 아니라, 스스로 추론하고 생성하고 제안하며 때로는 실행까지 하는 존재입니다. 또, 사람이 아닌 물리적 AI가 AI 아키텍처를 기반으로 움직이게 됩니다.
AI 아키텍처는 "계획~설계~구축~운영"의 선형 구조가 아닌, "철학~전략~거버넌스~워크플로우"가 실시간으로 순환하는 유기체와 같은 구조여야 합니다.
AI 아키텍처에 대한 전문가의 정의를 살펴봅니다.
1. 기술 중심의 정의: 모델의 구조
AI 아키텍처란, AI 모델이 데이터를 처리하고 학습하는 방식을 정의하는 신경망의 구조와 레이어의 배치이다. - Goodfellow et al. (딥러닝의 바이블 'Deep Learning' 저자들): AI 연구자들의 관점에서 AI 아키텍처는 주로 모델 내부의 수학적·기술적 구조를 의미
2. 시스템 중심의 정의: 인프라와 파이프라인
AI 아키텍처란, 데이터 수집부터 모델 학습, 배포, 모니터링까지 전체 AI 시스템의 생애주기를 지원하는 인프라와 파이프라인의 설계이다.
- MLOps 커뮤니티 (Google, Amazon, Microsoft AI 플랫폼 설계자들): 클라우드 AI 서비스를 설계하고 운영하는 실무자들의 관점에서 AI 아키텍처는 데이터 파이프라인, 모니터링 대시보드 등 AI를 실제 비즈니스에 적용하는 '엔지니어링 체계'를 의미
3. 조직 중심의 정의: 거버넌스와 정렬
AI 아키텍처란, AI가 조직의 전략 및 윤리 원칙과 정렬(Alignment)되도록 보장하는 의사결정 체계와 책임 구조이다.
- 기업 AI 거버넌스 연구자들 (Schneider et al., IBM Research): 기업의 관점에서 AI 아키텍처는 AI가 조직의 가치와 일치하도록 설계된 '신뢰의 구조'를 의미하며 누가 AI의 결정을 검증하고, 어떤 기준으로 승인하며, 어떻게 책임을 분담할 것인지가 아키텍처의 핵심
아키텍처의 본질로 돌아옵니다.
기업의 CAIO(Chief AI Officer)가 설계해야 할 AI 아키텍처는 위의 전문가 정의 세 번째 '조직 중심의 아키텍처'에 가깝습니다. 첫 번째 기술 중심은 AI 연구자의 몫이고 두 번째 인프라는 AI 엔지니어의 몫이지만 세 번째 거버넌스와의 정렬은 오직 해당 기업만이 정의할 수 있는 고유한 아키텍처입니다.
이전 글에서 제안한 AI 거버넌스의 핵심, '누가, 어떤 기준으로, 어떻게'를 기억하시나요? AI 아키텍처는 이 거버넌스가 실제로 작동하는 물리적·논리적 구조입니다. 거버넌스가 "인간이 최종 판단한다"라고 선언했다면, 아키텍처는 "어디에서, 어떤 방식으로 인간이 개입하는가"를 설계합니다. 거버넌스가 "기업 철학과 정렬되어야 한다"라고 정의했다면, 아키텍처는 "철학이 어떤 데이터로, 어떤 프롬프트로, 어떤 검증 단계로 구현되는가"를 설계합니다. 저는 이것을 '사유 흐름 아키텍처(Thought Flow Architecture)'라 부릅니다. 전략연구소<결>이 연구 중이며, 추후 관련내용을 다시 전해드리겠습니다.
AI 아키텍처는 조직의 철학, 전략이 거버넌스를 거쳐 기술의 끝단까지 전달되도록 설계하는 고도의 전략적 행위입니다.
https://brunch.co.kr/@joygarden/239
AI 아키텍처를 어떻게 정의할 것인가?
AI 아키텍처를 다음과 같은 위계 체계로 제안합니다.
1. AI 철학 (Philosophy): 존재의 이유
철학은 뒤에 이어지는 전략, 거버넌스, 아키텍처의 기준으로 AI와 인간이 맺는 관계의 본질을 정의하며 시스템이 가져야 할 가치관입니다.
미국 행정부 사례: 바이든 정부의 AI 행정명령(Executive Order 14110)의 뿌리는 "안전, 보안, 그리고 시민의 권리 보호"로, 기술 발전보다 '민주적 가치 수호'를 상위에 둠
전략연구소 <결>의 예시: "조직의 사유 주권을 보호하며 기술과 상생한다."
2. AI 전략 (Strategy): 실현을 위한 로드맵
전략은 철학을 실현하기 위해 어떤 분야에 집중하고, 어떤 자원을 우선 배분할 것인지를 결정합니다.
미국 행정부 사례: 트럼프 정부의 "AI 인재 영입 및 공공 서비스의 지능화(AI Talent Surge)." 유능한 AI 인력을 공직에 대거 유입시켜 정부 시스템 전반을 AI화 하고 미국 내 AI 혁신을 주도하겠다는 전략
전략연구소 <결>의 예시: "인간의 사유를 심화하는 AI 파트너십 구축." AI를 단순 반복 업무 대행자가 아닌, 협업 대상(Co-worker)으로 활용하는 전략적 선택 (대표와 AI만으로 구성된 연구소)
3. AI 거버넌스 (Governance): 의사결정 체계
거버넌스는 전략이 실행될 때 발생하는 갈등과 위험을 조정하는 시스템으로 '누가, 무엇을, 어떻게' 통제할 것인지에 대한 약속이며 AI의 판단과 실행이 철학에서 벗어나지 않도록 감시하는 '신뢰의 구조'이자 보이지 않는 규칙의 집합입니다.
미국 행정부 사례: "OMB(예산관리국)의 AI 가이드라인." 각 부서에 CAIO(최고 AI 책임자)를 임명하고, AI 도입 전 반드시 '인권 영향 평가'를 거치게 하며, 결과물에 대한 투명한 공개를 의무화하는 규칙
전략연구소 <결>의 예시: "AMO(AI Management Officer)와 5대 가치 체크리스트." AI가 생성한 결과물을 무비판적으로 수용하지 않고, 5대 가치(진실, 호기심, 아름다움, 생명 존중, 사유 주권)에 비추어 검증하는 인간 개입(Human-in-the-Loop) 절차를 수립
4. AI 아키텍처 (Architecture): 거버넌스의 논리적·물리적 실체
"사유가 어떤 위계를 거쳐 발현되는가?"에 초점을 맞춰 데이터의 흐름(Flow), 모델의 연결(Connection), 워크플로우(Workflow)를 결합한 실질적인 시스템 구조입니다.
미국 행정부 사례: 미국은 'Enterprise Data Inventory'라는 공통 데이터 창고를 만들고, 각 부처가 이 데이터를 AI 모델(GPT-4, Claude 등)에 안전하게 연결할 수 있는 '공통 API 표준'을 세웠음. 또한, AI 모델이 정부 내부 데이터를 학습하되 외부로 유출되지 않도록 하는 'Closed-loop 환경'을 구축
< AI 아키텍처의 위계 체계로 NotebookLM과 협업 >AI 아키텍처의 4대 요소
전략연구소<결>은 AI 아키텍처의 핵심 요소로 아래의 네 가지를 제안합니다. IT아키텍처의 EA, BA, DA, AA, TA를 참조하고 AI 아키텍처의 위계 체계를 고려하여 만들었습니다.
1. 철학 아키텍처 (Philosophy Architecture)
질문: 왜 AI를 활용하는가? AI와 인간의 관계를 어떻게 정의할 것인가?
설계 요소: 조직의 미션, 비전, 핵심 가치의 AI 시스템 투영 방식
예시: <결>의 L1(원천 사유)는 대표의 철학이 담긴 옵시디언 노트로 이 안에 조직의 미션, 비전, 핵심 가치가 담겨 있으며 AI는 이 L1을 절대 기준으로 참조합니다.
2. 데이터 아키텍처 (Data Architecture)
질문: 어떤 데이터를 학습시킬 것인가? 생성된 데이터는 어디에 어떻게 관리할 것인가?
설계 요소: SSOT(Single Source of Truth) 확보, 데이터 출처 신뢰성, 보안 및 개인정보 보호
예시: <결>의 L2(정리된 영감)는 옵시디언에 축적하며, 이것이 AI의 유일한 SSOT입니다.
3. 모델 아키텍처 (Model Architecture)
질문: 어떤 AI를 어떤 역할로 사용할 것인가?
설계 요소: 모델 선택, 역할 분담, 멀티 에이전트 구조
예시: <결>의 L3(전략적 정제)는 클로드가 맥락을 분석하고 전략을 구체화하는 단계입니다.
4. 워크플로우 아키텍처 (Workflow Architecture)
질문: AI와 인간의 협업 흐름은?
설계 요소: 논리 아키텍처, 인간 개입 루프(HITL), 의사결정권 관리(위임과 회수)
예시: <결>의 L4(가치 검증)는 AMO(Antigravity)가 철학·전략과의 정열 및 5대 가치(진실, 호기심, 아름다움, 생명 존중, 사유 주권)를 검증합니다. 검증결과를 "Green / Yellow / Red 판정"하면 대표가 최종 확인/승인합니다.
AI 아키텍처의 세 가지 기준
전략연구소<결>은 AI 아키텍처의 표준 참조 모델이 없는 상황에서 세 가지 기준을 제안합니다.
1. 철학과의 정렬 (논리적 강제)
AI가 내리는 모든 판단이 조직의 철학에서 벗어나지 않도록 철학을 데이터, 프롬프트, 검증 기준으로 구체화해야 합니다.
질문: 거버넌스에서 정의된 조직의 명문화된 철학이 코드나 프롬프트 형태로 데이터 파이프라인의 입구와 출구에 배치되어 있는가?
구체적 설계 예시 : AI의 결과물이 L5(최종 결과)에 도달하기 전, <결>의 철학·전략과의 정열 및 5대 가치에 대한 검증절차를 아키텍처 내에 물리적으로 배치합니다.
2. 인간 개입 지점의 명확화
AI가 만들어내는 과정과 단계 어느 지점에서 AI가 멈추고 인간의 개입을 기다릴 것인지(Gate)를 설계해야 합니다.
질문: 인간의 개입이 '모니터링'수준에 멈추지 않도록, 특정 조건에서 시스템을 멈추고 인간의 입력을 강제하는 제어 게이트(Control Gate)가 설계되어 있는가?
구체적 설계 예시 : AI가 스스로 판단한 결과의 신뢰도가 설정된 임계치에 따라 "Red 판정" 일 경우, 자동으로 L4(가치 검증) 단계의 대기열(Queue)로 결과물을 전송하고 워크플로우를 구성하여 인간의 점검을 기다립니다. 또, AI에게 위임된 의사결정 범위를 시각화하고, 필요시 인간이 즉각적으로 '수동모드'로 전환할 수 있는 '기술적 개입 인터페이스'를 갖춥니다.
3. 진화 가능한 구조
AI 기술은 지속발전하고 있기에, 아키텍처 자체가 학습하고 진화하는 구조를 설계해야 합니다.
질문: 이 아키텍처는 새로운 모델, 새로운 데이터, 새로운 위험에 얼마나 빠르게 적응할 수 있는가?
구체적 설계 예시 : <결>의 전략실장 역할을 담당하고 있는 클로드를 GPT나 다른 오픈소스 모델로 교체하더라도 전체 워크플로우가 무너지지 않도록 설계하고, 데이터와 로직을 분리하여 AI 모델 자체가 지식을 갖게 하는 것이 아니라 외부지식 저장소(옵시디언)를 참조하게 하여 모델이 바뀌어도 조직의 '지식 자산'은 온전히 보존되는 구조를 만듭니다.
마치며
AI 거버넌스와 AI 아키텍처에 대한 글로벌 연구가 활발히 이루어지고 있으며 관련 프레임워크도 등장하고 있습니다만 기업이 활용할 수 있는 정도의 산출물은 아직 보이지 않습니다. 또, <결>과 같이 '철학'을 아키텍처 요소로 정의한 것은 찾기 어렵습니다.
저는 기업의 정보전략 조직에서 기획을 담당했을 때를 떠올리며, 제가 정리 중인 AI 거버넌스와 AI 아키텍처를 실제 기업에서 사용할 수 있는 수준으로까지 구체화하는 중입니다. 먼저 전략연구소<결>의 AI 거버넌스, AI 아키텍처를 만들고 운영하고 보완하면서요. 일정 기간 운영한 후에 사례와 보완된 내용을 다시 한번 전해드리겠습니다.
<결>은 전략을 철학적 기반 위에 선택과 실행을 조정해 가는 동적예술로 정의합니다. 이 문장의 방점은 '동적'에 있습니다.
살아 움직이는 AI가 기업의 철학과 정열되고, AI를 활용하면서도 인간의 사유 주권을 지킬 수 있는 방법은 무엇인가? 이 질문을 이어가다, 기업의 철학을 명문화하여 거버넌스에 녹이고 데이터, 프롬프트, 검증기준으로 구체화하여 아키텍처에 반영하는 방안을 떠올렸습니다.
세스고딘은 며칠 전(3월 1일 자) "AI Slop"이라는 글에서 AI를 사용한 것이 문제가 아니라 누가 승인했는가가 중요하다고 했습니다. 「The question is now, “Who approved this?” not “who made this?”」
슬롭(Slop)은 'AI가 생성한 무성의하고 무의미한 콘텐츠의 홍수'를 의미하는데, 세스고딘은 인간이 검토/조정하지 않고 책임지지 않는 상태로 발행되는 것을 지적합니다.
우리는 AI를 활용하는 목적을 분명히 하고 인간의 사유 주권을 지키기 위해 AI가 생성한 것을 검토하고 보완하여 실행할 수 있는 체계를 갖추어야 합니다.
저의 사유가 우리의 기업과 개인, 국가에 도움이 되기를 희망합니다.
PS. 이 글에는 혁신인·정보전략인 선배·동료들과 함께한 시간, 기본학교로 부터 시작된 사유, 스타트업에서의 경험, 매일 읽고 쓴 시간들이 농축되어 있습니다. 저의 모든 브런치 글 중 가장 많은 시간과 노력을 들였으며 앞으로도 실행과 연구를 이어갈 내용입니다. 경험과 사유를 과거의 이력으로 정리하기보다, 현재와 미래에 사용할 수 있는 것으로 정리하고자 애쓰고 있습니다. 저에게 가르침을 주신 모든 분들께 감사드립니다. 영감을 준 모든 이론과 컨텐츠, 철학과 수학, 과학과 기술에 감사합니다.
글쓴이 정원 | 전략연구소<결> 독립연구자 | 전략 자문 | "사유와 실천의 물결"
자신의 정원을 가꾸어 가는 당신께, 이 글을 전합니다.
이 글은 전략연구소<결>의 고유한 사유의 결과가 포함되어 있습니다. 콘텐츠를 알아봐 주시고 공유해 주시는 것은 언제나 환영합니다. 다만, 인용 시에는 출처를 명확히 밝혀주시고 작성자의 철학이 왜곡되지 않도록 배려해 주시길 부탁드립니다. 영리 목적의 재가공이나 영상 제작 등은 사전 협의와 서면 동의가 필요합니다.
이 글이 도움이 되셨다면, 전략연구소<결>의 독립 연구를 응원해 주세요.
© 2026 전략연구소<결> GYEOL Strategy Institute. All rights reserved.