판을 짜는 AI와 질문하는 조직(하)
질문을 바꿔야 판이 바뀐다
본 아티클은 '판을 짜는 AI와 질문하는 조직(상)'편의 후속편입니다. 여러분의 이해를 돕기 위해 해당 글을 먼저 읽어보시길 추천드려요 :)
앞선 글에서 고민했던 질문은 이렇습니다.
“지금 우리가 고르고 있는 이 선택지, 과연 누가 만든 구조 안에 놓여 있는 걸까?”
AI는 이제 단순히 정보를 추천하거나 업무 효율을 높여주는 보조 수단을 넘어서, 우리가 선택하고 판단하게 되는 ‘구조 자체’를 설계하는 존재가 되고 있습니다. 우리는 이미 AI가 짜놓은 틀 안에서 ‘정답처럼 보이는 것’을 고르고 있죠.
문제는 이 구조에 너무 익숙해졌다는 점입니다. 선택지를 제공하는 AI를 마주할수록, 우리는 점점 ‘이 구조는 누가 만들었는가?’라는 질문을 잃어버리게 됩니다. 그래서 상편에서는 ‘구조를 의심하는 질문’을 되살리는 데 집중했는데요.
이번 글에서는 이 구조를 AI와 함께 어떻게 설계할지 이야기 나누며 한 걸음 더 나아가보려고 합니다.
잘 ‘쓰는’ 법 말고 잘 ‘지내는’ 법
대부분의 조직은 여전히 AI를 ‘도구’로 봅니다. 빠르고 정확하며 더 저렴한 생산성 향상의 열쇠로 인식하죠. 그래서 AI 관련 교육과 워크숍에서도 “어떻게 활용할 것인가?”, “어떤 프롬프트가 효과적일까?” 같은 실용 중심의 질문이 주를 이룹니다.
이런 접근은 분명 실무적으로 유의미합니다. 그러나 AI의 현재 위치를 과소평가하는 것이죠. AI는 더 이상 명령만 기다리는 수동적인 기술이 아닙니다. 데이터를 기반으로 스스로 패턴을 감지하고, 때론 사람이 요구하지 않아도 적절한 제안을 먼저 내놓으며 협업의 흐름과 구조를 직접 설계하는 존재, 즉 ‘행위자(Agent)’로 진화하고 있습니다.
이제 HR은 인적자원(Human Resource)을 넘어 사람(자연지능)과 AI(인공지능)를 함께 관리하는 지능자원(Intelligence Resource)의 관리로 확장되어야 합니다. 이해나 통제가 아닌 조율과 협업의 관점에서 조직과 AI가 서로를 학습하며 맞추어가는 관계 설계가 필요합니다.
이는 다시 말해 사람이 AI에 적응하기만 하는 것이 아니라 AI 역시 사람과 조직의 특성을 배우는, 양방향의 관계 설계를 의미합니다.
결국 우리가 해야할 질문은 이겁니다.
“AI를 잘 쓰려면 어떻게 해야할까?”가 아니라
“우리는 이 존재와 어떤 방식으로 함께 일하고 싶은가?”
AI를 일방적으로 활용하는 것이 아닌 서로를 맞추어가며 설계하는 관계로. 그때 AI는 비로소 우리 조직 안에서 ‘함께 일하는 존재’로 조직에 자리 잡을 수 있을 것입니다.
AI를 ‘지능 자원(Intelligent Resource)’으로 본다면
AI를 도구가 아닌 하나의 지능 자원으로 본다면, 조직은 더 이상 그저 사용법을 익히는 차원에 머물 수 없겠죠. AI가 조직의 판단과 결정에 점점 더 깊이 개입하게 되면서, 다음과 같은 질문들을 조직 차원에서 생각해 보시길 바랍니다.
① 우리는 어떤 AI를 필요로 할까? - 조직의 AI상(像)
AI와의 관계 설정에서 가장 선행되어야 할 것은 우리 조직에게 필요한 ‘AI상(像)’을 그려보는 것입니다. 조직이 새로운 사람을 채용할 때 “우리 조직은 이런 사람을 뽑을 거야”라는 ‘인재상’을 정하는 것과 비슷해요.
단순히 기술적 성능, 정확도나 속도, 효율성만을 기준으로 판단하기엔 부족합니다. 그리고 AI도 결국 조직이라는 생태계 안에서 구성원들과 함께 일하는 존재이기 때문에 이러한 논의 과정부터 구성원들의 참여가 매우 중요합니다.
조직 내에서 AI 프로젝트 80%가 실패하는 이유를 살펴보면, 예산의 70~80%를 ‘기술 도입’에만 투입하기 때문이라고 합니다. AI로 자동화를 추진하는 과정에서 구성원들이 배제된다면 AI와 일하는 것을 꺼리고 결국 신뢰하지 못해 저항하게 된다는 것이죠.
그렇기 때문에 구성원들과 함께 AI에 대한 인식, 기대치, 사용범위, 위험성, 제한사항 등에 대해 합의하고 이를 기반으로 교육과 협업 등의 과정이 진행되어야 합니다.
제가 임의로 진행해본 조직의 AI상 정하기 예시입니다.결국, 조직이 AI를 도입하려 할 때는 성능 비교를 넘어 이렇게 물어야 합니다.
“이 AI는 우리 조직다운가?”
이 질문이야말로 AI 선택을 조직 철학과 윤리를 담는 과정으로 만들어 줄 것입니다.
② 어떻게 AI와 거리감을 줄일까? - AI온보딩
이제는 사람만이 아니라 AI도 ‘온보딩’이 필요한 시대입니다. 기술적으로 아무리 뛰어난 AI라도 조직 안에서 바로 잘 작동하긴 어렵습니다. 업무 맥락, 의사결정의 기준, 말하지 않아도 통하는 분위기처럼 조직 고유의 문화적 문법을 모르면 협업이 어긋나기 마련이죠.
우리가 새로운 팀원에게 차근차근 알려주듯 AI에게도 이런 맥락을 전달해줘야 합니다. 그냥 API를 연결하고 프롬프트 몇 줄을 던지는 걸로는 부족해요.
AI가 조직에 잘 스며들기 위해서는, 다음과 같은 정보들을 의도적으로 제공하고 ‘맥락화(Contextualization)’하는 과정이 필요합니다.
✅ 실제 업무에서 사용된 데이터를 학습시킵니다.
고객 응대 방식이나 과거 이슈를 어떻게 해결해왔는지에 대한 구체적인 예시를 통해 AI가 조직 특유의 판단 기준과 소통 방식에 익숙해지도록 돕습니다.
AI 모델에 조직 맞춤형 데이터를 다시 학습시키거나(Fine-tuning), 조직의 내부 문서 같은 외부 지식을 불러와 참고한 뒤 답을 생성하게(RAG) 할 수 있습니다.
(*아래 표에 두 개념의 설명과 예시를 참고해주세요.)
Fine-tuning과 RAG 비교 설명✅ 공식 규정뿐 아니라 비공식적인 문화 코드도 함께 전달합니다.
단순히 '무엇을 해야 하는가'뿐만 아니라 어떤 말투는 피하는 게 좋은지, 누구에게 먼저 보고해야 하는지, 어떤 상황에서 판단을 미루는 게 관행인지 등 이런 세세한 조직의 일상적 룰까지 포함해야 AI가 실제처럼 행동할 수 있습니다.
✅ 피드백과 개선이 가능한 구조를 함께 설계합니다.
사람도 실수를 겪고 피드백을 받으며 조직에 적응하듯 AI 역시 반복적인 시행착오를 통해 점차 조직에 맞게 다듬어져야 합니다. 한 번의 학습이 아니라 지속적으로 정제·개선해가는 과정입니다.
이런 과정은 사람 직원을 조직에 ‘맥락화’시키는 온보딩 절차와 매우 유사합니다. 한 번 교육하고 끝나는 것이 아니라 일하면서 배우고, 수정하고, 조직에 맞게 길들여지는 방식이죠.
③ AI와 어떤 협업 구조를 설계해야 할까? - AI협업
AI는 사람처럼 일하지 않습니다. 물리적으로 함께 존재하지 않고, 대화를 통해 눈치를 보거나 맥락을 끌어 오지도 않아요. AI는 텍스트를 기반으로 24시간 가동하고 정해진 맥락 안에서 움직이는 존재입니다.
따라서 사람처럼 실시간 회의에서 커뮤니케이션하는 방식보다 ‘비동기적이고 문서 기반인 환경’에서 훨씬 효과적으로 작동합니다.
Shopify는 팬데믹 초기부터 ‘Digital by Design’이라는 이름으로 리모트 우선 문화를 정착시켜 왔고, 그 중심에는 비동기 협업 방식과 문서 중심 커뮤니케이션이 있었습니다.
이런 전환은 단지 사람 간 협업 방식을 바꾸는 데 그치지 않고, 앞으로 우리가 AI와 협업할 때 필요한 조건들을 미리 실험해보고 있는 셈입니다.
기존의 오피스 중심 근무는 동기적 커뮤니케이션(실시간 대화와 즉각적인 피드백)에 기반해 작동했습니다. 커피 타임의 짧은 잡담, 책상 너머의 피드백 요청, 점심시간의 아이디어 공유 등이 대표적이죠.
이런 방식은 효율적일 수 있었지만 그만큼 정보의 비공식성, 기록 부재, 그리고 사람 중심에 크게 의존하는 한계를 가졌습니다.
반면 AI는 사람처럼 분위기나 공기 중에 떠도는 문맥을 자연스럽게 읽어들이는 능력이 없습니다. 대신 명확히 정리된 정보, 구조화된 문서, 지속 가능한 데이터의 축적을 기반으로 작동합니다.
그렇기 때문에 Shopify가 구축한 방식은 AI가 팀의 일원으로 효과적으로 기능할 수 있는 이상적인 기반을 제공해 줄 수 있을 것입니다.
나아가 Shopify는 커뮤니케이션을 동기 vs 비동기의 이분법으로 보지 않고, 이를 스펙트럼 형태의 연속선으로 이해합니다. 이 모델은 사람과 AI가 함께 일할 때 '어떤 방식으로 정보를 주고받을 것인가'에 대한 힌트를 줍니다.
The spectrum of communication types(Shopify)
Shopify의 커뮤니케이션 스펙트럼을 AI협업 관점에서 본다면?비동기 협업이란 ‘시간차를 두고 일하는 방식’이 아닙니다. 핵심은 맥락을 남기고 전달하는 문화인 것이죠.
“왜 이 결정을 내렸는가?”
“이 변경은 어떤 구조와 프로세스를 따른 것인가?”
이런 질문에 대한 답이 정제된 문서와 기록으로 남아 있어야 AI는 과거를 이해하고, 현재를 판단하며, 미래를 제안할 수 있습니다. 이렇게 될 때 AI는 도우미를 넘어 의미 있는 협업자로 자리 잡을 수 있습니다.
‘사람 중심’ 프레임에서 벗어나야 하는 이유
AI와의 관계를 설계하자고 말하는 순간, 우리는 어느새 사람과 관계 맺을 때 사용하는 방식들을 떠올리게 됩니다.
‘AI상(像)’을 정하고, 온보딩 프로그램을 설계하고, 협업 구조를 만드는 일들은 모두 사람을 채용하고 함께 일할 때 사용하는 언어와 방식에서 출발합니다.
그런데 여기서 주의할 점이 있습니다. 이런 관계 설계 자체가, 우리가 AI를 점점 더 사람처럼 대하게 만드는 장치가 될 수도 있다는 것입니다.
특히 언어를 중심으로 상호작용하는 AI와 마주할 때 우리는 아주 쉽게 그 안에 감정과 의도를 읽어내고, 인간적 존재로 인식하려는 본능에 빠지곤 합니다.
실제로 1960년대 초창기 챗봇 일라이자(Eliza)와의 대화에서도 많은 사용자가 금세 정서적으로 몰입하며 감정을 투사했습니다. 일라이자는 단순히 사용자의 말을 반영해주는 수준의 프로그램이었지만 사람들은 그에게 공감 능력, 이해, 관심을 느끼기 시작했죠.
일라이자를 활용한 인간중심 상담의 시뮬레이션 DOCTOR 스크립트이처럼 인간은 언어를 가진 존재에 본능적으로 감정을 부여합니다. 그래서 최근 IBM 같은 기업은 AI에 대한 과도한 인간화와 정서적 의존을 경계하며, 사용자가 AI와 ‘친밀감’을 과도하게 느끼지 않도록 기술적으로 제어하는 기능까지 함께 설계하고 있습니다.
우리가 AI에게 역할을 부여하고, 피드백을 주고, 문화에 적응시키는 과정을 밟을수록 AI가 마치 사람처럼 느껴질 가능성은 더 높아집니다. 하지만 잊지 말아야 할 사실은 AI는 인간처럼 보일 수는 있어도 인간은 아니라는 것입니다.
미국 하버드대 물리학자 맥스 테그마크는 이런 표현을 했습니다.
“AI에게 인간처럼 보이도록 가르치는 건, 돼지에게 립스틱을 바르는 일과 같다.”
아무리 사람처럼 포장해봤자 본질은 바뀌지 않는다는 것이죠.
우리가 해야 할 일은 AI를 사람처럼 만들려 애쓰기보다, 전혀 다른 방식으로 사고하고 작동하는 존재와 어떻게 일하고 어떤 구조로 협업할지를 설계하는 것입니다.
AI는 더 이상 조직 외부의 기술이 아닙니다. 이제는 함께 일하는 동료이자, 우리가 설계해야 할 지능 자원(Intelligent Resource)입니다.
그래서 우리는 이제 이렇게 물어야 합니다.
우리는 어떤 AI와 일하고 싶은가?
우리는 AI에게 무엇을 가르쳐야 하는가?
우리는 AI와 어떻게 협업할 것인가?
이 질문들이 모일 때 조직은 AI를 중심에 둔 새로운 설계를 시작할 수 있습니다.
도구의 사용법을 넘어 관계를 묻고 구조를 다시 짜는 것, AI 시대의 조직이 던져야 할 가장 근본적인 질문입니다.
