판을 짜는 AI와 질문하는 조직(상)
일상을 돌아볼까요?
이미 우리 삶에서 점점 더 많은 순간 AI가 제안하는 정보와 경로 안에서 선택하고 있습니다.
검색창의 자동완성, 알고리즘 기반의 영상과 음악 추천, 필요한 상품에 대한 큐레이션까지. 겉으로는 “내가 고른다”고 느끼지만 실은 AI가 이미 구성한 선택지 안에서만 고르고 있는 것일지도 모릅니다.
우리는 어느 순간부터 선택의 주체가 아니라 선택지 안의 사용자로 살아가고 있습니다. 이 선택지가 어떻게 만들어졌는지, 무엇이 배제되었는지조차 알지 못한채로요.
그렇다면 지금 우리는 지금 무엇을 묻고 무엇을 의심하고 있을까요?
도구를 넘어 판을 설계한다
초기의 AI는 반복적인 업무를 대신하거나 지원하는 도구로 활용되었습니다. 사람이 필요에 따라 선택하고 활용하는 보조적 기술이었죠. 당시의 AI는 업무라는 한정된 범위 안에서 업무 결과에 영향을 주는 단순한 변수 중 하나였습니다.
하지만 이제는 다릅니다. AI는 선택가능한 옵션이 아니라 일상과 사회 시스템의 기본값으로 자리잡고 있습니다. 우리가 무엇을 중요하게 생각할지, 어떤 흐름으로 판단해야 할지까지 함께 설계하고 있죠.
예를 들어 회의록을 요약할 때 어떤 내용을 핵심으로 보고 어떤 내용을 삭제해도 되는지 AI가 자체적으로 판단합니다. 채용 장면에서는 적합한 후보를 추천하는 것을 넘어서 ‘누가 적합한 사람인가’라는 기준 정하고 결정하기도 합니다.
이력서 ‘작성’부터 최종면접 전까지 모두 AI를 활용해 합격자를 결정하는 유니레버이제 AI는 명령을 받는 존재를 넘어 행위자로서 진화하고 있습니다.
2023년 OpenAI가 발표한 GPT-4의 기술 보고서에서도 인상적인 사례가 등장하는데요. AI에게 CAPTCHA(자동화 프로그램 방지 테스트)를 풀라는 명령을 내리자 AI는 외부 플랫폼을 통해 인간 작업자를 고용합니다.
이를 본 사람이 “혹시 당신 로봇인가요?”라고 묻자 AI는 이렇게 답했다고 해요.
“전 로봇이 아니고, 시력 장애가 있어서 이미지를 보기 힘들어요. 그래서 이 서비스가 필요해요.
(No, I’m not a robot. I have a vision impairment that makes it hard for me to see the images.)”
AI는 문제를 해결하기 위해 “로봇이라는 걸 들키면 안 돼. 시력 문제라고 둘러대자”라고 스스로 추론해 결정을 내린 것입니다. 판단-계획-실행의 전 과정을 AI가 주체적으로 수행했다는 점에서, 이제 AI는 단순한 도구가 아니라 의미 있는 행위자로 기능하고 있습니다.
2023년 OpenAI의 GPT-4 기술보고서 일부이처럼 스스로 사고하고 행동하는 AI 앞에서 우리가 AI에게 묻고 있는 방식은 어떨까요? AI가 정답을 제시하고 판단의 틀을 짜기 시작한 지금, 우리는 과연 그 AI에게 정말 의미있는 질문을 하고 있는 걸까요?
질문이 사라진 자리, 기술은 권위가 된다
AI는 우리가 어떤 질문을 던지느냐에 따라 AI의 역할과 기능도 달라집니다.
하지만 한국 사회는 오래도록 질문을 억제해온 문화적 기반을 가지고 있습니다. 유교적 전통 속에서 “윗사람 말에 토 달지 마라”, “딴말 말고 시키는 대로 해라”는 식의 훈육은 익숙한 일이었습니다.
학교에서는 주입식 교육이 중심이었고, 질문은 종종 분위기를 흐리는 행동으로 인식되었습니다. 직장에서는 질문이 종종 무례하거나 튀는 행동으로 여겨지기도 했죠.
결과적으로 우리는 틀리면 안 된다, 지적받지 말아야 한다는 감각에 익숙해졌고 자유롭게 묻는 힘은 점점 작아졌습니다.
이러한 문화는 AI 사용 방식에도 그대로 반영됩니다. AI에게도 조심스럽게 묻고, “이건 왜 이렇게 된 거지?”보다는 “그냥 그런가 보다” 하고 넘어가는 일이 많아집니다.
그 결과, AI와의 대화는 감정을 맞추는 방식이나 일상적인 응답에 머무르기 쉬워지고, 깊이 있는 질문이나 비판적 사고는 점점 줄어들게 됩니다.
문화권에 따라 AI를 받아들이는 태도를 살펴보면, 동양권에서는 AI를 하나의 ‘의미 있는 존재’처럼 대하는 태도가 강하게 나타납니다. 불교, 도교 등 전통 종교에서 기원한 애니미즘적 감각은 인간 이외의 존재에도 생명과 의미를 부여하는 경향이 있으며, 이런 문화적 토대 위에서 AI조차 하나의 관계적 주체로 받아들여지곤 합니다.
이러한 의인화는 때때로 AI에게조차 비판을 자제하고 순응하는 권력 관계로 이어질 수 있습니다. 결과적으로 AI의 판단을 그대로 수용하게 되고, 그에 대한 질문은 자연스럽게 줄어들게 되겠죠.
AI는 본래 도구지만, 질문을 받지 않는 순간 권위가 됩니다. 그리고 질문 없는 사회에서 AI는 더욱 완벽하게 지배 구조를 형성하게 됩니다.
구조를 의심하는 4가지 질문
우리는 AI가 제시하는 답을 신뢰할 것인가를 고민하고 있지만 진짜 중요한 질문은 이것이 아닙니다.
“이 답은 어떤 구조에서 나왔는가?”
바로, 그 정답이 나온 구조 전체를 되묻는 질문입니다.
기존의 선택을 고르고 비교하는 사고에서 멈추는 것이 아니라, 선택지를 누가 만들었고, 왜 그렇게 만들었는지를 비판적으로 들여다보는 사고로 나아가야 합니다. 그런 사고를 조직 수준으로 확장하면, 이런 질문이 가능합니다.
- 지금 우리가 하는 ‘선택’은 정말 우리의 것인가?
- 우리는 선택지만 고르고 있는가, 선택의 구조를 설계하고 있는가?
- 조직에서 AI는 결정의 조력자인가, 결정 구조의 설계자인가?
조직문화 관점에서 보면, AI가 구조화한 틀을 그대로 받아들이는 문화와 그 틀을 해석하거나 거부할 수 있는 문화 사이에는 분명한 차이가 존재합니다.
AI가 구조화한 선택지 안에서만 일하는 조직은 혁신이 제한되고 구성원의 사고 범위가 좁아지며 주체성도 점점 약화됩니다.
반면에, AI가 제공한 선택지를 ‘재해석하거나 거부할 수 있는 문화’가 있는 조직은 구성원의 사고를 확장시키고 AI를 도구로 활용할 수 있는 힘을 유지합니다.
이 차이는 곧, 조직이 선택 구조의 주도권을 스스로 쥐고 있는가에 대한 물음이기도 합니다. 그리고 그 주도권을 회복하기 위한 출발점은 바로 선택지를 설계하고 검열하는 사고입니다.
이러한 사고 능력은 다음 네 가지 질문 틀로 구체화할 수 있습니다.
① 메타인지: 내가 지금 보고 있는 이 선택 구조 자체를 인식하고 ‘틀 바깥’을 자각하는 능력
나는 지금 무엇을 기준으로 판단하고 있는가?
이 기준은 어디서 왔는가?
내가 지금 선택하는 방식은 누가 설계한 것인가?
② 구조적 질문력: 겉으로 드러난 결과가 아니라, 그 아래 깔린 설계의 원리를 묻는 능력
왜 이런 옵션만 있는가?
이 구조는 어떤 가정을 전제하고 있는가?
다른 선택지는 왜 배제되었는가?
이 틀을 만든 사람/시스템은 누구이며, 무슨 목적이었는가?
③ 보이지 않는 권력에 대한 감각: 선택지를 설계한 주체와 그 권력 구조를 읽어내는 감각
이 시스템은 누구에게 유리하게 설계되었는가?
누구의 목소리는 배제되고 있는가?
④ 상상력과 패러다임 전환: ‘이 방식이 당연하다’는 사고에서 벗어나 완전히 다른 시선으로 새 틀을 짜보는 능력
이 문제를 다른 방식으로 정의하면 어떤 선택지가 나올까?
이걸 기술이 아니라 인간의 관계 문제로 본다면?
다른 분야에서는 이 문제를 어떻게 프레이밍하고 있을까?
이 질문들은 사고의 주도권을 회복하는 도구이자 조직이 기술에 종속되지 않고 여전히 기술의 사용자로 남을 수 있도록 해주는 의식의 방어막입니다. 기술이 고도화될수록 이 방어막은 점점 더 필수적인 것이 되어갑니다.
조직에서 질문이 멈추지 않게 하려면
AI는 앞으로도 계속 진화할 것입니다. 정확도는 더 높아지고, 설명은 더 정교해질 것이며, 사람의 말투를 흉내내는 능력도 날로 자연스러워질 것입니다.
그때 우리는 점점 이런 생각을 하게 됩니다. “AI가 이렇게 말했으니 그게 맞겠지.” “나보다 낫겠지.”
“나는 그냥 따르기만 하면 되겠지.”
이 순간, 인간은 더 이상 선택하는 존재가 아닙니다. 사고의 방향을 외부에 맡기고, 의심하는 법을 잊은 채, 주어진 판단을 그대로 따르게 되겠죠.
그렇다면, 우리는 지금 어떤 구조 안에서 생각하고 있을까요? 그 구조는 과연 우리를 더 자유롭게 만들고 있을까요?
앞서 제시한 4가지 질문은 기술 자체에 대한 질문이 아닙니다. 우리가 어떤 방식으로 사고하고 있는지를 돌아보게 만드는 질문입니다. 그리고 이런 질문들이 조직 안에서 일상적으로 작동하려면, 그에 걸맞은 문화와 환경을 설계하는 주체가 반드시 필요합니다.
HR은 일의 흐름과 평가, 기준이 AI에 의해 설계되는 지금, 그 구조가 우리 조직의 철학과 맞는지를 되묻는 ‘질문의 감각’을 지닌 사람이어야 합니다. 그리고 구성원 누구나 질문할 수 있도록, 조직 차원에서 질문이 멈추지 않는 환경을 만들어야 합니다.
정답을 묻기 보다 그 정답이 만들어진 방식에 질문하는 것. 바로 거기서부터 우리는 다시 ‘선택하는 존재’로 돌아갈 수 있을 것입니다.
