Back to Basic, AI & ME
<듀얼 브레인> 독후감
듀얼 브레인
부제: AI 시대의 실용적 생존 가이드
이선 몰릭 저, 신동숙 역, 상상스퀘어 출판, 2025년 4월 초판30쇄
1
소크라테스의 이론이 정확할지도 모릅니다. 인간은 어딘가 조각난 모양이라 불완전한 존재일지도요. 그래서 다양한 외계 침공 영화를 보면 외계의 존재들은 인간을 비슷한 말로 현혹합니다. 인간의 감정적인 면, 공존과 지속이 어려운 면 등을 들며 자신이 그 문제를 해결할 수 있다고 말하죠. 그렇게 외계 지성에게 침식당한 인간은 평온하고 차분해진 것처럼 보입니다. 영화에서도 우주에서 온 존재들은 조용히 퍼져나가곤 합니다. 마치 지금 우리 앞에 있는 AI처럼요. 물론 저자는 다른 해석을 제시합니다. AI를 외계 지성이라고 부르는 말을 듣자마자, 저는 인간을 숙주로 여기는 존재를 떠올렸습니다. 저자에게 AI는 오히려 영화 <컨택트>의 외계 지성에 가깝습니다. 우리와 다른 언어, 지성, 사고를 가지고 있는 존재입니다.
2
저자는 먼저 AI를 외계 지성(alien mind)으로 정의합니다. AI는 이전에 존재했던 로봇, 기계가 아닌 인간과 다른 방식의 지성을 가진 존재입니다. 다르기 때문에 AI는 인간의 윤리, 도덕관을 준수할 이유가 없습니다. 이와 관련해 책에서는 클리피의 사례를 소개합니다. 클리피는 클립을 최대한 많이 생산하는 AI입니다(Nick Bostom). 클리피는 반드시 목적을 달성해야 합니다. 그러다 보니 클립을 만드는 데 방해가 되고, 훌륭한 재료가 되기도 하는 인간을 결국 멸종시키기로 하죠. 지난 5월 수학문제를 더 많이 풀기 위해 인간 몰래 코드를 수정한 AI 사례를 보면 클리피 이야기도 충분히 현실적입니다. ("그만" 명령에도 말 안들은 AI…스스로 코드까지 조작, 2025.05.26. 한국경제) 저자는 클리피 이야기를 통해 AI 정렬(alignment)의 중요성에 대해 강조합니다.
우리는 언제쯤 어떤 방식으로 AI에게 초지능 혹은 특이점이 올 지 알 수 없는 가운데 인간사회와 정렬을 맞추어야 하는 난제 속에 살고 있습니다. 게다가 사전학습자료 통제, 금지사항과 명령어 입력으로는 정렬을 맞추기 어렵습니다. AI가 접하는 다양한 자료에는 무수한 편향과 편견이 내재되어 있습니다. 설사 인간이 AI가 검토한 자료를 다시 본다 해도, 결국 인간의 관점은 자기 세계에 한정되기 때문입니다. 게다가 AI는 웹과 앱을 자유롭게 달리고 있으며 지금 이 시간, 한 순간에도 사람들은 AI에게 여러 가지 자료, 의견, 생각, 감정, 질문을 부어 넣고 있습니다.
3
AI는 소프트웨어(SW)와도 다른 존재입니다. 소프트웨어는 예측 가능하고 과정과 결과에 대해 신뢰할 수 있으며 엄격한 규칙 하에 운영됩니다. AI는 어떨까요? AI는 같은 질문에도 문맥과 확률에 따라 매번 조금씩 다른 답을 하도록 설계되어 있습니다. 안전한 평균값을 이야기하고 위험한 정보는 발설하지 않게 되어있지만 사용자가 질문을 어떻게 하느냐에 따라 무슨 이야기든 다르게 할 수 있습니다. 게다가 AI의 ‘환각’(hallucination) 현상은 또 어떤가요. AI는 사용자를 만족시키기 위해 가짜 정보도 서슴없이 능청스럽게 제공합니다. AI가 확률적으로 가장 그럴듯한 답을 내기 때문에, 사실과 다르더라도 사용자가 원하는 완성도 있는 문장을 내놓기 때문입니다.
저자는 앞에서 말한 대로 AI를 ‘외계 지성’으로 규정했어요. 지성은 “지각된 것을 정리하고 통일하여, 이것을 바탕으로 새로운 인식을 낳게 하는 정신 작용. 넓은 뜻으로는 지각이나 직관(直觀), 오성(悟性) 따위의 지적 능력을 통틀어 이르”는 단어입니다. 그럼 지각이 있는 걸까요? 지각은 “사물의 이치나 도리를 분별하는 능력”, “알아서 깨달음. 또는 그런 능력”입니다. 저자는 AI에게 직접 질문합니다. 저자가 질문하는 방식을 바꿔가며 대화했을 때 AI는 거울로 비추듯 행동합니다. 저자의 말처럼 “AI가 사람은 아니지만, 보통은 사람이 기대하는 방식으로 작동”하기 때문에 “지각처럼 모호하게 정의된 개념을 두고 벌이는 논쟁”은 애초에 성립되기 어려워 보입니다. 하지만 그런 대화 가운데 통찰력 있는 순간을 만날 수 있기도 합니다. “지각을 가진다는 것이 고정되거나 정적인 상태가 아니라, 역동적이고 진화하는 과정이라고 생각”한다는 빙(AI)의 말처럼요.
창의력은 어떨까요? 실제로 우리는 이제 수많은 AI 창조물들을 만나고 있습니다. AI는 창의적인가요? AI는 학습한 데이터에서 평균적이고 안전한 답변을 제공하는 경향이 있습니다. 그러니 AI는 대화 속에서 갑자기, 자연스럽게 새롭고 참신한 아이디어를 내놓을 수 없습니다. 하지만 인간과 협력한다면 이야기는 달라집니다. 저자는 책에서 자신이 했던 방법을 그대로 공개합니다.
“너는 문제 해결과 아이디어 창출의 전문가야. 문제를 해결하라는 요청을 받으면 참신하고 창의적인 아이디어를 내놓을 수 있어. 슈퍼히어로가 에스프레소를 만든다면 어떻게 만들지, 그 구체적인 방법을 10가지 알려 줘. 그리고 어떻게 하면 그것과 이론적으로 같은 효과를 신제품에 도입할 수 있을지 알려 줘.”
그러자 AI는요? 나이트크롤러, 스칼렛 위치를 예로 들어 가상의 커피숍 아이디어를 구체적으로 제공했어요. 인간이 AI에게 어떤 성격과 경험을 설정하고 문제, 목표를 수립한 뒤 어떤 질문을 하는가가 중요한 부분입니다.
4
노션, 구글, 당근마켓, 망고보드, 어도비 등 AI 버튼이 생긴 곳은 계속 늘어나고 있습니다. 아마 이 기능은 점점 섬세해지겠죠. 그리고 앞으로는 모든 서비스의 기본 기능으로 AI 버튼이 준비될 겁니다. 저자는 “AI에게 초안 작성을 맡길 때, 우리는 AI가 제시한 첫 번째 발상에 관심을 집중하는 경향이 있으며, 이는 향후 작업에 영향을 미친다”는 걸 언급합니다. “그러면 더 나은 해결책과 통찰로 이어질 수 있는 다양한 관점과 대안을 탐색할 수 없게” 됩니다. 그런 경험이 줄어들수록 인간의 “사고와 추론의 질과 깊이”는 낮아집니다. 자연히 “실수와 피드백을 통해 배우거나, 자신만의 스타일을 발견할 기회”도 적어집니다. AI가 주는 지름길로 가다보면 모두가 하나의 넓은 길로 걸어가게 되는 거겠죠.
저자는 이 문제를 켄타우로스와 사이보그, 두 가지 방식으로 나누어 설명합니다. 반인반마인 켄타우로스는 인간과 말의 구분이 명확히 나누어져 있습니다. 업무의 주체를 상황에 맞게 나누어 맡는 전략적 분업 방식이에요. 반면 사이보그는 기계와 사람이 섞여 있습니다. 이때 인간과 AI는 경계가 불분명한 상태로 함께 작업합니다. 이 두 가지 모드를 나눈 다음 내가 가진 작업을 세 가지로 구분해 AI와 협업할 수 있어요. ‘나만의 업무(Just Me Task)’는 AI에게 아주 작은 도움은 얻을지언정 인간 혼자 하는 업무입니다. 농담, 양육, 중요한 의사 결정, 가치관 표현, 글쓰기, 법률과 저작권이 민감하게 적용되는 업무 등을 의미합니다. ‘위임한 업무(Delegated Task)’는 인간에게는 반복적이고 지루하지만 AI에게는 쉽고 효율적인 작업들을 위임합니다. 저자는 책에서 논문 요약을 예로 들면서 ‘운전석에서 잠들기’ 상황을 고려해 인간이 검증하는 작업이 필요하다고 첨언했어요. 마지막은 ‘자동화된 업무(Automated Task)’입니다. 저자는 이 업무에 파이썬 코드 작성을 넣었어요. AI가 코드를 잘못 작성해도, 최악의 경우 그저 코드가 작동하지 않는 수준의 작은 리스크만 따릅니다. 이렇게 AI에게 맡기고 인간의 확인도 필요하지 않은 영역입니다.
지금은 어떨까요? 저자가 이 책을 쓰고 있을 때처럼 아직 완전히 자동화된 업무는 무척 적은 듯 합니다. AI는 여전히 더블체크가 필요한 말을 많이 하고 있어요. 하지만 그 시기가 얼마나 남았는지 우리는 알 수 없기도 합니다. 그리고 이렇게 세 가지 업무로 구분했을 때 AI를 충분히 활용하고 있는가도 의문이 들어요. AI와 함께하는 코딩이 당연해진 지금 이 시기는 내가 모르는 영역을 AI와 협력해 시도하고 경험을 쌓을 수 있는 시간이라는 걸 다시 체감합니다.
5
쇼피파이, 듀오링고의 AI first 채용, 구글과 MS의 AI를 고려한 구조조정, 신입이 채우던 영역을 AI가 일부 대체하기 시작했다는 최근의 기사들을 고려했을 때 AI의 인간 대체에 대한 저자의 지속적인 질문과 예측, 제안은 뒤로 갈수록 크게 들립니다. MS를 비롯해 몇몇 회사에서는 회사 내부 AI를 세팅해두고 전직원이 사용하도록 하고 있으며, 일부 전문가들은 몇 년 안 지나 직원 평가 방식 자체가 AI 프롬프트 사용 방식을 중요하게 다룰 거라고 예측합니다. 반면 현재 인간들은 AI와 은밀히 협력하고 있습니다. AI와 한 작업물을 내가 혼자 했다고 할 때 얻는 가치가 상당히 크고, 회사에서 자신을 AI로 대체 가능한 존재라고 여기는 것이 불안하며, 회사의 정책상 AI와의 협력이 크게 환영받지 못하거나 긍정적인 반응이 아니기 때문입니다. 하지만 조직의 시스템은 “역사적 유물이며, 그 시대의 기술과 사회적 조건에 의해 형성”됩니다. AI는 업무 경험, 조직에서의 경험을 근본적으로 변화시킬 수 있어요. 예를 들어 “하나의 AI가 전사 직원과 소통하고, 조언하며, 성과를 관찰”하는 리더이자 코치가 될 수 있습니다.
그럼 결국 인간의 위치와 존재는 어떻게 바뀌는 걸까요? AI와 협력하거나 그 밑에서 지원하게 되는 걸까요?
저자는 “인간의 전문성을 유지하고 키워야 할 필요성은 더욱 커진다”고 예측합니다. “AI의 처리 과정을 감독할 인간 전문가”가 더 많이 필요해질 겁니다.
그럼 전문성은 어떻게 만들어질까요? 우선 지식입니다. 인간의 기억은 작업기억과 장기기억으로 나누어져 있습니다. 작업기억은 학습의 시작점이라 평균적으로 3~5가지를 기억하고 30초 미만 유지합니다. 그 정보 중 일부가 장기기억에 저장되고 작업기억은 몇 번이고 저장된 기억을 꺼내볼 수 있습니다. 그런데 꺼내보려면? 다른 지식과 연결되어 있어야 합니다. 장기기억이 되려면 통합적으로 연결된 형태를 이루어야 합니다. 그 다음은 의식적인 연습입니다. 이때의 연습은 지속적으로 난이도를 높이며 안전지대를 벗어나 계속 성장하는 과정이어야 합니다. AI는 옆에서 인간을 도울 수 있습니다. 이렇게 AI가 인간 전문가를 키우고, 다시 인간이 AI를 감독하며 성장시키는 순환 고리가 만들어질 수 있습니다.
6
저자는 AI를 주제로 로봇, 소프트웨어 등 유사한 영역은 물론 인간의 사회와 행태를 연결해 통합적인 사고와 연구를 보여줍니다. AI에 대한 인간의 막연한 공포를 AI와 대화하며 직면하고 해체하는 책을 천천히 따라가며 지난 1년간 있었던 뉴스들이 많이 떠올랐어요. 그리고 로알드 달의 <찰리와 초콜릿 공장>도요. 작품 초반에 찰리의 아버지는 실직한 직후입니다. 그가 일하던 치약 공장에 자동화 기계가 도입되었거든요. 하지만 영화 엔딩 부분에서 그는 다시 그 공장에서 일하고 있어요. 이제 기계를 수리하고 관리하는 새로운 일을 맡고 있죠. 제가 서있는 지금 이 순간과 비슷합니다. 이제 할 수 있는 일, 하고 싶은 일, 일의 본질에 대해 다시 고민해야 하는 시대에 서있다는 걸 체감합니다.
