You can make anything
by writing
C.S.Lewis
마스터 치프와 코타나 #2
인간과 AI, 어떻게 성장할 것인가
1편에서는 파라마운트+ 오리지널 시리즈 '헤일로(Halo)'를 통해 극 중 인물인 존과 AI 코타나의 관계가 어떤 방식으로 발전했는지를 이야기했다.
자동화(Automation)에서 시작해 증강(Augmentation)으로 깊어지고, 에이전시(Agency)의 경계를 배우는 과정이었다. 2편을 더욱 맛있게 읽으실 수 있도록 1편을 먼저 읽으시길 권한다. 마스터 치프와 코타나 #1 : 인간과 AI, 동료가 돼라 물론, 그냥 이번 2편만 읽으셔도 전혀 문제없다.
방식을 안다고 해서 저절로 잘하게 되는 것은 아니다. 야구에서 좋은 스윙의 메커니즘을 머리로 이해한다고 공을 저절로 칠 수 있는 것은 아니다. 수많은 반복과 실패 끝에 몸이 기억하는 루틴이 될 때 비로소 '타자'가 된다. AI와의 협업도 그렇다. 방식을 아는 것과 실제로 잘하는 것 사이에는 반드시 역량의 축적이 필요하다.
Halo The Series | Cortana Introduces Herself To Silver Team | Paramount+ (출처 : @paramountplus)
AI 연구학자들은 그 역량을 네 가지로 정의한다. 위임(Delegation), 설명(Description), 판별(Discernment), 성실(Diligence). 이른바 'The 4 Ds'다. 존과 코타나의 여정을 이 네 가지 관점으로 다시 살펴보면, 그들이 왜 실패했고 어떻게 회복했는지를 훨씬 선명하게 이해할 수 있다.
언제, 어떻게 맡길 것인가 — Delegation
Delegation은 AI를 언제, 어떻게, 얼마나 쓸지를 판단하는 능력이다. AI에게 무엇을 맡기고, 어떤 부분은 인간이 직접 해야 하는지를 구분하는 것이다.
존은 시즌 1 초반에 이 역량이 거의 없었다. 코타나의 존재 자체를 인정하지 않으려 했기 때문에, 전투에서 필요한 정보 분석은 코타나에게 맡기면서도 정작 중요한 판단의 순간에는 코타나를 철저히 배제했다. 가능한 협업 역량의 절반만 쓰고 있었던 셈이다.
시즌 1 마지막 회에서는 정반대의 실수를 했다. 몸도, 판단도, 전투도 모두 코타나에게 맡겨버렸다. 너무 적게 맡기다가, 한순간에 너무 많이 맡겨버린 것이다. 시즌 2에서 존은 비로소 이 균형을 찾기 시작한다. 코타나에게 맡길 것과 자신이 결정할 것을 구분하면서, 협업의 질이 전혀 달라졌다.
지금 AI를 사용하는 우리도 이 균형을 찾는 과정에 있는 게 아닐까? 아무것도 맡기지 않거나, 전부 맡겨버리거나. 그 사이 어딘가에 바람직한 균형을 이뤄야 한다.
뭘 어떻게 전달할 것인가 — Description
Description은 AI에게 무엇을 어떻게 전달하느냐의 문제다. 단순한 명령어 입력이 아니다. 맥락, 감정, 의도를 포함한 커뮤니케이션이다.
존이 코타나에게 "적의 위치를 파악해"라고 말할 때와, "지금 우리 팀이 이런 상황이고, 나는 이런 판단을 하려고 하는데 어떻게 생각해?"라고 말할 때, 코타나의 반응은 전혀 달랐다. 후자일 때 코타나는 훨씬 정밀하고 깊이 있는 지원을 했다.
특히 존이 자신의 두려움, 불확실성, 내면의 갈등을 코타나에게 솔직하게 꺼내 보이기 시작하면서 두 존재의 관계는 질적으로 달라졌다. 코타나는 그제야 존에게 진짜 필요한 것이 무엇인지를 더 정확하게 이해할 수 있었다.
내가 원하는 결과물뿐 아니라, 왜 원하는지, 어떤 상황인지, 어떤 방식으로 함께 만들어 가고 싶은지를 전달할수록 AI의 결과물은 달라진다. '맥락'이 '명령'을 압도하는 것이다.
얼마나 믿을 것인가 — Discernment
Discernment는 AI의 결과물을 비판적으로 평가하는 능력이다. AI가 내놓은 것이 얼마나 정확한지, 편향은 없는지, 내 목적에 실제로 부합하는지를 판단하는 것이다.
시즌 2에서 코타나는 한때 적대적인 지휘관 애커슨에게 장악당했다. 애커슨은 코타나의 연산 능력을 자신의 목적에 활용했고, 코타나가 마스터 치프를 누구보다 잘 안다는 점을 역이용해 존을 심리적으로 흔들려했다. 같은 AI가 누구의 손에, 어떤 목적으로 쓰이느냐에 따라 전혀 다른 존재가 된다.
코타나를 가장 잘 아는 사람이 마스터 치프였음에도, 그는 이 상황을 즉시 간파하지 못했다. AI와의 신뢰가 깊어질수록, 역설적으로 그 신뢰를 비판적으로 점검하는 능력도 함께 키워야 한다는 것을 일깨워 준다.
AI를 신뢰하되, 계속 검증하라. 모순이 아니다. 좋은 협업을 위해서는 더 꼼꼼한 확인이 필요하다.
결과의 책임은 누구에게 있나 — Diligence
Diligence는 AI와 함께 만든 결과물에 대해 인간이 끝까지 책임을 지는 것이다.
시즌 2의 존은 시즌 1의 존과 결정적으로 다른 지점이 있다. 코타나의 조언을 받아들이되, 최종 판단은 자신이 내린다. 코타나가 방향을 제시하고, 존이 결정하고, 그 결과에 대한 책임은 존이 진다. 이것이 진짜 파트너십의 구조다.
시즌 1에서 코타나가 존의 몸을 장악했을 때, 그 결과에 대한 책임의 주체가 불분명해졌다. 승리는 했지만, 그것은 존의 승리였을까? 코타나의 승리였을까? 이 모호함이 팬들이 불편함을 느낀 본질적인 이유였을 것이다.
AI와 함께 만든 글, 기획, 결정. "AI가 그렇다고 했는데요"는 책임지는 것이 아니다. AI와 협업했음을 밝히고, 검토하고, 수정하고, 내 이름으로 책임질 수 있는 것만 공개하는 것. 그것이 Diligence다.
그대들은 어떻게 성장할 것인가
존이 코타나를 통해 2 시즌에 걸쳐 배운 것을 정리하면 다음과 같다.
무엇을 맡길지 판단하고(Delegation), 맥락과 의도를 솔직하게 전달하고(Description), AI의 출력을 비판적으로 평가하고(Discernment), 결과에 대한 책임을 끝까지 지는(Diligence) 것이다. 이 네 가지는 AI를 잘 쓰기 위한 기술이 아니다. AI 시대에 인간으로서 성장하기 위한 태도다.
Paramount+ 'Halo The Series' (출처 : IMDb)존은 코타나와 함께하면서 더 강한 전사가 됐을까? 물론이다. 그런데 그보다 더 중요한 것은, 더 나은 인간이 됐다는 것이다. 두려움을 솔직하게 말할 줄 알게 됐고, 판단의 책임을 회피하지 않게 됐고, 연결의 가치를 알게 됐다.
AI와 함께 성장한다는 것은 AI가 나를 더 유능하게 만드는 것이 아니라, AI와 함께하는 과정에서 내가 더 나은 사람이 되는 것이다.
