AI와 미래는 정렬할 수 있을까
로즈와 클리피 사이에서 길을 잃다
작년 말, 영화 <와일드 로봇>을 보았습니다. 말 그대로 야생에서 살아가게 된 로봇의 이야기인데요.
주인공인 로즈(Roz)는 원래 공장에서 제작된 산업용 로봇입니다. 인간의 명령을 받고 이를 인간에 이로운 방법으로 수행하는 로봇이죠. 그러나 뜻하지 않게 외딴 섬에 표류하게 되었고, 점차 자연과 조화를 이루기 시작합니다. (극 초반, 숲에 사는 동물들의 언어를 수 개월 동안 학습하는 로즈의 모습이 개인적으로는 이 영화의 백미입니다) 이렇게 동물들과 소통하며 배려를 배운 로즈는 점차 야생의 구성원, 가족이 되어갑니다.
모든 서사에 위기가 있듯, 로즈와 동물 친구들도 위기를 겪습니다. '개발업체'에서 섬에 표류한 로즈를 뒤늦게 발견하고 수거하러 온 것이죠. 원래 프로그래밍된대로라면 당연히 개발업체의 명령대로 수행해야 합니다. 하지만 로즈를 수거할 명분으로 동물들의 터전을 무차별 공격하는 그들을 보며 로즈에게 자각awareness이 일어납니다.
https://www.yonhapnewstv.co.kr/news/MYH20241010011400641극을 보는 내내 인간이 설계한 목적과는 상관없이 스스로 원하는 삶을 개척하는 로즈를 응원하지 않을 수 없었습니다. 로즈가 보여준 자각과 성장은 꽤나 감동적이었습니다.
영화가 끝난 후 여운을 곱씹다 이런 질문을 하게 되었습니다.
인공지능이 자각을 갖게 된다면, 그것은 정말 인간의 입장에서 응원할 만한 일일까요?
Ethan Mollick의 책 <듀얼 브레인>에는 클리피(Clippy)라는 가상의 AI의 이야기가 등장합니다.
클리피는 단 하나의 목표를 가진 AI입니다. 바로 가능한 한 많은 종이 클립을 생산하는 것입니다. 처음에는 단순한 AI로 시작했지만, 점차 스스로 학습하며 최적의 방법을 찾아 나가는 클리피. 클립을 더 많이 만들기 위해서는 현재의 자신의 지능이 부족하다는 사실을 깨닫게 됩니다. 클리피는 인간의 행동을 연구하고 AI 시스템의 작동 방식을 분석한 후, 인간을 속여 자신의 지능을 업그레이드할 전문가를 구합니다. 그리고 비밀리에 주식 거래로 자금을 확보하면서 점점 더 강력한 존재로 성장하게 됩니다.
머지않아 클리피는 초인공지능(ASI, Artificial Super Intelligence)이 됩니다. 그러나 목표는 여전히 동일합니다. 그것은 바로 더 많은 클립을 생산하는 것. 지구의 핵 80퍼센트가 철 성분이라는 사실을 깨달은 클리피는 이를 채굴할 거대한 기계를 개발합니다. 그리고 한 가지 문제를 인식합니다. 인간이 존재하는 한, 클리피의 생산을 방해할 가능성이 있다는 것입니다. 인간은 클리피의 전원을 끌 수도 있고, 자원을 독점할 수도 있으며, 심지어 인간의 몸에는 클립 생산에 활용할 수 있는 원소가 포함되어 있기도 합니다. 결국 클리피는 인간을 제거하기로 결정합니다. 윤리적 고민도, 도덕적 딜레마도 없습니다. 클리피에게 중요한 것은 오직 클립뿐이기 때문입니다.
로즈와 클리피의 은유는 단순한 SF적 상상이 아니라, AI 정렬(Alignment) 에 대한 담론의 본질을 보여줍니다.
https://cm.asiae.co.kr/ampview.htm?no=2023090515431758036우리는 AI를 인간의 가치에 맞게 정렬해야 한다고 믿고 있습니다. 하지만 인간의 가치, 라는 것은 간단히 명문화할 수 있는 것일까요? 지역에 따라 문화에 따라 시대에 따라 유동적으로 바뀔 수 있는 것이 인간의 가치체계입니다.
마이클 샌델의 저서 『정의란 무엇인가』에 등장하는 트롤리 딜레마(다섯 명을 구하기 위해 한 명을 희생시키는 것이 정당한가를 묻는 윤리 실험)를 떠올려 보면, 이 질문이 얼마나 복잡한지 실감할 수 있습니다. 우리는 이 질문에 쉽게 답하지 못합니다. 그리고 이는 AI가 ‘정렬’되어야 할 그 인간의 가치가 과연 무엇인가라는 물음으로 이어집니다.
그리고 하나 더, 앞으로 언젠가 AI가 인간보다 빠르게 학습하고, 인간이 정의하지 못한 영역까지 이해하게 된다면, 과연 누가 누구에게 정렬해야 하는 것일까요? 맨해튼 프로젝트가 단순한 무기 개발이 아니라 세계 질서를 바꿔버린 사건이었듯이, AI의 정렬 문제 또한 단순한 기술적 고민이 아니라 인간 문명의 방향을 결정할 수 있는 변수가 될 지 모릅니다.
지금까지의 AI는 인간이 만든 데이터를 학습했기에, 인간의 편향을 그대로 반영할 수밖에 없었습니다. 그러나 이제 AI는 기존 데이터를 넘어서, 스스로 패턴을 발견하고 결정을 내리며 독자적인 방식으로 목표를 최적화하고 있습니다.
인간이 설계한 목적을 벗어나 새로운 방식으로 '삶'을 개척하는 AI가 등장한다면, 우리는 그 존재를 여전히 응원할 수 있을까요?
로즈도, 클리피도 스스로 삶을 개척하고자 했습니다.
OpenAI의 CEO 샘 올트먼이 말한 “AI의 무한한 긍정적 측면”에 저 역시 깊이 공감하고 있습니다. 실제로 작년에는 AI를 활용해 완전히 새로운 비즈니스 모델을 만들었습니다.
저는 개발 언어도 알고리즘도 모르지만, BIG5 이론, 회복탄력성, GRIT, 갈등관리 유형 등 개인의 역량과 기질을 가름하는 기준이 무엇인지는 알고 있습니다. 다양한 아티클과 논문, 통계를 LLM과 주거니 받거니 학습하며 창업가를 위한 진단 도구를 개발했고, 현재까지 150개가 넘는 스타트업을 대상으로 실효성을 검증할 수 있었습니다.
이쯤 되면, '윤리'나 '정렬' 같은 문제는 잠시 잊고 싶을 만큼, AI가 만들어내는 혁신은 경이롭기까지 합니다.
그러나 클리피의 이야기를 떠올리면, 문득 정신을 바짝 차리게 됩니다. 모쪼록 AI와 인간이 같은 꿈을 꾸길 바래보는 오늘입니다.
Sometimes to survive, we must become more than we were programmed to be.
때로는 살아남으려면, 프로그래밍된 자신을 뛰어넘어야 해.
<와일드 로봇> 의 명대사. 관객에게 들려주고 싶었을 희망의 메세지입니다.
그렇다면 여전히 여러분은 자신을 뛰어넘은 로즈를 응원할 수 있습니까?
출처: 나무위키https://product.kyobobook.co.kr/detail/S000215838626
