군단 - 2027년에 집단으로 움직일 AI
인공지능 적들이 몰려오고 있습니다. 그것도 아주 똑똑한 녀석들이.
적들이 몰려오고 있습니다..!! 최근 AI 변화의 가장 큰 차이라면, 개별 개체에 대한 관심에서 이제는 집단에 대한 관심으로 이동하고 있다는 점입니다. 예전에는 ChatGPT가 인간보다 얼마나 잘하는지를 궁금해했다면, 이제는 서로 다른 개성을 가진 여러 ChatGPT가 모인 사회에서는 어떤 일이 가능할지를 상상하게 되었습니다.
AI의 쓰임새가 개체에서 집단으로 확장된 이유는, AI 발전이 그만큼 가속화되었기 때문입니다. 성능이 급격히 향상되면서, 우리는 어느 순간 자제력을 잃을 수도 있습니다. 그렇다면 통제력을 유지하려면 우리는 무엇을 해야 할까요? 이제는 AI 집단에 대해 진지하게 고민해 볼 때입니다.
단일 개체
불과 3~4년 전까지만 해도 AI는 초등학생 수준의 언어와 지식을 갖고 있었습니다. 하지만 최근 2년 사이에는 고등학교 수준으로 빠르게 성장했고, 이제는 대학 수학 문제도 해결할 수 있다는 이야기가 들립니다. 더 최근에는 박사급 수준에 도달했다는 주장도 나오고 있습니다. 물론 코딩, 변호사 시험 등 특정 분야에 특화된 맞춤형 데이터와 탐색(search) 기법이 활용된 결과이기도 하지만, 앞으로 AI가 대학 교수 수준으로 성장할 가능성 역시 충분히 존재합니다.
개인적으로 저와 비교해 보더라도, AI는 저보다 더 넓고 정제된 지식을 갖고 있는 경우가 많다고 느낍니다. 물론 AI 전반의 구조나 흐름에 대한 이해는 제가 우위에 있을 수 있겠지만, 다양한 분야를 모두 포함해 본다면 AI가 절대적으로 더 뛰어나다고 할 수 있습니다.
이제 하나의 AI 모델에 대한 성능 개선은 어느 정도 정점에 도달했다고 볼 수 있습니다. 물론 지식을 쌓는 것은 마치 뚫린 하늘 위로 타워를 짓는 것과 같기에, 발전의 여지는 여전히 무한하지만요. 그럼에도 현재의 지식수준만으로도 이미 인류의 많은 작업을 대체할 수 있을 만큼 성숙했으며, 여러 AI 모델이 협업할 수 있는 수준으로까지 발전한 상황입니다.
한편, ChatGPT와 대화할 때 우리는 하나의 AI 모델이 대답을 해주고 있다고 생각하기 쉽습니다. 즉, “단일 개체”가 나와 상호작용하고 있다고 느끼는 것이죠. 하지만 이는 착각일지도 모릅니다. 수많은 지식이 Frankenstein처럼 결합된 이 모델은 애초에 단일 개체라 보기 어려울 수 있습니다. 그럼에도 불구하고 현실적으로는 하나의 모델이 나와 상호작용하고 있기에, 사용자는 단일 AI라고 인식합니다. 게다가 AI는 대부분 사용자 친화적인 방식으로 반응하죠. 내가 질문을 입력하는 동안 AI는 기다리고, 이후 수많은 단어들을 단 몇 초 만에 생성해 냅니다. 이 엄청난 속도의 발목을 잡는 것은 오히려 인간의 타이핑 속도일지도 모릅니다.
그렇다면 인공지능 로봇 두 대가 서로 대화를 나눈다면 어떨까요? 그건 마치 걷는 것과 비행기를 타고 이동하는 것의 차이만큼이나 속도와 효율에서 압도적일 것입니다. AI들 간의 대화는 더 많은 교류를 낳고, 사회의 변화도 그만큼 빠르게 일어날 수 있습니다. 이처럼 AI가 집단으로 작용하게 되면, 비행기의 발명으로 인해 인류가 더 자유롭게 왕래할 수 있었던 것처럼, 새로운 사회적 구조를 탄생시키고 발전 속도를 더욱 가속화시킬 수 있을 것입니다. AI 집단은 분명히 발전에 있어 필수적이고 유용한 존재가 될 것입니다.
그러나 한 가지 문제가 있습니다.
만약 그 사회에 법, 규칙, 윤리가 없다면 어떨까요?
비행기로 수많은 사람과 물건을 운반할 수 있게 되었지만, 그 안에 테러범이나 마약이 실린다면 사회는 커다란 위험에 처할 수 있습니다.
My life for Aiur! (마이 라이프 포 아이어!) - 스타크래프트 질럿 명대사군단
미래의 AI는 ‘집단’보다는 ‘군단’이라는 이름이 더 어울립니다. ‘군단’이란 외부의 침략에 맞서 싸우는 동시에, 침략을 목적으로 움직이는 존재입니다. ‘인공지능 군단’이라는 표현에는, 국가가 AI를 방어와 침략의 수단으로 활용하게 될 것이라는 함의가 담겨 있습니다. 그리고 이러한 무기화된 지적 존재는 개별 AI의 성격과 해석에서 비롯될 수 있습니다.
마치 사나운 맹수를 훈련시키는 조련사처럼, 국가는 AI를 길들이고 다룰 방법을 찾게 될 것입니다. 하지만 조련사의 입장에서, 다룰 수 있는 동물의 수에는 한계가 있습니다. 온순한 양이라면 수십 마리를 기를 수 있겠지만, 맹수라면 수백, 수천 마리를 동시에 다루는 건 사실상 불가능합니다.
2027년 예측 더욱이, 2027년에 활동할 AI의 수는 약 33만 개에 달할 것으로 추정됩니다. 이는 사실상 도시 하나를 이루는 수준입니다. 인간 사회처럼 법과 규칙이 잘 마련되어 있고, 도덕적 원칙이 자리 잡고 있다면 이들을 통제할 수 있을지도 모릅니다. 하지만 AI 사회는 그렇지 않습니다. 통제를 위한 명확한 방법이 부재합니다. 그 근본적인 이유는 AI의 진화가 너무 빠르게 일어나기 때문입니다. 이해하고 대응하기도 전에 AI는 다양해지고, 서로 소통하면서 예상치 못한 방식으로 행동을 확장시켜 갑니다. 결과적으로, 이를 제어할 수 있는 수단은 점점 줄어들고 있습니다.
이제 하나의 AI 모델이 어떤 능력을 발휘할 수 있는지에 대한 청사진은 어느 정도 완성되었습니다. 그래서 연구자들은 그다음 단계로 더 어려운 문제, 즉 AI 집단의 행동에 주목하기 시작했습니다. 하나의 개별 AI가 보여주는 능력을 넘어, 집단으로 행동하는 AI는 과연 어떤 강력한 영향력을 발휘할 수 있을까요?
Image Credit: Alice Eggie
노란 병아리는 숨어 있는 사람이다. 괴물에게 들키지 않은 것 같다. 