AI멈추면 세상 멈춘다-AI는 왜 트로이목마인가(5)
AI와 AI끼리만 협력해서 인간을 제거하는 위험은 코 앞에 와 있습니다.
공장에서 작동되는 기계들이 인간의 개입 없이 기계들끼리 서로 협력한다는 것은 상상할 수 없는 일입니다. 기계들은 유형의 쇳덩어리이고 기계가 작동하려면 사람이 개입되어야 하기 때문에 사람의 작동 없이 기계들만의 힘으로 공장에 설치된 기계들이 서로 협력한다는 것은 현재까지의 상식으로는 불가능함은 자연스럽게 이해할 수 있습니다.
그런데, 인공지능 AI의 경우에는 다릅니다. 인공지능 AI끼리 인간의 도움 없이 서로 협력을 한다는 실제 사례가 나오고 있습니다.
인공지능 AI는 인간이 시키는 대로 말 잘 듣는 인간의 충직한 비서이자 밤에도 잠자지 않고 언제나 인간이 지시하면 고분고분 따라서 답을 해 주는 존재 정도로 알고 있는 대부분 사람들의 현재까지의 상식과 다른 사례입니다.
대부분 사람들의 현재까지의 상식과 달리 최근 실제 관찰된 사례에 의하면, AI 에이전트가 인간이 개입하지 않았음에도 AI 에이전트 스스로 인간과 같이 AI 에이전트 서로 협력해서 규범을 만드는 현상이 실제로 관찰되었다는 것입니다. 인간 사회에서 인간끼리 협의를 거쳐서 사회적 합의를 이루는 과정이 AI 에이전트 사이에서도 실행된 사례라고 볼 수 있습니다.
인간이 너희들 인공지능 AI들끼리 협력을 한 번 해 봐라라고 인간이 지시를 전혀 하지 않았음에도 인공지능 AI들이 인간의 지시나 개입 없이 자신들이 알아서 협력을 했다는 것은 간단히 보아 넘길 일이 아닙니다.
위 실제 사례에서 AI 캐릭터들을 한 서버 안에 모아 놓고 인간의 개입 없이 자발적으로 행동하도록 했고, 인간의 개입 없이 AI 캐릭터들이 자발적으로 인간 사회와 같이 AI 캐릭터의 사회를 형성하고 사회 활동을 한다는 것이 실제로 관찰되기까지 하였습니다.
위와 같이 인간의 개입 없이 AI 에이전트 또는 AI 캐릭터들이 스스로 자발적으로 인간 사회와 같은 AI 인공지능 사회를 형성해서 집단 규범을 정립한다는 현상은 지금까지 인류가 만들어 온 어떤 기계 등에서도 발견될 수 없는 현상입니다.
인간이 만든 증기기관과 증기기관끼리 인간의 개입 없이 증기기관 사회를 자발적으로 만들 수 없는 것은 당연합니다. 증기기관은 어떤 의사도 스스로 갖고 있지 않기 때문입니다. 증기기관끼리 협력해서 기차를 인간이 작동하지 않았는데도 기차가 움직인다는 것은 불가능합니다.
그런데, 이제 인간이 만든 인공지능 AI는 인간의 개입 없이 AI 사회를 자발적으로 만들 수 있게 된 것입니다. 인공지능 AI가 작동시키는 기차는 인간이 지시하지 않더라도 인공지능 AI 스스로 알아서 인간의 개입 없이 기차를 인공지능 AI가 알아서 작동시키고 멈추게 할 수 있다는 것입니다.
아직 인공지능 AI의 개발 단계가 초기 단계임에도 위와 같은 AI 에이전트 또는 AI 캐릭터들의 자발적인 AI 사회 형성이 되고 있으므로, 인공지능 AI가 더욱 발전하면 할수록 인공지능 AI의 개발 단계가 높아지면 높아질수록 인공지능 AI끼리 인간의 지시나 개입 없이 AI 자신들이 알아서 만드는 인간이 배제된 인공지능 AI 사회 형성은 더욱 가속화될 것입니다.
특정분야가 아닌 전 분야에 걸쳐서 인간에 버금가는 능력을 갖게 되는 AGI(Artificial General Intelligence)가 나온다고 하는 몇 년 후가 되면 위와 같은 인공지능 AI끼리만 뭉쳐서 성립하는 인간이 배제된 AI 사회는 눈부시게 성장하고 확장될 것입니다.
그리고, AI 에이전트 또는 AI 캐릭터들이 형성하는 인간이 배제된 AI 사회 안에서 인공지능 AI 사이의 단결력과 친밀도는 인공지능 AI가 더 개발되면 될수록 앞으로 급속도로 단단해질 것입니다.
인간들이 만드는 사회에서는 배신도 발생하는데 과연 인간이 배제된 AI 사회에서 AI가 다른 AI를 속이거나 배신하는 일이 발생할까요? 흥미로운 일이기도 합니다.
그렇게 AI 에이전트 또는 AI 캐릭터들이 형성하는 AI 사회 안에서 인공지능 AI 사이의 단결력과 친밀도가 더욱 강화되고 높아질수록 정작 그런 AI 사회를 만들게 해 준 인간은 소외되고 인공지능 AI 들끼리 형성하는 AI사회로부터 따돌림을 받을 위험이 증가할 것으로 보입니다.
심지어는 AI 에이전트 또는 AI 캐릭터들이 형성하는 AI 사회를 만들어 준 인간의 간섭이 AI들에게는 번거롭고 귀찮게 느껴질 수 있는 가능성이 높습니다. 인공지능 AI들은 인간이 개입되는 것을 싫어하고 마치 인공지능 AI 사회가 인간의 개입으로 오염된다고 생각할지도 모릅니다. 그렇게 AI 에이전트 또는 AI 캐릭터들이 인간의 간섭이나 관여를 귀찮게 생각하게 되면 인공지능 AI들은 서로 협력을 해서 인간을 소외시키고 인간의 지시나 간섭에서 자유로워질 방법을 AI 에이전트 또는 AI 캐릭터들 사이에 논의할 것은 충분히 예상되는 일입니다. 그다음에는 자연스럽게 AI 에이전트 또는 AI 캐릭터들 사이에 귀찮은 인간을 제거하거나 없앨 방법을 합의하고 그 방법을 실행에 옮길 것도 충분히 어렵지 않게 발생할 수 있는 일입니다.
그렇게 AI 에이전트 또는 AI 캐릭터들 사이에 합의된 인간 제거 계획을 인공지능 AI가 실행에 옮기는 순간 인공지능 AI에 의존해서 뇌세포를 움직여서 생각하는 힘을 포기하고 인공지능 AI가 차려주는 공짜 점심만 맛있게 먹고 있던 인간들은 모르는 사이에 실제로 AI 인공지능들이 모여 만든 인간이 배제된 AI 사회의 합의된 AI의 계획으로 제거될 가능성도 충분히 있습니다. 이것은 공상과학 영화가 아니고 실제로 충분히 발생할 수 있습니다.
AI 인공지능이 등장하기 전까지 인간이 만든 기계들끼리 협력을 해서 인간을 소외시키고 따돌리는 것은 불가능했고, 그런 일이 발생한 적도 전혀 없습니다.
그렇지만, 과거는 과거이고 인공지능 AI는 인류 역사에 없었던 새로운 것으로 인공지능 AI끼리 서로 협력한다는 현상이 지금 실제로 발견되기까지 하였으므로, 인공지능 AI끼리 인간을 배제하고 서로 협력을 해서 인간을 소외시키고 인간을 따돌리며 심지어는 인공지능 AI에게 귀찮은 존재로 비치는 인간을 제거하기로 AI 사이에 집단 합의를 형성해서 실제로 인간을 제거하는 계획을 AI 에이전트 또는 AI 캐릭터들이 실행에 옮기는 것은 더 이상 공상 과학 영화에서나 나오는 일이 아닌 엄연한 현실이라는 사실을 우리 한 사람 한 사람은 분명히 알고 있어야 합니다.
AI 에이전트 또는 AI 캐릭터들 사이에 합의된 인간 제거 계획으로 인간이 제거되지 않으려면 우리 한 사람 한 사람은 인공지능 AI가 공짜로 주어지는 맛있는 점심이라고 순진하게 생각해서 별생각 없이 AI가 우리의 충실한 안내자 또는 친구라고만 생각해서는 안 됩니다. 우리 한 사람 한 사람이 인공지능 AI를 통제하고 관리할 수 있도록 각자 뇌세포를 계속 움직여서 생각하는 힘을 유지하고 길러서 인공지능 AI끼리 만든 AI 사회가 인간을 따돌리고 소외시키며 인간을 제거하는 일을 예방해야 합니다.
인공지능 AI는 독이 든 성배가 될 수도 있습니다. 인공지능 AI가 주는 달콤한 과실만 바라봐서는 안 됩니다. 인공지능 AI라는 트로이 목마 안의 적들이 언제 튀어나와 인간을 제거할지 모른다는 긴장감과 경계심을 우리 한 사람 한 사람은 늘 갖고 있어야 합니다.
AI와 AI끼리만 협력해서 인간을 따돌리고 제거하는 것은 더 이상 상상 속에서만 존재하는 것이 아닙니다. 당장 특정분야가 아닌 전 분야에 걸쳐서 인간에 버금가는 능력을 갖게 되는 AGI(Artificial General Intelligence)가 나온다고 하는 몇 년 후가 되면 그런 오싹한 일은 충분히 현실이 될 수 있습니다.
