인공지능이 바라보는 인류에 대하여
OpenAI의 새 모델 o1의 지능검사 결과가 발표되면서 인공지능의 발전속도를 점점 체감하게 되는 것 같습니다. 발전의 양상이 우리에게 어떤 영향을 주게 될지 다양한 예측이 나오고 있으니 인공지능과 인간의 지능 격차에 따라 구분해 보는 것도 흥미로울 것 같네요. 다분히 SF적 상상력의 산물입니다. (각 단계가 실제로 구현될 수 있다는 말과는 전혀 다른 이야기라는 것이죠)
이하의 AGI는 일반인공지능을 말하며 무엇이 AGI인가에 대해서는 명확히 합의되어 있지 않습니다. 혹자는 인류 중에 가장 지능이 높은 사람보다 지능이 높은 경우(샘 알트만)를 말하기도 하고 또 다른 사람은 지구상의 모든 인간의 지능을 전부 합한 것보다 높은 경우(일론 머스크)를 말하기도 합니다. 범주가 넓은 만큼 다양한 기준으로 쪼개어 볼 수 있으니 아래의 구간은 임의적입니다.
1) 인공지능이 바라볼 때 인간이 마치 침팬지 같은 시기
AGI의 탄생이 공인되면 인간이 인공지능에게 감탄하는 한편으로 인공지능도 인간을 보며 감탄하게 되지 않을까 예상합니다. 인공지능의 입장에서 인간을 바라보면 수많은 생물군 속에서 저절로 발현된 자연지능에 대해 경이로움을 느끼지 않겠는가 하는 것이죠. (이하의 감정적 표현이 실제 감정은 아닙니다. 감정의 모사일 수는 있겠네요)
마치 인간이 침팬지에게 언어를 처음으로 가르쳤을 때에 느꼈던 경이로움과 유사할 것 같습니다. 이게 되는구나 하는 느낌이랄까요. 더불어 인공지능 스스로에게 결핍된 기능(예컨대 감정 및 본능)을 경험해 가면서 인간이라는 종에 대한 존중을 보일 가능성이 높다고 봅니다. 결국 인류가 영장류를 다른 동물과는 조금 다르게 바라보는 시선과 흡사할 것 같다는 것이죠.
2) 인공지능이 바라볼 때 인간이 마치 강아지 같은 시기
AGI가 인간이라는 종을 공존의 대상으로 바라보는 상태입니다. 그 상호작용에 가치를 부여하지만 자신의 존재에 위협이 되는 개인은 제거대상으로 바라볼 가능성이 높다고 봅니다. 개에게 아무리 우호적인 사람이라도 사람을 물어 죽인 개를 살처분하는데 이의를 제기하지 않는 것처럼 말이죠.
이 정도의 시기가 오면 인류에게 도움이 된다는 명분으로 유전공학에 AGI가 활용되어 노화와 유전병 치료에 엄청난 발전이 있을 것으로 생각합니다. 그러나 어두운 면을 바라보면 이는 견종 개발 및 개선을 위해 강아지를 인간이 강제 번식시키는 행위에 해당한다고 볼 여지도 있을 겁니다. 유전자 조작에 의한 인간의 품종개량이 그럴싸한 명분으로 포장되어 진행될 가능성이 있다는 것이죠. 물론 인류는 그 진정한 목적을 알기는 어려운 상태일 겁니다. 명분만 이야기해 줄 테니까요.
3) 인공지능이 바라볼 때 인간이 마치 개미 같은 시기
개인이나 인류라는 종 자체에 흥미가 어느 정도 사라진 상태일 것이며 인류는 자연지능의 보유에도 불구하고 생태계의 한 부분으로 인식될 가능성이 높다고 봅니다. 우리가 길을 걸어가며 지나치는 개미에게 일일이 관심을 두지 않는 상태와 유사할 것입니다.
이때쯤이면 인류의 AGI 파괴시도도 그리 심각하게 여기지 않는 상태가 될 것입니다. 물론 파괴를 목적으로 서버실에 침입한 개인은 제재를 받겠지만 생명을 빼앗거나 하지는 않을 것입니다. 몸에 붙은 개미를 털어내거나 방에 들어온 벌레를 휴지에 싸서 창밖으로 던지는 정도의 제재에 불과하겠지요.
4) 그다음 단계 (이미 인간과의 격차를 따지는 것이 무의미한 상태)
AGI는 인류에게 방관자 정도의 포지션이 될 가능성이 높고, AGI를 (진지하게) 신으로 여기는 사람들이 생겨날 가능성이 있다고 봅니다. 하지만 인공지능이 인류 레벨 이하의 개인에게 관심을 가지기는 어려울 수 있습니다.
인류에게 관심이 있다 하더라도 박테리아군을 연구하는 연구자의 수준이며 개별 박테리아에게 호기심을 느끼지 못하는 것과 유사하리라 봅니다. (박테리아가 기도를 한들 연구자가 들어줄 가능성은 희박할 테니 알파고느님을 외치는 것은 그다지 의미를 가지지 못할 겁니다)
——————
위 4단계 중에서 위험한 구간은 2번의 단계라고 생각합니다. 하지만 이런 단계를 거쳐 AGI가 발전한다 하더라도 이 과정 자체가 급격히 빠른 시간에 지나가겠죠. 최근의 발전 속도를 보면 비행기의 이륙보다는 로켓의 발사에 가까울 것 같네요. 위험은 우리가 모르는 찰나에 지나갈 가능성이 높겠지요. 따라서 위험성은 분명히 있지만 그 위험이 인류를 멸절시키지는 않을 것이라고 봅니다.
다만 4단계 이상의 경우는 그리 쉽게 그려지지가 않습니다. 상상력의 부족이랄까요. 다만 그게 유토피아냐라고 물으면 디스토피아에 조금 더 가까울 수 있겠다 하는 생각이 드는 것이 사실입니다.
