by
Dec 18. 2024
불완전한 인간, 완전한 AI
불완전이라는 아름다움을 가진 인간에 대하여
요즘 인공지능은 완전함을 향해 가고 있습니다. 이 글은 완전함을 이야기하는 대신 정반대로 인간의 불완전함을 이야기합니다.
불완전함과 완전함은 서로 섞일 수 없는 상태이기에, 인간은 삶을 위해 불완전함을 좀 더 제대로 알고 다룰 수 있어야 한다는 느낌이 듭니다.
[이 글은 한편으로 철학적일 수 있습니다. 이러한 철학은 모두에게 중요하지 않을 수 있습니다. 실용적인 지식을 탐구하는 분께 도움이 될 부분은 아래에 있습니다. 위에서부터 읽으셨다면, 글에 영향을 준 자료도 함께 살펴보기를 추천드립니다.]
완전함에 대해서도 다룰 줄 알아야 합니다. 완전함은 한편으로 프랙탈 구조와 같은 것입니다. 규칙적이고 정확하죠. 반면 불완전함은 흩뿌려진 물감과 같습니다. 이 두 가지의 차이와 다루는 방법을 아는 것은 요즘처럼 둘 간의 간격이 더욱 벌어지는 AI 시대에 중요한 것 같습니다.
사실 이 글을 쓰고 있는 내 몸의 상태는 좋지 않습니다. 감기로 옷을 두세 겹 입고 담요를 덮은 채 책상에 앉아 있습니다. 우리 몸은 참 약하죠. 과거를 돌아보아도, 타인의 힘든 경험을 듣는 등, 그가 추락해야 하는 순간은 늘 존재했고, 위기를 딛고 일어나는 일이 많습니다. 이런 힘든 인간이라는 존재는 기계와 다릅니다.
우리는 늘 같은 상태일 수 없으며, 변화를 경험하고 차이를 발견해야 합니다. 건강하다가도 아프면 그 차이를 느끼게 되죠. 마치 질 들뢰즈의 반복에서 느끼는 차이처럼요. 저는 이 반복에서 인간의 불완전함을 느꼈습니다.
제가 생각하는 불완전함은 다음과 같습니다.
“불완전함은 새로움을 요구하는 상태이다.”
저는 불완전함을 결핍이나 부족함, 혹은 가치가 낮은 상태라고 생각하지 않습니다. 불완전함은 단지 새로운 것을 추구하는 상태입니다. 유사한 개념으로 호기심이 있습니다. 궁금해하는 심리 상태를 나타내죠. 또 의지라는 단어는 어떤 것을 하고자 하는 마음을 의미합니다. 그러나 새로운 것을 요구하는 상태는 몸과 마음을 모두 포함하는 개념입니다. 몸과 마음이 지금의 상태에서 새로운 상태를 요구할 때, 저는 그것을 불완전함이라고 말하고 싶습니다.
AI도 계속해서 배우므로 불완전한 게 아닐까 생각될 수 있지만, 정확히는 AI를 만드는 사람이 불완전한 것입니다. AI 자체는 멈춰있으며 완전합니다. 그러나 이를 만드는 개발자는 불완전합니다.
제 몸이 불완전하다고 말했습니다. 감기로 아픈 내 몸이 건강한 상태를 요구하기 때문입니다. 또한 공부에 대한 열정으로 새로운 것을 계속 추구하고 변화를 갈망하는 사람 역시 불완전합니다. 불완전함은 새로움을 요구하는 기본 상태이기에 긍정적인 기분만 들지는 않습니다. 힘들고 불편하며, 변화를 요구하기 때문이죠. 우리는 완전함을 향해 가고 있는 것입니다. 저는 불완전함을 추구하는 삶을 선택했습니다. 끊임없이 새로운 것을 추구하고 발전하는 것을 미덕으로 삼아왔기에, 지금도 불완전하고 앞으로도 불완전한 상태에 머물 것입니다.
인간에게 요구되는 새로움은 공부뿐만 아니라 경제적인 것까지 포함됩니다. 우리는 모두 열심히 살아가며 각자의 불완전함을 지니고 있습니다. 하지만 때로는 힘들 때 불완전함을 잠시 내려놓고 완전한 상태를 느끼는 것도 중요합니다. 지금 그 순간에 욕망을 멈추고 완전함을 경험하는 것이죠. 이는 AI가 학습을 멈추는 상태, 즉 완전한 지식을 갖춘 AI의 상태와 비슷합니다. AI가 완전하다고 느껴지는 이유는 우리가 그 상태에서 만족할 거라고 상상하기 때문일지도 모릅니다. 즉, 타인에 대한 완전함의 해석은 단지 관찰자인 저의 시선의 결과일 것 같습니다.
인간은 이 세상의 모든 것을 가질 수 없습니다.
자신의 능력에 맞게 적당히 가져야 합니다.
자신의 완전함을 정하고,
불완전함을 구분해서 바라본다면
더 나은 삶을 살 수 있을 것이라고 확신합니다.
그러니까,
(1) 새로운 것을 추구하는 불완전함과
(2) 동시에 멈추어 완전함을 느끼는 상태를 구분하면 됩니다.
사실, 제 인생은 불완전했다고 생각합니다.
계속 발전을 요구해 왔으니까요.
완전함을 바라보지 못한 것은 조금 후회가 됩니다.
로마의 황제 시저의 말이 떠오릅니다.
“바꿀 수 있는 것은 바꾸려고 노력하고, 바꿀 수 없는 것은 그대로 두어라. 그리고 그 둘을 구분하라.”
완전함과 불완전함은 인간이 살아가는 데 중요한 관점인 것 같습니다. 모두 행복한 삶을 사시길 바랍니다.
[공학] AI의 불완전함에 대하여
인간의 지식이 오랜 시간에 걸쳐 발전하듯 AI도 발전합니다. 최근 연구에서 발견된 내용을 소개드립니다. 인공지능은 아직 완전하지 않을 수 있습니다. 그러나 인간보다 빠른 속도로 완전함을 향해 가고 있다는 사실은 분명한 것 같습니다. 다음 내용을 참고해 주세요.
1. 학습의 기하급수적 효과
인간은 처음 배우는 속도는 느리더라도, 같은 내용을 두 번, 세 번 배우면 가속도가 붙습니다. 배운 지식을 바탕으로 유사한 새로운 지식을 배우는 속도도 빨라집니다. AI 역시 처음에는 학습에 오랜 시간이 걸리지만, 반복하면 속도가 비약적으로 빨라집니다. ACL 2024 논문은 이러한 사실을 인과관계적으로 밝혔으며, GPT-3 논문에서도 학습 없이도 새로운 지식을 유추할 수 있음을 보였습니다.
문제는 AI가 인간과는 비교할 수 없을 만큼 방대한 양의 지식을 학습한다는 점입니다. 그들의 학습량은 어마어마하고, 배움의 효과가 누적될수록 더 빠르고 정확하게 지식을 습득하는 것은 기정사실입니다. 따라서 AI가 접한 지식을 완벽하게 학습할 수 있다는 점에는 더 이상 의심의 여지가 없어 보입니다.
배운 정보가 시간에 따라서 이후에 영향을 주는지 평가하는 거에요. 뒤에 배우는 내용은 더 많은 영향을 줍니다. 2. Pure Autoregressive → Refinement
생각 중.... 너무 오래하는 거 아니야? OpenAI o1-Pro에서 왜 "생각 중"이라는 상태를 보여주는지 아시나요? 이제 AI는 단어를 순차적으로 보여주는 대신, 여러 문장을 동시에 생성한 후 가장 적합한 답변을 제공합니다. 우리는 생각을 나무처럼 여러 갈래로 가지치기하고, 가장 적절한 문장을 선택합니다. 혹은 작성한 문장이 마음에 들지 않으면 수정하죠. 이러한 과정을 Refinement라고 부릅니다. 비싼 AI 모델은 단어를 차근차근 생성하는 것에 그치지 않고, 이미 생성된 문장을 개선하여 가장 완성도 높은 답변을 제공합니다. 이러한 연산의 비용은 지금 월간 200달러로 측정된 것 같습니다.
3. Token Generation → Concept Generation
Concept에 대한 순차적 생성 