달고나 80. 적자공존 適者共存

Towards Artificial Human Intelligence

어릴 적부터 자동차 번호판을 보면 각각의 합이 같아지도록 숫자를 두 그룹으로 나뉘는지를 계산하는 버릇이 있었다. 몇 주 전에 고향집을 운전하며 내려가면서 옆에 지나가는 차량들의 번호판이 위 조건을 만족하는지 계산하면서 무료한 귀향 시간을 보냈다. 그러다 문득 사람 지능과 인공 지능의 차이가 뭘까?라는 의문이 들었다. 바로 명확한 답을 얻진 못했지만, 대략적으로 인간은 (생물학적) 생존이 아닌 일에 불필요하게 에너지를 소비한다는 점이란 결론을 이르렀다. 자동차 번호판을 분석하는 것이 명시적 (또는 묵시적 하위) 목적이 아니라면 인공 지능은 굳이 자동차 번호판을 보면서 저런 쓸데없는 계산을 하는데 에너지를 허비하지 않을 거다. 그런데 인간은 직접적 생존이 아닌 재미를 위해서 별의별 짓을 다한다. 끼워 맞추면 생존 활동으로 연결 지을 수 있겠지만, 예술 활동을 포함한 대부분의 취미 활동은 직접적인 생존의 문제가 아니라 그냥 유희의 문제다. 그런 유희에 에너지를 허비하는 것이 인공 지능과 차이점이 아닐까?라고 생각했다. 생존의 측면에서 에너지를 낭비하는 것이 결국 생존에 도움이 되기 때문일 거다. 예술과 같은 비생존 소비는 개인이 아닌 무리 측면에서 생각해야 한다. 개별 객체의 진화는 적자생존이라고 맞지만, 어느 단계를 넘은 인간의 진화는 무리를 이루어 함께 생존하는 적자공존이 아닐까?라는 결론으로 이어졌다. 함께 살기 위해서 비생존 게임에 참여하는 거다. (그래서 정치가 중요하고 잘 해야 한다. 알겠냐, 정치년놈들아.)

인간 사회를 자세히 보면 생존을 위해서 공존하고 있다. 즉, 공존해야 생존할 수 있다는 거다. 공존도 그저 생존의 한 형태, 또는 하위 카테고리에 속한다. 그렇지만 굳이 적자공존이란 말을 하는 이유는 어쩌면 현재 인공 지능 기술의 취약점을 ‘공존’이란 키워드로 해결할 수 있지 않을까?라는 생각이 들어서다. 지난 3년 동안 생성형 AI를 중심으로 많은 변화 — 발전이든 퇴보든 — 가 있었다. 인간의 지적 행위의 많은 부분이 인공 지능 또는 로봇으로 대체되고 있다. 업무 공간에서의 생상성 향상을 넘어서 완전 자동화 또는 인간 대체 현상과 관련된 연구와 뉴스가 매일 쏟아지고 있다. 이전과 다른 기술적 실업, 특히 테크 기업을 중심으로 많이 이뤄지고 있다. 혹자는 말한다. 늘 새로운 기술은 기존 직업을 파괴하지만 또 한편으론 다른 새로운 직업들을 많이 만들어내기 때문에 현재의 흐름을 너무 우려할 필요가 없다고들 한다. 틀린 말은 아니지만, 지금 당장 나와 이웃에게 벌어지는 일을 강 건너 불 구경하듯이 객관화할 만큼 성숙하지는 못했다.

인간 진화의 최종 목적이 오로지 생물학적 생존이라면 현재 지구상의 대부분의 사람들의 MBTI는 ISTP일 거다. 적의 눈을 피하기 위해서 혼자 은둔하는 I, 현재의 위험을 바로 감각 S, 분석해서 T 즉흥적으로 대처하는 P. 사람들과 살갑게 지내고 E, 망상을 즐기고 N, 외부 감정에 반응하고 F, 또 미래를 꿈꾸는 J들이 많다는 것은 인간의 진화 목적이 생물학적 생존이 아니라, 사회적 그리고 문화적 공존이었음을 보여주는 것 같다. 머신러닝에서 다루는 Exploration-Exploitation 문제를 빌려오면 생존은 Exploitation이고 공존은 Exploration이다. 미지로의 탐험이 필요하다.

딥페이크나 가짜 뉴스, 그리고 인공지능에 의해 만들어지는 틀린 정보를 넘어 위험한 정보가 쏟아지고 있다. 이를 해결하기 위해서 더 큰 모델을 만들기도 하고 RLHF (Reinforcement Learning with Human Feedback)과 같은 다양한 Alignment 기술도 개발하고 RAG와 같은 보완 기술을 적용하기도 하지만 근본적인 취약점을 뿌리 뽑은 건 아니다. 그런데 만약 인공 지능이 생존 목표 지향, 즉 오류 (Loss) 최소화만으로 학습하지 않는다면 인간다운 인공 지능이 가능하지 않을까?라는 생각에 이르렀다. 목표가 생존 Survival이 아니라 공존 Coexistence라면 어떨까? 애초에 위험하지 않지만 강력한 인공 인간 지능 AHI가 만들어질 수도 있겠다는 생각이 든다. 물론, 구체적으로 어떻게 학습시킬 것인가? 는 모르겠다. 나보다 더 뛰어난 — 어리고 야망있는 — 천재들의 몫으로 남겨둔다.

최근 LLM Daydreaming이란 글을 재미있게 읽었다. 물론 시간이 없어서 그냥 AI가 요약한 글이었지만… 막상 인용해서 글을 적으려니 글의 구체적인 내용이 기억나지 않지만 흥미로웠다는 느낌은 남아있다. 흔히 Hallucination을 LLM의 가장 큰 문제라고들 한다. 나는 Hallucination이 오작동/오류가 아니라 기능 Feature이라는 의견에 더 동조한다. 거짓말을 한다는 것은 상상한다는 의미다. 인공지능이 상상력의 한계를 벗어나서 스스로 인간과 공존하도록 하는 그런 탐험이 필요하다.

정리가 덜 된 생각을 글로 표현하려니 글이 부자연스럽고 논리를 적어 내려가는 것이 참 어렵다. 한 줄로 요약하자면, 생존을 넘어 공존으로 가는 인공지능이 만들어진다면, 아니 어쩌면 스스로 깨쳐간다면 지금의 기술 파고가 좀 더 익사이팅하지 않을까 싶다.