을사년 AI 포인트: 경험과 생각
기대가 돼요.
Sun Rose, 46 x 35 1/2 in.Image Copyright: Alice
유연한 뱀을 연상 시키는 노란 흐름은 부드러운 한 해의 시작을 맞이하시길 바라는 마음에 골라봤습니다. 그림의 제목처럼 각자의 태양이 떠오르길 첫날을 시작하시길 바라요.
올해는 AI가 어떻게 진화할까
2025년에 AI는 이전과는 다른 양상으로 바라봐야 합니다. 새로운 특징은 (1) "경험 위주"에서 "생각 위주"로 바뀐다는 점이에요. 더욱이 (2) 경험의 범위는 현실 세계로 확장되고 있습니다. 요약하자면, 다양한 종류의 경험과 생각이에요.
AI의 역사는 1950년대부터 시작되었지만, 인간을 이해하려는 시도는 더 오래전, 어쩌면 형식 논리 (Formal Logic)을 만들었던 아리스토텔레스 (BC 384 ~ BC 322년)부터 시작되었습니다. 현대에는 인간을 모방한 기계를 만들기 위해 인지과학, 심리학, 전산학, 뇌과학, 신경과학, 그리고 AI 분야에서 각자의 방식으로 지능을 이해하려고 노력하였습니다. 그 결과, 지금 우리가 마주하는 인공지능이 탄생하였습니다. 이 이야기는 아직 끝나지 않았고, 올 해는 더 흥미로운 방향으로 발전될 것으로 보입니다.
경험 위주라는 용어는, AI의 학습이 데이터의 통계를 기반으로 뇌의 신경망을 모사한 인공신경망으로 학습하는 것을 나타냅니다. 학습을 위해 적합한 구조와 방법들은 10년 사이에 많이 발전되었는데, 그 기간 동안 학습은 인터넷상에 이미 존재하는 "특정 데이터"에 한정적이었습니다. 지식을 그림과 글로부터 배우는 AI의 방식은 인간의 학습 방식과는 정반대방향인데, 우리는 유년시절부터 현실 세계와 상호작용을 통해서 Core Architecture를 개발하다가 학교와 같은 곳에서 언어나 그림을 배우기 때문입니다. 요약하자면, AI는 현실과의 상호작용 없이 주어진 교과서를 보고 배웠습니다.
경험을 통해서 배우지 못했던 것에는 다양한 이유가 있습니다. 생물체와 다르게 AI는 프로그램이고 로봇과 같은 엔진을 필요로 합니다. 인터넷에서는 틀려도 되지만, 현실에서는 틀리면 높은 수준의 리스크를 감당해야 하며, AI 연구는 비록 많은 문제들을 해결해 왔지만, 현실에서 경험을 제공하는 데 있어서는 마땅한 대책이 없었습니다. 작년에는 Tesla나 OpenAI와 같은 기업들은 현실과 상호작용하는 AI를 만들기 위해 수준을 높여나갔고, 현실 세계와 상호작용의 가능성이 보이기 시작했습니다.
아직 어린아이처럼 놀이터에서 친구들과 놀며 스스로 경험을 통한 학습을 할 수 있다고 생각하지 않지만, 올 해에는 그 가능성이 대폭 늘어날 것 같습니다. 분명한 것은, 현실과 상호작용하며 학습하는 것은 근본적으로 주어진 데이터로 학습하는 것과 다르다는 점입니다.
학습과 생각의 차이
AI를 바라보실 때, 구분해야 하는 두 가지 용어가 있습니다. "학습"과 "생각"입니다. 과거의 과학자들은 인간과 유사하게 생각하는 AI를 만들기 위해서 많은 노력을 기울였습니다. 그 과정은 다음과 같았습니다.
1. 먼저 구조를 만듭니다. (아키텍처)
2. 구조를 학습할 데이터를 준비합니다. (데이터)
3. 구조 내에서 데이터에 적합하게 업데이트합니다. (학습)
4. 새로운 데이터에 모델을 테스트합니다. (실행)
이 과정은 지극히 수동적입니다. 이 방식에는 학습 데이터 분포를 일치시키겠다는 가정이 있습니다. 나에게 주어진 데이터가 있고, 모델은 데이터 기억합니다. AI 모델에 대해서 우리가 학습이라고 말하는 것은 분포를 정확하게 기억하는 과정이고, 만일 이 과정에서 데이터의 특징적인 것을 토대로 분포를 배운다면 일반화라고 합니다. 더욱이 예상치 못했던 성질이 나타나면, 나타난 행동 (Emergent behaivor)이라고 표현했습니다.
학습은 특정 분야에 한정해서 그 분야의 요소들을 파해치고 자신의 생각과 연결하는 과정입니다. 여기서 초점은 내 생각이 아닌 대상의 이해에 있습니다. 해당 분야를 파해치기 위해서는 생각보다는 관찰을 필요로 하며, 연결할 지식들을 선별하고 조화롭게 만들어야 합니다. 백남준 작품에 대한 학습을 한다면, 그의 생각과 작품에 대한 분포를 이해하는 과정이 주를 이루는 것 같습니다. 그렇기에 학습은 절제입니다. AI 모델이 학습하는 과정에서 본인의 지식을 활용할 수 있지만, 이는 편향을 이끌기에 자신을 절제하며 대상을 제대로 파악하는 게 중요합니다.
Nam June Paik, 1983인내의 보상: 생각
학습과 다르게 생각은 주어진 정보들을 바탕으로 관련된 정보 혹은 새로운 정보를 떠올리는 과정입니다. 단순히 분포를 일치시키는 것을 넘어서 생각은 서로 다른 정보들을 연결하고, 필요한 것을 떠올리며, 질문에 대한 자신의 의견을 찾아나가는 과정입니다.
학습과정에서 많은 것들을 인내하고 대상을 제대로 파악할 수 있게 되었다면, 이에 대한 보상으로 생각하는 단계에 접어들 수 있습니다. 생각의 방식은 여러 가지가 있으며, 심리학적으로 유명한 자유연상 (free association, Freud, 1895)이나 관련된 것을 떠올리는 관계 기억 (Human Associative Memory, JR Anderson, 1973) 등을 자신만의 방식을 통해서 학습한 내용과 생각을 연결할 수 있습니다.
생각은 학습한 것을 활용하여 다양한 목적 하에 관계를 맺는 과정입니다. 생각은 반드시 결과가 있으며, 이는 내부인 마음에 떠오르거나 혹은 외부에 나타나게 됩니다.
Thinking, BP, 2025보편적으로 인공지능은 생각하기보다 암기한다는 느낌이 들었던 건 "학습 단계"에 머물렀기 때문입니다. 올 해에는 생각이라는 것을 더 많이 할 것 같습니다. 학습을 나타내기 위해서 Deep Learning이라는 용어를 썼었는데, 요즘은 이런 단어를 씁니다.
Test-time Compute: 테스트할 때 추가적인 연산
이 용어가 의미하는 바는, 학습의 단계보다는 생각의 단계로 자원을 쓴다는 점을 나타냅니다. 올해 연구자들은 ‘생각’이라는 게 무엇이고, 어떤 방식으로 진행해야 하는지 연구할 예정입니다. 이 과정에서 우리가 배울 점은 여러 가지가 있겠으나, 제가 하고 싶은 말은
"학습의 과정과 생각의 과정은 AI 발전에서 분리된 개념이었으며, 두 개는 서로 다른 방식으로 수행되었다. 인간은 반복적인 학습과 생각을 진행하는데, 두 가지 과정이 섞여서 혼재되기보다는 구분되어서 서로의 역할을 하는 게 더 현명한 방법으로 보인다."
우리는 학습하고, 생각할 겁니다. 이 글은 지극히 학습적인 목적으로 쓰였습니다. 일부 내용이 이해되지 않거나 궁금하다면, 생각보다는 학습의 관점에서 물어보시는 게 좋은 접근법입니다. 이후의 자유로운 생각은 옳고 그름보다는 자신의 고유의 선택적 과정입니다.
학습의 과정은 인내이며,
자세한 관찰을 필요로 합니다.
그 과정 이후에 생각하는 것은
땀 흘리고 씻는 것처럼 개운한 순간입니다.
Mirror, BP, 2025