지각이 제한적인 에이전트가 만나는 세상의 모델
내 삶을 차리는 독서의 시작
이 글은 지난 글에 이어 <AI 최강의 수업> 2부 <사람보다 똑똑한 인공지능을 위한 기술> 중에서 <사람처럼 vs 합리성 추구>를 읽고 밑줄 친 내용을 토대로 생각을 정리한 글입니다.
지각이 제한적인 에이전트가 만나는 세상의 모델
'세상의 모델'이라는 소제목 아래에서 만난 문장들이 눈에 들어왔습니다.
세상은 끝이 없으나, 에이전트가 인지하는 세상은 제한되어 있다. 전체를 관찰하거나 이해할 수 없다. 에이전트가 감지할 수 있는 것은 오직 부분일 뿐이다. 제한된 감각기관 때문이다.
책 내용과 인공지능이라는 주제에서 벗어나 여러 가지 생각을 하게 만들었습니다. 우선은 지난 글에서 손떼를 묻혔던 그림이 떠올랐습니다. 그리고 몇 가지 질문을 던지게 되었습니다. 챗GPT를 이용할 때 프롬프트의 역할은 '지각'일까요? 온 디바이스 AI의 경우 지각은 인간의 지각을 강화시켜 주는 것이 될까요?
인간도 에어전트란 점을 떠올려 보면, 협업을 하는 이유는 지각 능력과 판단 능력을 높이는 일이 될까요? 이때, 서로의 지각이 다르면 어떤 결과를 만나게 될까요? 바로 답하기 어려운 수많은 질문이 쏟아졌습니다.
우리의 판단과 행동을 지배하는 세상의 모델
이어서 다음 문장들을 볼 때에도 인공지능 바깥에서 읽게 됩니다.
불확실성이 존재하는 세상을 에이전트가 어떻게 '생각'하는가에 따라서 문제 해결의 방법이 다르게 된다. 에이전트의 생각은 그 나름의 '세상 모델'이다.
먼저 사람들이 세상을 이해하는 방식이 바로 각자의 '세상 모델'에 따른다 생각하게 됩니다. 이에 대해서는 이미 <믿음에 바탕을 두고 꿈을 꾸거나 일을 꾀한다>에서 글로 쓴 일이 있습니다.
종종 레거시 미디어에서 나오는 일들을 검열 없이 중요한 사실로 말하는 지인들이 있습니다. 그들은 마치 그 뉴스들이 지금 시점에 가장 중요한 일처럼 말하고는 합니다. 그런데 그 뉴스와 자기의 일상과 관계를 따져 물으면 당황하고는 합니다. 그럴 때면 매트릭스에 나오는 스미스 요원이 바로 기득권의 수호자가 되는 시민은 아닌 대중인가 싶습니다. 아이러니하게도 기계적 중립 같은 상당한 일관성을 내세우기 때문에 그들의 무지성이 잘 드러나지 않는 듯도 합니다.
우리는 인공지능에게 생각을 위임하는 것인가?
다음 글을 읽으면서 또 다른 생각이 솟아납니다.
모델이란 현실 세계의 복잡한 현상을 추상화하거나 가정 사항을 도입하여 단순하게 표현한 것이다. 복잡해서 단순화하지 않으면 제한된 자원으로 문제를 해결할 수 없다. 그러나 과도하게 단순화하면 현실과 동떨어져서 효용성이 없다.
칼로리 소모가 많은 뇌를 효율적으로 쓰는 일이 습관이 되면 판단을 외부의 권위자에게 의존할 수 있습니다. 스스로 판단하는 일보다 더 중요하다고 느끼는 일이 있다면, 최소한의 판단만 스스로 내린다고 생각할 수도 있습니다. 이렇게 전제하면 LLM(초거대 언어 모델)으로 대변되는 인공지능의 부상이 인간이 더 복잡한 생각을 추상적으로 처리하기 위해 하부적인 생각을 위임하기 위한 욕망의 결과로 볼 수도 있습니다. 물론, 인공지능을 만들어 낸 사람들은 누구보다 생각을 많이 할 사람일 것입니다. 반면 인공지능이 보편제가 될수록 생각을 위임하는 사람은 스스로 선택하지 못한 결과를 맞이하는 것일 수도 있다는 무서운(?) 생각도 하게 됩니다. 여기서 제 생각을 멈추고 다시 책으로 돌아갑니다.
세상 모델을 체계화하는 일곱 가지 관점
세상 모델을 보는 일곱 가지 관점이 있다는 사실이 반가웠습니다.
에이전트가 활동하는 '세상 모델'을 교과서에서는 통상 일곱 가지 관점으로 체계화한다.
방대한 내용의 요약으로 보여서 나중에 떠올리기 좋게 그림으로 손때를 묻혀 보았습니다.
이 중에서 '정적 vs 동적'이라는 이분법은 과거에 UML 모델링을 할 때 자주 활용했던 관점이라 특별히 익숙합니다. 그리고 당시는 그런 생각을 하지 못했는데, 제삼자 적 시각으로 그때 경험을 돌아보니 새롭게 보이는 내용도 있습니다.
한편, 세상 모델이 아니라 소프트웨어 모델에 있어서는 동적 관점과 정적 관점을 연결하여 상호 일관성을 확보하는 장치가 버전(version)이란 생각이 들었습니다.
<낱말의 뜻을 깊고 넓게 묻고 따지는 일의 소중함> 실천을 위해 위키피디아를 찾아봅니다.
Software version, a set of numbers that identify a unique evolution of a computer program
내용이 길어져서 다음 글에서 이어갑니다.
지난 내 삶을 차리는 독서의 시작 연재
(86회 이후 링크만 표시합니다.)
86. 일상을 파고드는 생성 인공지능
88. 비디오, 3D, 사운드, 음성 생성과 노래 합성 모델
89. '왜'를 찾아서: 관계와 욕망이 얽히는 누리의 양상
