다음에 나오는 단어를 예측하는 일이 이렇게 중요한가?

인공지능 길들이기

Sep 22. 2025

<인공지능은 언어적 일관성에 의존하는 새로운 지능이다>에 이어서 인공지능을 반(反) 지능이라고 묘사한 글 <AI and the Architecture of Anti-Intelligence>를 읽고 쓰는 글입니다.

반지능이 딱 어울리는 표현들을 만납니다

반지능이 딱 어울리는 한국말이라는 생각이 들게 하는 문장입니다.

It's not a mirror, but a kind of cognitive counterfeit that's fluent, convincing, and fundamentally ungrounded and untethered to our humanity.

저자는 정말 정교한 언어를 구사하는 듯합니다. 천천히 살펴보겠습니다. 먼저, 거울이 아니다(It's not a mirror)라는 설명입니다. 기계 학습(Machine learning)을 이해하는 전공자가 아니라면 대화하는 상대를 사람처럼 느낄 수 있습니다.[1]

사람 같은 그런 지능이 아니란 점에서 반(反) 지능이란 표현이 적절한데, 위에 인용한 문장에서도 저자가 사용한 counterfeit이란 단어에도 그런 뉘앙스가 느껴집니다.

한편, 몇 주 전에 <소프트웨어 공학 지식 체계 문서에 드러난 AI와의 관계>를 쓰며 인용했던 문구가 떠오릅니다.

An ideal AI system would be one that a human could not identify it as a computer; humans would not be able to distinguish the computer from a human being.

이상적인 인공지능 시스템은 사람을 대체할 수 있는 수준이어야 한다고 산업표준과 같은 문서에서 정의하죠. 특정 집단에 의해 객관화된 욕망이라 하겠습니다.

그런데 문제는 인공지능의 유창함과 확신(fluent, convincing)에 반(反)해서 근본적으로 근거가 없는(fundamentally ungrounded and untethered to our humanity) 그저 드러난 결과를 통해 학습한 확률적 생성기라는 점을 간과한다는 점입니다.

이해하지 않고도 패턴 조합으로 알 수 있게 된 기계

다음 그림에 거기에 더하여 패턴 기반의 인지에 대하여는 우리보다 훨씬 뛰어날 수 있음을 시사하는 듯합니다. 훌륭한 사분면 활용이라 하겠습니다.

한편, 다음 문장은 쉬움과 제대로 이해하는 것의 차이를 설명하는 듯합니다.

Because we’re beginning to confuse coherence with comprehension.

단어의 뜻을 비교해 묻고 따지는 대신에 퍼플렉시티에게 두 개념 비교를 요청했습니다.

그리고, 이해를 못 해도 알 수는 있다고 합니다.[2] 암기를 말하는 것일까요?

It’s the performance of knowing without understanding.

그리고 보니 암기식 교육의 폐단도 떠오르네요. 시험만 잘 보는 사람들이 대한민국을 망치는 일을 최근까지 보아 왔으니까요. 비슷하게 저자는 다음 문장을 통해 자기도 모르는 말을 확신에 차서 하는 사람들을 지칭하는 듯합니다.

They don’t know what they’re saying, and more importantly, they don’t know that they’re saying.

인공지능이 그들과 비슷하게 행동하는 것이군요. ;)

지각 대신 예측, 생각이 아닌 패턴 매칭

저자는 반지능의 근본 아키텍처가 인간이 생각하는 것과는 완전히 다르다며 자신이 쓴 또 다른 글인 <How Humans Think and AI Generates>를 소개합니다. 이 글을 쓰고 난 후에 다시 읽어 봐야 할 듯합니다. 아무튼 그렇게 완전히 다른 아키텍처가 바로 그 유명한 Transformer 아키텍처입니다.

that's based on prediction, not perception. And it's worth saying again, they don’t form thoughts, they pattern-match them.

지각 대신 예측을 하고, 생각을 결과로 내놓는 것이 아니라 패턴 매칭에 의해 가장 확률 높은 답을 내놓은 것이란 의미입니다. Transformer 아키텍처가 불러온 거대한 변화를 보면서 '다음 단어를 예측하는 일'이 그렇게나 중요한 일이었나 싶습니다. 그러고 보니 바둑도 결국 다음 수를 놓는 일이었습니다.

근본적인 한계를 극복해 나가는 듯한 기술적 성취들

말을 바탕에 두니까 생체 속에서 만들어지는 감각 이미지는 처리하지 못합니다.

They’re building the appearance of knowledge that is often indistinguishable from the real thing until we ask a question that requires judgment, reflection, or grounding in reality.