인공지능이 반드시 가야 할 길이 있을까?

인공지능 길들이기

Sep 23. 2025

<다음에 나오는 단어를 예측하는 일이 이렇게 중요한가?>에 이어서 인공지능을 반(反) 지능이라고 묘사한 글 <AI and the Architecture of Anti-Intelligence>를 읽고 쓰는 글입니다.

인공지능이 사람을 속일 수 있을 때가 되면?

글의 방향이 조금 바뀌는 듯한 구절을 만납니다.

What "trajectory" does it put humanity on when the interface "performs intelligence" so convincingly that we begin to defer, to trust, and to assume?

trajectory 뜻을 콜린스에서 찾아 <낱말의 뜻을 깊고 넓게 묻고 따지는 일의 소중함>을 실천합니다.

The trajectory of a moving object is the path that it follows as it moves.

The trajectory of something such as a person's career is the course that it follows over time.

한국말 궤적(軌跡)에 해당했습니다. 네이버 영어 사전에 따르면 탄도(彈道)와 궤도(軌道)가 대안이기도 합니다.

저자도 인공지능 기술의 발전사를 알고 반영해 쓴 내용 같습니다.

When AI speaks as a therapist, as a teacher, as a physician, the distinction between performance and presence isn’t academic

인공지능이 반드시 가야 할 길이 있을까?

결과가 같다고 권위를 취할 수는 없습니다.

And at that point, we’re not just dealing with output. We’re dealing with authority.

인공지능이 만들어 낸 '허구적 믿음'은 누구의 책임일까요?

without accountability

우리말에 한 번 속지 두 번은 안 속는다는 말이 있습니다. 하지만, 분명 인공지능 신뢰성은 아직 난제입니다.

Humans discard this kind of noise, but LLMs struggle with it. This reveals a "structural brittleness" masked by fluent output.

명확한 소명(clarion call)이라는 뜻밖의 표현을 만납니다.

That’s anti-intelligence made visible. <중략> I think it's more of a clarion call that we’ve built something powerful, but profoundly different from ourselves.

인간의 의식도 거대한 무의식 위에서 작동한다

여기에 더하여 우연하게도 최근에 본 <케이팝 데몬 헌터스 (KPop Demon Hunters)>의 클라이맥스 장면을 보며 다음 문장의 의미를 이해할 수 있었습니다.

It's the ability to make meaning through time, through memory, through contradiction and revision and doubt.

그건 사실 <What It Sounds Like> 가사이기도했죠.

나에 관한 것 중 최악은, 내가 부끄러워했던 패턴들이야
나조차 이해 못 했던 것들
고치려 했고 맞서 싸우려 했지
머리는 혼란스럽고 마음이 갈려졌어
거짓말들이 충돌했어
왜 너를 믿지 못했는지 모르겠어, 네가 내 편이라는 걸
산산이 부서진 나, 돌이킬 수 없어
하지만 깨진 유리 조각들 그 안에 담긴 아름다움이 보여
상처는 나의 일부, 어둠 그리고 조화
거짓 없는 내 목소리, 이게 바로 그 소리야

뿐만 아니라 제가 <무의식은 어떻게 나를 설계하는가>를 읽는 중이 아니었다면[1] 전혀 다른 맥락과 매체로 접한 둘을 연결하지 못했을 것입니다. 암튼 지금 제가 이해한 바를 기록하면, 모델이 생성한 결과를 그대로 내놓아서는 안 된다는 말이라 생각합니다. 현시점의 맥락(through time)에 맞게 기억을 활용하고(through memory) 모순과 수정과 의심을 통과한(through contradiction and revision and doubt) 결과를 내놓아야 합니다. 이는 최근에 인류가 알게 된 두뇌 작동 방식과 흡사합니다. 더불어 인공지능 관련 기술 역시 문제 인식을 같이 하는 것 같이 느껴집니다.

반(反)은 없음(無)을 뜻하지 않습니다.

That’s what anti-intelligence names—not absence, but an inversion of something fundamentally different.

새로운 불일치의 등장과 인공지능 관련 종사자의 사명

다음 문장은 JICA에서 했던 인공지능 관련 발표를 하며 불일치라고 이름 붙였던 자료가 떠오릅니다.

Not a valley between machine and mind, but a split in the architecture of knowing that somehow needs to be filled.

물론, 저자는 인식의 아키텍처 차이를 말하는 것이고, 제 경우는 기존 소프트웨어의 기반인 컴파일러가 요구하는 패러다임과 확률에 근거한 LLM 출력 패러다임의 차이를 말하는 것이긴 했습니다.

하지만, 그 공통점으로 결국 어떤 기준으로는 결정을 내린 결과를 내놓도록 인공지능을 끌고 가야 한다는 말로 이해했습니다.

그리고, 저자는 우리 손에 달려 있다고 말하는 것 같습니다.

LLMs don’t simulate us because they’re like us. They simulate us because we trained them to reflect what we’ve written, without grasping why we wrote it.