AI가 항상 비슷한 답을 하는 이유
문제는 AI가 아니라 우리가 만든 맥락이다
AI를 처음 쓸 때는 대부분 비슷한 경험을 한다.
처음에는 놀란다.
“이렇게까지 쓸 수 있다고?”
보고서도 써주고
요약도 해주고
코드도 만들어준다.
심지어 문장도 꽤 자연스럽다.
그래서 많은 사람들이 이렇게 말한다.
“이제 글은 AI가 쓰는 시대다.”
그런데 이상한 일이 생긴다.
AI를 계속 쓰다 보면
어느 순간 묘한 느낌이 들기 시작한다.
문장은 분명 다르다.
표현도 조금씩 다르다.
그런데 읽다 보면 이런 생각이 든다.
“왜 느낌이 다 비슷하지?”
어디선가 본 글 같고
어디선가 들은 이야기 같고
어디선가 읽은 분석 같다.
틀린 말은 하나도 없다.
하지만
새로운 느낌도 거의 없다.
많은 사람들이 이 지점에서
AI의 능력을 의심하기 시작한다.
“AI가 생각보다 별거 없는 거 아니야?”
하지만 이건
AI의 지능 문제가 아니다.
조금 다른 문제다.
AI는 생각하지 않는다
사람은 글을 쓸 때
머릿속에 많은 것이 동시에 떠오른다.
예전에 했던 경험
지금 조직의 상황
내가 속한 업계 분위기
최근에 있었던 대화
그리고 지금 글을 쓰는 이유
이 모든 것이
보이지 않는 배경처럼 깔려 있다.
그래서 사람은
짧은 문장 하나에도
맥락을 담을 수 있다.
예를 들어 이런 문장이다.
“요즘 AI 글을 읽으면 비슷하다는 느낌이 든다.”
이 문장은 짧지만
그 뒤에는 꽤 많은 맥락이 숨어 있다.
AI를 많이 써본 경험
콘텐츠를 읽어본 경험
비슷한 글들을 비교해본 기억
사람은 이런 것들을
굳이 설명하지 않아도
자연스럽게 글에 담는다.
하지만 AI는 다르다.
AI는
머릿속에 세계가 있는 존재가 아니다.
AI는
입력된 맥락 안에서만 움직인다.
AI가 알고 있는 것은
지식이 아니라
맥락의 조합이다.
그래서 입력된 맥락이 얇으면
결과도 얇아진다.
왜 AI 글은 점점 비슷해지는가
많은 사람들이
AI 글이 평범해지는 이유를
프롬프트에서 찾는다.
“프롬프트를 더 잘 써야 한다.”
물론
어느 정도는 맞다.
하지만 실제로 AI를 오래 써보면
다른 사실을 발견하게 된다.
프롬프트는
생각보다 작은 부분이다.
AI가 결과를 만들 때
더 크게 영향을 받는 것은
맥락의 밀도다.
AI는 질문을 보고만 답을 만들지 않는다.
AI는 질문 주변에 있는
맥락을 함께 계산한다.
예를 들어 이런 것들이다.
사용자가 어떤 상황에 있는지
이 작업의 목적이 무엇인지
지금 조직이 어떤 상태인지
이 결과를 어디에 쓸 것인지
어떤 기준으로 결과를 평가할 것인지
이런 것들이 충분히 들어오지 않으면
AI는 자연스럽게
가장 안전한 선택을 한다.
그게 바로
평균적인 답이다.
틀릴 가능성이 가장 낮은 답.
그래서 결과가
점점 비슷해진다.
AI 에이전트가 자주 실망을 주는 이유
요즘 많은 사람들이
AI 에이전트를 만든다.
자동화 워크플로우
에이전트 프레임워크
자동 리서치 시스템
처음 보면 놀랍다.
“와… 이게 자동으로 돌아가네.”
그런데 며칠 지나면
대부분 같은 말을 한다.
“생각보다 별로다.”
왜 이런 일이 생길까.
AI 에이전트는
자율성은 얻었지만
맥락은 얻지 못했기 때문이다.
AI가 스스로 행동하려면
판단 기준이 필요하다.
하지만 대부분의 AI 시스템에는
이 기준이 없다.
그래서 AI는
계속 안전한 선택을 한다.
결국 결과는
빠르게 평범해진다.
AI의 병목은 지능이 아니다
AI 이야기를 할 때
많은 사람들이 이렇게 말한다.
“모델이 더 똑똑해져야 한다.”
그래서
파라미터 수
모델 크기
컨텍스트 길이
이런 것들을 이야기한다.
하지만 실제로 AI를 많이 사용하는 사람들은
조금 다른 문제를 본다.
AI가 실패하는 순간을 보면
대부분 비슷하다.
AI가 틀린 것이 아니라
방향을 잃은 것이다.
무엇을 기준으로 판단해야 하는지
모르는 상태.
AI 연구에서는
이 현상을
context drift
라고 부른다.
맥락이 흐려지는 현상이다.
AI가 틀린 것이 아니라
기준이 사라진 것이다.
그래서 AI는 매번 처음부터 시작한다
AI를 쓰다 보면
이런 상황이 자주 생긴다.
대화를 다시 시작하면
AI는 이전 내용을 기억하지 못한다.
“아까 이야기했던 거 기억해?”
대부분의 AI는
기억하지 못한다.
이건 단순한 기능 문제가 아니다.
대부분의 AI 시스템은
stateless 구조로 만들어져 있다.
즉
세션이 끝나면
맥락이 사라진다.
그래서 우리는
다시 설명한다.
그리고
또 다시 설명한다.
AI는 매번
처음부터 시작한다.
그래서 결과가 평범해지는 것이다
맥락이 충분하지 않으면
AI는 평균값을 선택한다.
평균값은 안전하다.
틀릴 가능성이 낮다.
하지만 평균값은
항상 평범하다.
그래서 우리는
이런 결과를 받는다.
어디서나 볼 수 있는 글
어디서나 들은 이야기
어디서나 읽은 분석
AI가 잘못한 것이 아니다.
맥락이 부족한 것이다.
앞으로 AI 경쟁의 핵심
AI 모델은
점점 비슷해질 가능성이 높다.
GPT
Claude
Gemini
Qwen
성능 격차는
점점 줄어든다.
그렇다면
차이는 어디서 생길까.
모델이 아니다.
맥락을 설계하는 능력이다.
누가 더 많은 데이터를 가지고 있는지가 아니라
누가 더
맥락을 구조적으로 만들었는지가
결과를 바꾼다.
AI 전략은 바뀌고 있다
그래서 앞으로 AI 전략의 중심은
프롬프트가 아니다.
다음 네 가지다.
맥락을 저장하는 것
맥락을 연결하는 것
맥락을 업데이트하는 것
맥락을 활용하는 것
AI 시스템은
지능 시스템이 아니라
맥락 시스템에 가까워지고 있다.
결국 질문은 이것이다
AI는 충분히 똑똑하다.
문제는
AI가 무엇을 아느냐가 아니다.
AI가
어떤 맥락 속에서 판단하고 있느냐다.
이 질문이
앞으로 AI 생산성을 결정하게 된다.