나는 AI를 자주 쓴다.
강의에서도 설명하고, 업무 자동화에도 활용한다.
때로는 아이디어를 정리할 때 가장 먼저 여는 창이 AI이기도 하다.
그렇지만 한 가지는 분명히 말해두고 싶다.
AI는 인간을 이해하지 못한다.
요즘 사람들은 말한다.
“AI가 나보다 나를 더 잘 이해하는 것 같다.”
그 말이 왜 나오는지 안다.
AI는 놀라울 정도로 자연스럽게 말하고, 적절한 문장을 선택하고, 때로는 위로까지 건넨다.
하지만 그 자연스러움과 이해는 다르다.
이해란 무엇일까.
우리는 누군가를 이해한다고 말할 때, 그 사람의 말뿐 아니라 그 사람의 맥락을 함께 떠올린다.
말끝의 떨림, 잠깐의 침묵, 반복되는 표현 속에 숨어 있는 감정까지 읽으려 한다.
이해에는 경험이 개입되고, 관계가 얽혀 있고, 때로는 책임이 따른다.
그러나 LLM은 경험이 없다.
그 안에는 감정이 아니라 데이터가 있다.
기억이 아니라 확률 분포가 있다.
LLM은 세계를 체험하지 않는다.
다만 텍스트 속에서 어떤 단어 다음에 어떤 단어가 자주 등장했는지를 계산한다.
그 계산이 매우 정교하기 때문에 우리는 그 결과를 이해라고 느낀다.
몇 달 전 한 교육 현장에서 이런 장면이 있었다.
업무 스트레스를 주제로 이야기하던 중 한 수강생이 말했다.
“요즘 계속 불안합니다. 내가 점점 쓸모없는 사람이 되는 것 같아요.”
같은 문장을 AI에 입력해보면, 대부분 비슷한 답이 나온다.
“그렇게 느끼는 것은 자연스러운 감정입니다. 자신을 돌보는 시간을 가져보세요.”
틀린 말은 아니다.
부드럽고, 정중하고, 통계적으로 매우 적절한 위로다.
그러나 그 문장은 그 사람의 직무 특성을 모른다.
그가 처한 조직 구조를 모른다.
그날 아침 상사의 한마디가 어떤 맥락에서 나왔는지도 모른다.
AI는 위로의 형식을 재현한다.
그러나 그 위로에 책임을 지지는 않는다.
기업 현장에서도 비슷한 일이 반복된다.
AI를 도입한 뒤, 상담 챗봇이나 고객 응대 시스템의 만족도가 일시적으로 상승하는 경우가 많다.
왜냐하면 AI는 피로하지 않고, 감정적으로 흔들리지 않으며, 일관된 어투를 유지하기 때문이다.
하지만 시간이 지나면 한계가 드러난다.
복잡한 맥락이 얽힌 문제, 예외 상황, 미묘한 불만이 포함된 문의에서는 인간 상담원의 개입이 다시 필요해진다.
이것은 AI의 실패라기보다 구조의 차이다.
AI는 “패턴이 반복되는 영역”에서는 강하다.
그러나 삶은 언제나 패턴만으로 흘러가지 않는다.
우리가 겪고 있는 문제는 기술의 과장이 아니다.
오히려 해석의 문제다.
정교한 문장과 공감을 구분하지 못하는 순간, 우리는 계산을 이해로 바꿔 부른다.
LLM의 구조는 단순하다.
입력된 문장을 토큰으로 나누고,
이전 맥락을 기반으로 다음에 올 가능성이 높은 토큰을 계산한다.
그 과정을 반복한다.
그 안에는 의도가 없다.
좋고 나쁨에 대한 판단도 없다.
그저 확률적으로 가장 자연스러운 선택이 있을 뿐이다.
이 사실을 인정하는 것이 AI를 제대로 사용하는 첫걸음이라고 생각한다.
AI를 이해의 대체자로 놓는 순간, 우리는 사고를 위임하게 된다.
그러나 AI를 사고의 보조자로 두면 이야기가 달라진다.
질문을 정리하고, 관점을 확장하고, 생각을 구조화하는 데 AI는 놀라울 만큼 유용하다.
결정과 책임은 여전히 인간의 몫이다.
그 경계가 흐려질 때 문제가 시작된다.
나는 종종 스스로에게 묻는다.
나는 AI의 답을 편리함으로 소비하고 있는가,
아니면 그것을 통해 더 깊이 생각하고 있는가.
AI를 사용할수록 생각이 더 빨라지는가,
아니면 더 깊어지는가.
AI는 인간을 이해하지 못한다.
그러나 AI는 우리가 어떤 질문을 던지는지, 어떤 단어를 반복하는지, 어떤 사고 습관을 가지고 있는지를 드러내는 거울이 될 수 있다.
그 거울을 이해라고 부르지 않았으면 한다.
도구라고 부르는 편이 더 정확하다.
기술은 점점 더 정교해질 것이다.
그럴수록 우리는 오히려 더 천천히 생각해야 한다.
이해는 계산보다 느리고, 복잡하고, 때로는 불완전하다.
그래도 그 느림을 지키는 쪽에 서고 싶다.
그곳이 아직 인간의 자리이기 때문이다.