AI의 머릿속을 해부하다

생각하는 것이 아니라, 이어 말하는 것입니다

Dec 26. 2025 brunch_membership's

오늘은 단순히 "챗GPT는 이런 거야"라고 정의하는 것을 넘어, 도대체 "이 기계 덩어리의 머릿속이 어떻게 생겨먹었길래 이런 대답을 내놓는가?"에 대한 근원적인 작동 원리를 파헤쳐 보려 합니다.

"아니, 내가 개발자도 아닌데 원리까지 알아야 해?"라고 반문하실 수 있습니다.

네, 알아야 합니다.

우리가 자동차 엔진의 연소 공학까지는 몰라도, '엑셀을 밟으면 기름이 들어가서 바퀴가 빨리 돈다'는 기본 원리를 알아야 연비 운전을 할 수 있는 것과 같습니다. AI가 어떤 과정을 통해 글을 써내는지 그 메커니즘을 이해하면, 왜 내 질문에는 엉뚱한 대답이 나오는지, 어떻게 명령해야 찰떡같이 알아듣는지 본능적으로 깨닫게 됩니다.

오늘 이 글을 다 읽으시고 나면, 여러분은 스마트폰 속의 AI가 전혀 다르게 보일 것입니다. 막연히 신기한 요술 방망이가 아니라, 아주 정교한 '확률 게임기'를 다루는 타짜의 눈을 갖게 될 테니까요. 자, 그럼 AI의 뚜껑을 열어보겠습니다.

우리는 흔히 챗GPT나 클로드 같은 생성형 AI를 보며 "인공지능이 생각한다"라고 착각합니다. 질문을 던지면 잠시 커서가 깜빡거리는 그 순간, AI가 우리처럼 머리를 굴리고, 고민하고, 논리를 세운 뒤 대답한다고 느끼죠. 영화 <아이언맨>의 자비스처럼 자아가 있는 존재로 대합니다. 하지만 냉정하게 말해서, 이것은 우리의 착각입니다.

AI는 생각하지 않습니다. 고민하지도 않습니다. 엄밀히 말하면 AI는 그저 '지독하게 고도화된 끝말잇기 기계'일뿐입니다. 이 원리를 이해하는 것이 AI 활용의 시작이자 끝입니다. 전문 용어로는 '다음 토큰 예측'이라고 하지만, 우리는 쉽게 '확률적 이어 말하기'라고 부르겠습니다.

상상을 한번 해봅시다. 여러분이 AI입니다. 그리고 누군가 여러분에게 "사과는"이라는 단어를 던졌습니다. 이제 여러분의 임무는 이 뒤에 올 단어 중 가장 '확률이 높은' 단어를 맞히는 것입니다. 여러분의 머릿속에는 수억 권의 책과 인터넷 문서가 들어 있습니다. 그 데이터를 뒤져보니 "사과는" 뒤에 올 수 있는 단어들의 확률이 다음과 같이 계산됩니다.

1위: 맛있다 (70%)

2위: 빨갛다 (20%)

3위: 과일이다 (9%)

...

4위: 우주선이다 (0.0001%)

AI는 가장 확률이 높은 "맛있다"를 선택해서 뱉어냅니다. 그럼 문장은 "사과는 맛있다"가 되죠. 이제 AI는 다시 계산합니다. "사과는 맛있다" 뒤에 올 말은 무엇일까? "그래서", "나는", "비타민이"... 이런 식으로 꼬리에 꼬리를 물고 단어를 이어 붙여 나갑니다. 이것이 AI가 글을 쓰는 유일한 방식입니다.

놀랍지 않나요? 우리가 감탄해 마지않는 그 유려한 문장들, 논리적인 보고서, 심지어 감동적인 시(詩)조차도, 사실은 수학적인 확률 계산을 통해 단어 블록을 하나하나 조립한 결과물이라는 사실이 말입니다. AI에게는 '의도'나 '감정'이 없습니다. 오직 '통계'와 '패턴'만이 존재할 뿐입니다.