AI의 현재 한계
빠르지만 어설픈, 현재 인공지능의 민낯
지난번 글에서는 “AI가 누구부터 없앨까?”를 이야기했다.
실력이나 창의성보다, 결국 돈과 계급이 먼저였다.
그런데 글을 쓰고 나니 이런 질문이 따라왔다.
“그럼 지금 AI는 정말 다 할 수 있나? 못 하는 건 없을까?”
이번 글은 그 의문에서 시작한다.
https://brunch.co.kr/@mindhoarder/17
이번에는 반대로, AI의 현재 한계를 이야기하려 한다.
요즘 사람들은 AI를 만능처럼 말한다.
코드를 짜주고, 그림을 그려주고, 글까지 써주니 정말 모든 걸 대체할 수 있을 것 같다.
하지만 실제로 써보면, 이 만능설이 얼마나 허술한지 금방 드러난다.
AI는 분명 빠르고 편리하다. 그러나 AI는 큰 그림이 약하다.
이건 추상적인 “AI는 큰 그림이 약하다”는 얘기가 아니다. 매우 구체적인 기술적 한계가 만든 결과다.
토큰의 벽 ― 화이트보드가 작은 이유
AI는 우리가 던져준 텍스트를 잘게 쪼개 토큰(token)이라는 단위로 이해한다.
토큰은 AI가 한 번에 처리할 수 있는 입력 조각이다.
문제는, 이 토큰을 담아둘 칸이 정해져 있다는 점이다. 즉, 컨텍스트 창의 크기가 제한돼 있다.
사람으로 치면 이렇다.
누군가 30분 동안 업무 지시를 줄줄 말한다고 해보자. 메모하지 않는 이상, 앞에서 말한 건 금방 잊고 마지막 몇 분만 머리에 남는다.
AI도 똑같다. 화이트보드가 작아서, 앞에서 쓴 내용을 지워야 뒤를 쓸 수밖에 없다.
그러니 프로젝트가 커질수록 이미 만든 함수나 규칙을 잊고, 다시 지멋대로 하드코딩한다.
파인튜닝 ― 학원 지식은 금방 낡는다
AI를 특정 업무에 맞게 학습시키는 방법이 있다.
바로 파인튜닝(fine-tuning)이다. 예를 들어 “우리 회사 API는 이렇게 호출해”라고 학습시켜두면, AI는 그걸 잘 따른다.
하지만 회사 규칙은 매주 바뀐다.
파인튜닝은 한 번 학습하면 그 상태로 굳어버리기에, 새로운 규칙을 곧장 반영하지 못한다.
이건 마치 신입사원이 입사 전에 PPT 학원에서 화려한 효과와 표 만드는 법을 배워온 것과 같다.
기술은 있으니 기본 PPT는 만든다.
하지만 회사에는 이미 정해진 템플릿과 규칙이 있다.
로고 위치, 폰트 크기, 색상 팔레트까지 다 정해져 있다.
신입이 학원식 PPT만 고수하면, 아무리 멋져 보여도 회사에선 “틀렸다”는 말을 듣는다.
AI의 파인튜닝도 마찬가지다. 기본기는 확실히 주지만, 최신 규칙에는 둔하다.
프롬프트와 저장소 ― 템플릿은 매번 다시 알려줘야 한다
그렇다면 방법은? AI에게 “이 템플릿을 지켜”라고 매번 알려주거나, GitHub 저장소에서 규칙을 검색해 참고하게 한다. 이게 프롬프트(prompt)와 저장소 연결(RAG)이다.
하지만 여기에도 문제가 있다. AI는 이 규칙을 계속 기억하지 못한다는 점이다.
신입사원에게 “보고서는 반드시 이 회사 템플릿으로 작성해”라고 알려줬다고 해보자.
그런데 중간에 커피 심부름 몇 번 시키고 다시 보고서를 맡기면? 신입은 그래도 기억한다.
템플릿을 찾아 다시 맞춰서 만든다.
사람과는 다르게, AI 사원은 이렇게 처리한다! 앞에서 들었던 규칙을 완전히 잊어버리고, 또 자기 스타일대로 화려한 PPT를 만들어버린다.
결국 우리는 AI에게 템플릿을 매번 다시 “보고서는 반드시 이 회사 템플릿으로 작성해” 라고 알려줘야 하고, 지시가 길어질수록 토큰을 더 잡아먹는다.
기억력 부족과 토큰 낭비가 동시에 생기는 셈이다.
하드코딩의 본능 ― 모르면 그냥 박아 넣는다
AI는 모호하거나 규칙이 애매하면, ‘안전하다’ 싶은 답을 택한다.
예를 들어, 오늘 날짜를 알아서 출력해주는 format_date() 같은 함수가 이미 있다.
그런데 AI는 그걸 쓰지 않고, 그냥 코드 안에 "2025-09-14" 라고 직접 적어버린다.
그 순간은 문제없어 보인다.
하지만 내일 실행하면? 여전히 2025-09-14가 찍힌다.
즉, 원래는 매일 자동으로 변해야 할 값이, 한 번 고정돼버리는 것이다.
이건 게으름이 아니라 안전 본능이다. 신입사원에게 이렇게 지시했다고 하자.
“이번 보고서는 짧으면 10장, 길면 30장까지 괜찮아. 상황에 맞게 조절해.”
하지만 신입은 애매하니까 그냥 20장으로 고정한다.
문제는 여기서 끝나지 않는다.
내용이 짧아도 억지로 늘려서 20장을 채우고, 길어도 억지로 잘라서 20장에 맞춰버린다.
결과적으로 보고서는 어색해지고, 메시지도 왜곡된다.
AI도 똑같다. 원래는 유동적으로 처리해야 할 부분을, 그냥 상수 값으로 박아버린다.
안전하다고 생각했지만, 결국 전체 구조를 깨뜨리는 선택이다.
속도는 빠른데, 합치면 느리다
AI는 작은 기능을 짜는 속도는 정말 빠르다.
하지만 여러 기능을 합쳐 제품으로 만들려 하면 오히려 느려진다.
팀 프로젝트를 떠올려보자.
각자 PPT 슬라이드를 빠르게 완성해왔다. 하지만 막상 합쳐보니 폰트·색깔·효과가 다 달라서 통일하는 데 더 오래 걸린다.
AI 코드도 마찬가지다.
파일 단위로 보면 멀쩡하지만, 합치면 뒤죽박죽. 결국 사람이 다시 맞추는 데 더 많은 시간이 든다.
코딩만의 문제가 아니다
이건 코딩만의 문제가 아니다.
AI 그림을 보자. 한 장면, 한 컷은 정말 기가 막히게 뽑아낸다. 그림만 이어 붙이면 만화도 만들 수 있을 것 같다.
하지만 진짜 만화는 컷만 잘 그린다고 완성되지 않는다.
1화 1페이지에 던진 떡밥이 30화 뒤에 회수되거나, 장면마다 표정과 구도가 스토리에 맞게 이어져야 한다.
이런 디테일은 단순히 그림을 잘 그리는 능력으로는 안 된다.
결국 프롬프트를 쓰는 사람이 스토리 전체를 꿰고 있어야 한다.
AI는 컷을 그려주지만, “떡밥을 어디에 뿌리고 어떻게 회수할지”는 사람이 설계해야 한다.
애니메이션도 같다.
원화가나 채색가는 일부 대체될 수 있다.
하지만 스토리와 흐름을 잡는 감독은 남을 수밖에 없다.
작은 단위의 기능은 AI가 대체하지만, 큰 그림을 책임지는 역할은 여전히 사람의 몫이다.
결국 필요한 건 큰 그림을 맡을 사람
바이브코딩 만능설은 달콤하다. 하지만 현실은 냉정하다.
작은 기능은 AI가 잘한다.
그러나 큰 그림을 보며 설계하고, 연결하고, 맥락을 이어가는 일은 여전히 사람 몫이다.
“큰 그림과 아키텍처”라고 하면 IT 용어처럼 들리지만, 쉽게 말해 흐름과 구도를 잡는 역할이다.
코딩에서는 설계자, 그림에서는 감독, 글에서는 기획자. 이 자리는 당분간 사라지지 않는다.
작은 범위의 기술자들은 설 자리가 줄어들 것이다.
반대로, 전체를 엮고 설계하는 사람은 오히려 더 중요해진다.
AI는 점점 더 똑똑해지고 있다.
작은 단위는 이미 넘었다.
그렇다면 물어야 한다.
“언젠가 AI가 큰 그림까지 맡을 수 있을까?
아니면 이 무대는 끝까지 인간의 몫일까?”
작은 일은 AI가 이미 해냈다.
하지만 큰 그림은 아직, 그리고 아마도 오랫동안… 인간의 자리일지 모른다.
