3장. 인간의 강점: 문맥, 추상화, 판단(1)

AI가 할 수 없는 세 가지

Claude Code와 몇 달 동안 작업하면서 한 가지 분명해진 것이 있다. AI는 내가 요청한 것을 정확히 만들어준다. 그런데 내가 정말 원하는 것을 만들어주지는 않는다. 마치 완벽한 번역기와 같다. 단어는 정확하게 옮기지만 행간의 의미는 놓친다.

카페 사장님으로부터 주문 관리 시스템 개발 의뢰를 받았다고 가정해 보자. "손님이 주문하고 결제하고, 직원이 주문을 확인해서 음료를 만드는 시스템"이면 될 것 같다. AI에게 이런 요구사항을 전달했을 때도 잘 동작하는 POS 시스템이 나올 수 있다. 메뉴 관리, 주문 접수, 결제 처리, 주문 내역 출력까지 기술적으로는 흠잡을 데 없다.

하지만 실제 카페에서 관찰해 보면 다른 그림이 보인다. AI가 만든 시스템과 현실 사이에는 깊은 골이 있을 수 있다. 코드는 완벽했지만 맥락이 빠져있는 것이다.

AI가 할 수 없는 세 가지

카페 주문 시스템을 통해 AI와 인간의 차이를 알 수 있다. AI는 세 가지 영역에서 한계를 보인다. 문맥 이해, 추상화, 상황 판단. 이 세 영역은 인간만이 할 수 있는 고유 영역이다.

문맥 이해의 한계

AI는 "카페 주문 시스템"이라는 요구사항을 받으면 일반적인 주문 프로세스를 구현한다. 메뉴 선택 → 옵션 설정 → 결제 → 주문 완료의 단계적 흐름. 논리적으로는 이상이 없다.

하지만 실제 카페 현장을 관찰해 보면 AI가 놓친 맥락들이 보인다. 일반적인 사무실이나 학교가 있는 카페는 오전 7시부터 9시까지가 출근길 러시 시간이다. 이 시간대 손님들은 빠른 주문과 픽업을 원한다. 복잡한 메뉴 선택 과정보다는 "아메리카노 한 잔, 포장"처럼 간단명료한 주문 방식을 선호한다.

반면 오후 시간대는 완전히 다른 패턴을 보인다. 대학생들이 몇 시간씩 머무르면서 공부하거나 대화를 나눈다. 음료 한 잔에 디저트 추가, 매장 내 취식, 때로는 추가 주문까지. 같은 주문 시스템이지만 완전히 다른 사용 패턴이다.

AI는 "주문"이라는 기능만 보고 시스템을 설계한다. 하지만 인간은 "언제, 누가, 왜 주문하는가"라는 맥락까지 고려해서 설계할 수 있다. 러시 시간대에는 원터치 주문이 가능한 단축 메뉴를, 여유 시간대에는 상세한 커스터마이징이 가능한 인터페이스를 제공하는 방식으로 생각할 수 있다.