AI는 왜 내 의도를 몰라주는 걸까
체화된 인지: 기능은 완벽했는데, 사용자 경험이 형편없었던 이유
일주일 만에 웹 프로덕트를 하나 만들었습니다.
심리학 기반의 커플 검사 서비스였어요. 두 사람이 각자 검사를 하면, 서로의 성격과 갈등 패턴을 분석해서 리포트로 보여주는 것인데요. 결혼을 앞둔 커플들이 "우리 관계, 괜찮은 걸까?"를 점검할 수 있게 하는 게 목적이었습니다.
개발은 Claude에게 맡겼습니다. 큰 골격만 기획하고, 나머지는 전부 위임했어요. 검사 문항 배치, UI 디자인, 리포트 구조까지. "심리검사 앱 만들어줘"라고 던지면 알아서 만들어주니까요.
첫 초안은 기능은 완벽하게 돌아갔습니다. 그런데 화면을 보는 순간, 뭔가 이상했습니다.
첫 화면을 열었을 때 일단 눈에 들어온 건 컬러였습니다.
파스텔 핑크, 라벤더, 민트, 버터 옐로우. 문항마다 배경색이 달랐고, 프로그레스 바는 무지개색이었습니다. 이모지도 넘쳐났어요. ✨이 화면 곳곳에 박혀 있었습니다.
이 이미지는 글 작성을 위해 Claude 에게 부탁해서 얻어온, 실제 서비스와 무관한 샘플입니다.(당시 캡처를 안 해둬서, 이 글을 쓰면서 Claude에게 다시 만들어달라고 했습니다. "목적 설명 없이 커플 심리검사 UI 만들어줘"라고요. 그때도 이 수준이었어요.)
문제는 컬러만이 아니었어요.
10개 문항이 한 페이지에 세로로 쭉 나열되어 있었습니다. 끝없는 스크롤. 리커트 척도는 버튼 5개가 위아래로 늘어서 있었고요. 제목은 "(하트)커플 궁합 테스트(하트)"였습니다.
보는 순간 이런 생각이 들었습니다.
Claude 좀 써본 사용자라면 바로 알아채겠네. '아, 이거 Claude 썼구나.'
AI는 틀리지 않았다
그런데 곰곰이 생각해보면, Claude 입장에서는 틀린 게 없었습니다.
"커플 심리검사 UI 만들어줘"라는 요청에 대해,
커플? → 따뜻하고 로맨틱한 느낌 → 파스텔 컬러 ✓
친근하게? → 이모지 활용 ✓
심리검사? → 문항 나열, 척도 선택 ✓
기능적으로는 완벽한 정답이었습니다.
그런데 왜 저는 화면을 보자마자 "이건 아닌데"라고 느꼈을까요?
몸으로 아는 것들
심리학에 '체화된 인지(Embodied Cognition)'라는 개념이 있습니다. 우리가 머리로만 생각하는 게 아니라, 몸 전체로 세상을 이해한다는 이론이에요.
좋은 UX가 뭔지 정의하라고 하면 말로 설명하기 어렵습니다. 그런데 나쁜 UX를 보면 바로 알아요. "이건 좀 어색한데." 수천 개의 앱을 써본 경험이 몸에 축적되어 있기 때문입니다.
문제는, AI에게는 이 '축적된 감각'이 없다는 겁니다.
Claude는 수많은 텍스트를 학습했지만, 앱을 직접 써본 적은 없습니다. 스크롤의 피로감을 느껴본 적 없고, "이 버튼 배치가 왜 불편하지?"를 경험해본 적 없어요. 결혼을 앞둔 커플이 심리검사를 할 때 어떤 마음 상태인지, 그 무게감을 알 리 없습니다.
그래서 "커플 심리검사"라는 단어만 듣고, 가장 일반적인 연상, 즉 로맨틱하고, 귀엽고, 가벼운 이미지를 따라갔던 겁니다.
목적 없는 손가락
AI는 매우 유능한 실행자입니다. 시키면 합니다. 빠르고 정확하게.
그런데 한 가지 할 수 없는 게 있어요. 그것은 바로 "왜 이것을 만드는가"를 스스로 정하는 것입니다.
'결혼을 결심한 커플이 진지하게 관계를 점검하고 싶어서 우리 프로덕트를 사용할 것이다. 가벼운 궁합 테스트가 아니라, 앞으로 수십 년을 함께할 사람과의 관계를 이해하고 싶은 마음으로 사용할 것이다.' 이런 맥락을 모르면 어떻게 될까요?
짜잔, 아까 보신 것 같은 "아기자기 화려한 커플 테스트"가 나옵니다.
이처럼 AI는 '목적' 없는 손가락 같습니다. 엄청나게 빠르고 정교하게 움직이지만, 어디를 향해야 하는지는 모릅니다. 방향을 정해주는 건 여전히 인간의 몫이에요.
여기서 끝이 아니다
이 경험 이후로, 저는 방식을 완전히 바꿨습니다.
"이거 만들어줘" 대신 "이건 이런 사람들을 위한 거고, 이런 목적이 있어"를 먼저 설명하기 시작했어요. 그랬더니 결과물이 완전히 달라졌습니다.
이 이미지 또한 글 작성을 위해 Claude 에게 부탁해서 얻어온, 실제 서비스와 무관한 샘플입니다.당신의 역할
AI 시대에 사라지는 일자리에 대한 논의가 뜨겁습니다. 그런데 저는 이 경험을 하면서 반대로 생각하게 됐어요.
AI가 아무리 똑똑해져도, 누군가는 "왜 이걸 만드는지", "누구를 위한 것인지", "어떤 감각으로 다가가야 하는지"를 정해줘야 합니다. 세상의 의도를 AI에게 번역해주는 사람이 필요해요.
그게 당신의 역할이 될 수 있습니다!
다음 글에서는 제가 AI에게 '목적'을 말하기 시작하면서 무엇이 달라졌는지 조금 더 상세하게 이야기해볼게요.