하노이의 탑 : 한 수 뒤로 물러나야 하는 순간
배수정 인지심리학 박사님 / 심리학관
일이 잘 안 풀릴 때, 저도 모르게 하노이의 탑이 떠오릅니다. 예전에 심리학 개론 강의를 맡으면서 파보게 된 내용인데, 꽤 오래 뇌리에 남아 있습니다.
위키백과 : 하노이의 탑원반을 목표 기둥으로 옮기려면, 한 수 뒤로 물러나야 하는 순간이 반드시 옵니다. 목표에서 멀어지는 것처럼 보이는 그 이동이 없으면, 퍼즐은 절대 풀리지 않습니다.
인지심리학에서는 이 퍼즐을 문제 해결과 실행기능 연구에 꾸준히 써왔습니다. 1883년 프랑스 수학자 에두아르 뤼카가 만든 이후, 계획 능력, 작업기억, 인지적 유연성을 측정하는 도구로 자리 잡았습니다.
그런데 이 퍼즐이 어려운 진짜 이유는 따로 있습니다.
사람은 문제를 풀 때 hill climbing이라는 전략을 자연스럽게 씁니다. 매 순간 목표에 가장 가까워 보이는 선택을 하는 거죠. 원반 두 개를 목표 기둥으로 옮기면 “잘 가고 있다”고 느낍니다.
그런데 하노이의 탑에서는 이 전략이 막히는 지점이 옵니다. 목표에서 멀어지는 이동, 즉 반직관적 이동(counterintuitive move)을 해야만 다음 단계로 넘어갈 수 있습니다. 목표 기둥 위의 원반을 다시 다른 기둥으로 옮겨야 하는 순간이요.
Gary Klein(2021)이 Psychology Today에 쓴 글에서 이 장면을 정확히 짚었습니다. 퍼즐을 성공적으로 풀고 있는 사람들조차, 중간에 임시 기둥에 탑을 쌓는 과정에서 “이건 아닌 것 같은데”라고 느꼈다는 겁니다.
올바른 경로 위에 있으면서도,
자기가 틀리고 있다고 생각한 거죠.
여기서 한 가지 더 생각해볼 지점이 있습니다.
Goel & Grafman(1995)은 전두엽 손상 환자 20명에게 하노이의 탑을 풀게 했습니다. 환자들은 정상 대조군과 같은 전략을 사용했는데, 성공률은 유의하게 낮았습니다.
연구진은 이걸 ‘계획 능력’의 문제가 아니라 목표-하위목표 간 갈등을 해결하지 못하는 문제라고 해석했습니다. 눈앞의 목표(원반을 목표 기둥으로 보내기)와 하위목표(그러려면 먼저 다른 원반을 치워야 함)가 충돌할 때, 눈앞의 목표를 억제하지 못하는 거죠.
이건 다른 심리학 실험에서도 반복적으로 확인되는 패턴입니다. 예를 들어 규칙이 바뀌었는데 이전 규칙대로 계속 카드를 분류한다거나(위스콘신 카드 분류 과제), “빨강”이라는 글자가 파란색으로 쓰여 있을 때 색깔 대신 글자를 읽어버리는 것(스트룹 과제)처럼요.
당장 맞아 보이는 반응을 억제하고, 덜 직관적인 대안을 선택하는 능력, 그것이 전두엽이 하는 일 중 하나입니다.
Kotovsky, Hayes & Simon(1985)은 여기서 한 걸음 더 나갔습니다.
하노이의 탑과 본질적으로 같은 퍼즐인데 겉모습만 다르게 바꾼 여러 버전을 만들었습니다. 같은 퍼즐인데, 어떤 버전은 다른 버전보다 풀이 시간이 16배나 걸렸습니다.
차이를 만든 건
“뒤로 가야 하는 순간”의 빈도였습니다.
목표에서 멀어지는 선택을 자주 해야 하는 버전일수록, 사람들의 머릿속이 과부하에 걸렸습니다. 규칙을 기억하면서 동시에 직관에 반하는 선택을 실행하는 건, 뇌에게 꽤 비싼 작업이었던 거죠.
그런데 “뒤로 물러나는 게 때로는 정답이다”라고 말하기는 쉽습니다. 문제는, 진짜 틀린 이동과 맞기 위해 틀린 이동을 어떻게 구분하느냐는 겁니다.
하노이의 탑에서는 이 구분이 비교적 명확합니다. 하위목표가 있느냐 없느냐의 차이입니다. “큰 원반을 옮기려면 먼저 위의 작은 원반들을 치워야 한다”는 하위목표가 설정되어 있으면, 목표 기둥에서 원반을 빼는 건 후퇴가 아니라 경로의 일부입니다. 반면 하위목표 없이 “일단 뭔가 해보자”로 움직이면, 그건 탐색적 배회에 가깝습니다.
다만 현실에서는 이 구분이 훨씬 흐릿합니다.
하노이의 탑은 정답 경로가 정해진 문제이고, 현실의 문제는 대부분 하위목표 자체가 맞는지도 불확실하니까요. 그래도 하나의 점검 기준은 있을 수 있습니다.
“지금 이 후퇴가 어디로 연결되는가”를 말로 설명할 수 있느냐. 설명할 수 있으면 전략적 후퇴일 가능성이 높고, 설명할 수 없으면 그냥 막혀서 움직이고 있을 가능성이 높습니다.
돌아보면, 이게 일할 때도 비슷한 것 같습니다. 시스템을 새로 만들 때, 이미 어느 정도 작동하는 구조를 허물고 더 낮은 레이어부터 다시 쌓아야 할 때가 있습니다.
AI로 무언가를 만들 때도요. 뭔가 계속 쌓이고 있다는 느낌이 좋아서, 한 수 뒤로 놓는 걸 자꾸 미루게 됩니다. 지금 이 구조를 허물면 반나절 전으로 돌아가는 것 같으니까요.
그게 hill climbing의 함정인 것 같습니다. “지금보다 나빠 보이는 선택”을 하는 게 본능적으로 어렵습니다. 그럴 때마다 머릿속으로 하노이의 탑을 떠올립니다.
우리는 보통
진전을 “앞으로 나아가는 것”으로
측정합니다.
그런데 어쩌면,
멈춰 서서
한 수 물러놓는 순간이야말로
문제가 풀리기 시작하는
지점일 수 있습니다.
AI도입 이후 개선책을 제시하려다보면 한 수 뒤로 가자는 이야기가 나오게 될 수 밖에 없더라구요. 이미 있는 제도와 구조를 허물어야 한다는 것이 핵심이니까요.
지금 막혀 있는 그 문제,
혹시
앞으로만 가려고 해서
벗어나지 못하는건 아닐까요?
참고문헌
Goel, V., & Grafman, J. (1995). Are the frontal lobes implicated in “planning” functions? Interpreting data from the Tower of Hanoi. Neuropsychologia, 33(5), 623–642.
Kotovsky, K., Hayes, J.R., & Simon, H.A. (1985). Why are some problems hard? Evidence from Tower of Hanoi. Cognitive Psychology, 17(2), 248–294.
**********
배수정 인지심리학 박사님
SK Research Fellow
2026.03.21.