수학문제를 푼 클로드, 논문을 쓴 사람
2월 말, X(트위터)에서 특이한 포스트가 하나 바이럴됐다.
조회수 120만. 주제는 AI가 수학 문제를 푼 것. 그런데 그게 특별했던 이유는 문제를 푼 AI 때문이 아니라, 그 풀이를 보고 논문을 쓴 사람 때문이었다.
도널드 크누스(Donald Knuth). 88세. 컴퓨터 과학의 살아있는 전설.
크누스를 모른다면 이렇게 생각하면 된다. 코딩을 배우는 사람이라면 누구나 한 번쯤 만나는 알고리즘 교과서 "The Art of Computer Programming(TAOCP)"을 지금도 쓰고 있는 사람. 수십 년째. 아직 완성을 못 했다. 그만큼 방대하다. 이 사람이 AI의 풀이를 보고 직접 논문을 썼다.
문제가 뭔지부터 설명해야겠다.
수학을 몰라도 이해할 수 있게 설명해 보겠다. 격자 구조를 상상해 보자. 4×4×4짜리 3차원 정육면체. 64개의 점이 있다. 이 점들을 이어서 경로를 만들되, 모든 점을 딱 한 번씩만 지나고, 출발점으로 돌아오는 경로. 이걸 해밀턴 순환(Hamiltonian cycle)이라고 한다.
문제는, 이 경로를 단 하나가 아니라 여러 개로 쪼개는 것이다. 정확히는, 64개의 엣지(점과 점을 잇는 선)가 서로 겹치지 않는 12개의 완전한 순환 경로로 분해될 수 있는가. 수학자들이 가능할 것 같다고 추측은 했지만, 실제 해를 찾은 사람은 없었다.
크누스가 이 문제를 Claude에게 던졌다.
Claude는 즉각 정답을 내놓지 않았다.
첫 번째 시도가 막히면 전략을 바꿨다. 두 번째가 막히면 또 방향을 틀었다. 이걸 31번 반복했다. 약 1시간. 수학 시험에서 답을 모르면 공식을 바꿔보고, 다른 접근으로 시도해 보는 것처럼.
흥미로운 건 그 과정에서 생긴 일이다. Claude는 스스로 특정 패턴에 이름을 붙이기 시작했다. "serpentine 패턴"이라고. 뱀처럼 구불구불 이동하는 방식으로 격자를 통과하면 막히지 않는다는 걸 탐색 중에 발견한 거다. 이 패턴을 바탕으로 결국 해를 찾아냈다.
나중에 밝혀진 것: 그 패턴은 이미 수학에서 알려진 개념이었다. "그레이 코드(Gray code)"라고, 한 번에 한 비트씩만 바뀌는 이진수 열 구조. Claude는 그걸 몰랐다. 그냥 스스로 발견하고 이름을 붙인 것이다.
크누스는 이 풀이 과정을 보고 직접 검토했다. 2026년 2월 28일 자로 "Claude's Cycles"라는 논문을 발표했다. (출처)
여기서 그냥 "AI가 해냈다"로 끝내면 정직하지 않다.
크누스의 논문에서 Claude가 찾은 건 760개의 해 중 단 하나였다. 그리고 그 해가 실제로 유효하다는 수학적 증명은 Claude가 한 게 아니다. 크누스가 직접 했다. AI는 해를 탐색하고 찾았지만, 그게 왜 맞는지 설명하고 검증한 건 사람이었다.
글쎄. 그 답은 창의성을 어떻게 정의하는지에 달려 있을 것이다.
아무튼 serpentine 패턴을 스스로 발견하고 이름 붙인 건 — 그게 이미 Gray code라는 개념이 있었다 해도 — 흥미롭다. 막혔을 때 전략을 바꾸는 것도, 단순히 데이터베이스를 뒤지는 것처럼 보이지는 않는다.
그런데 다른 시각도 있다. 그 31번의 시도는 어쩌면 무작위적인 탐색이었을 수도 있다. serpentine 패턴을 "발견"한 게 아니라, 우연히 거기 도달하고 그걸 사후적으로 이름 붙인 것일 수도 있다. 인간의 눈에 창의적으로 보이는 것과, 실제로 창의적인 것은 다를 수 있다.
지난번 ChatGPT가 어떻게 작동하는지 쓴 글에서 "확률적 앵무새"라는 표현을 썼다. 다음 단어를 예측하는 시스템이 창의적 탐색을 한다고 볼 수 있는가. 이 질문은 아직 열려 있다.
크누스가 논문을 쓴 건 AI가 창의적이기 때문이 아니라, 풀이 과정이 분석할 가치가 있다고 판단했기 때문일 것이다. 그 판단 자체가 의미 있는 신호다.
그리고 나는 그걸로 충분하다고 생각한다. 유용성 측면에서. 아직은.
AI가 우리 커리어를 어떻게 바꾸고 있을까요? 실리콘밸리 현지에서 직접 보고 느낀 이야기를 매주 전하는 레터를 준비하고 있습니다. 무료입니다. 곧 찾아올게요. → 무료로 미리 구독하기