알고리즘(Algorithm): 오아시스에서 온 이름

테크-인문학 사전 4화

Feb 24. 2026

유튜브에선 가끔 어떤 영상이 엄청나게 많이 노출되며 조회수가 급증하는 현상이 있습니다. 이를 두고 우리는 이렇게 표현합니다. "알고리즘의 선택을 받았다"라고. 마치 알고리즘이 어딘가에서 우리를 지켜보다가, 특정 콘텐츠를 집어 올려주는 존재인 것처럼요. 그런데 이 막연하고 거대한 단어의 어원을 거슬러 올라가면, 뜻밖에도 아주 구체적인 것에 도달합니다. 천 이백여 년 전, 중앙아시아의 오아시스 지역에서 태어난 어떤 수학자의 이름이죠.

소련에서 만들었던 알콰리즈미 탄생 1200주년 기념 우표 © muslimheritage.com

무함마드 이븐 무사 알콰리즈미(Muḥammad ibn Mūsā al-Khwārizmī, 780-850 추정). 여기서 '알콰리즈미'는 '콰레즘 출신의 사람'이라는 뜻입니다. 이렇게 이름의 맨 마지막에 붙어 출신지나 혈통을 가리키는 형용사를 아랍어권에선 '니스바(nisba)'라고 부릅니다.

중앙아시아의 아무다리야 강이 아랄해로 흘러 들어가는 삼각주 지대. 동쪽에는 키질쿰 사막, 남쪽에는 카라쿰 사막, 서쪽에는 우스튜르트 고원이 둘러싸고, 오직 강물만이 이 메마른 땅에 생명을 공급하는 곳. 콰레즘이라는 이름의 어원에도 이 지리가 새겨져 있어요. 유력한 해석 중 하나는 고대 페르시아어 Khwar('낮은')와 Zam('땅')의 합성어, 즉 '낮은 땅'이라는 뜻입니다. 실제로 이 지역은 중앙아시아에서 해발 고도가 가장 낮은 곳에 속해요. 그 외에도 '태양이 뜨는 땅'이라는 설, 혹은 '비옥한 땅'으로 보는 설 등이 있는데, 어느 쪽이든 이 이름은 사막 한가운데 강물이 만들어낸 예외적인 녹지, 오아시스 문명의 좌표를 암시합니다.

알콰리즈미가 바그다드에서 활동하기 시작한 것은 820년경. 당시 바그다드는 인구 백만이 넘었다고 전해지는 세계 최대 도시이자 아바스 왕조의 수도였습니다. 그 중심에는 바이트 알히크마, '지혜의 집'이 있었어요. 칼리프 알마문의 후원 아래 외국어 문헌들이 아랍어로 번역되고 종합되던 왕립 학술원 같은 곳이었죠. 알콰리즈미는 이곳에서 여러 저작을 남겼고, 그 중에서도 아래에 소개할 두 권의 책이 이후 수학의 역사에서 엄청난 영향을 주게 되죠.

이름이 명사가 되기까지

그 첫 번째는 방정식 풀이의 체계적 방법을 다룬 《복원과 대비의 계산에 관한 간략한 책》입니다. 여기서 '복원'이라는 단어는 방정식에서 한쪽 항에 있는 음수를 반대쪽으로 옮겨 균형을 맞추는 행위, 그러니까 '이항'의 초기 형태를 가리키는 말이었습니다. 예컨대 x - 3 = 5에서 양변에 3을 더해 x = 8을 만드는 것이죠. 이 개념을 아랍어로는 'al-jabr'(الجبر)라고 발음했고, 이것이 12세기에 라틴어로 번역되며 훗날 '대수학(algebra)'이라는 영어 단어가 되었습니다.

두 번째는 《인도 계산법에 관한 책》이었습니다. 이 '인도 계산법'이 무엇인지, 그리고 이것이 훗날 유럽에 어떤 영향을 주었는지 이해하려면 먼저 유럽에서 성행하고 있던 로마식 계산법에 대해 알아야 합니다. 로마 숫자는 오늘날 우리에게 익숙한 십진 기수법을 사용하지 않아요. V는 어디에 쓰든 항상 5이고, X는 항상 10, C는 항상 100입니다. 숫자를 기록하는 데는 큰 문제가 없었지만, 이 기호들을 가지고 종이 위에서 직접 계산하는 것은 극도로 불편했어요. MCMLXVI(1966)을 LIX(59)로 나누는 걸 종이 위에서 해보라고 하면 거의 불가능에 가깝습니다.

그래서 유럽인들은 숫자를 기록하는 것과 계산하는 것을 분리했어요. 기록은 로마 숫자로, 계산은 주판(abacus)이나 계산판(counting board)으로 했습니다. 계산판은 나무 판 위에 금속 토큰을 열 단위로 배치하는 도구였는데, 사실 이것 자체가 물리적인 형태의 위치 기수법이에요. 열의 단위 칸, 십의 단위 칸, 백의 단위 칸이 나뉘어 있으니까요. 다만 계산 결과를 기록할 때는 다시 로마 숫자로 옮겨 적어야 했습니다.

로마식 계산판의 사용법을 설명하는 영상

반면에 알콰리즈미가 소개한 인도식 계산법에서는 1, 2, 3, 4, 5, 6, 7, 8, 9, 그리고 로마 숫자에는 없었던 0이라는 열 개의 '기호'를 사용하며, 이 기호가 놓이는 자리(위치)에 따라 값이 달라집니다. 3이라는 기호 하나가 어디에 놓이느냐에 따라 30이나 300이 될 수 있는 것입니다. 이것을 십진 위치 기수법이라고 부릅니다. 이 체계의 혁명적인 점은, 계산 도구 없이 숫자 기호만으로 종이 위에서 직접 계산할 수 있다는 것이었습니다. 단순히 새로운 숫자 모양을 소개한 게 아니라, 기록과 계산을 하나의 체계로 통합할 수 있는 방법을 제시한 것이죠.

12세기경 유럽에는 아랍 학문의 물결이 밀려들었고, 이때 알콰리즈미의 산술서도 이 흐름을 타고 라틴어로 번역되었어요. 현존하는 사본 중 하나인 케임브리지 대학 소장 필사본은 이런 문장으로 시작합니다. "Dixit Algorizmi." '알고리즈미가 말하길.' 마치 성경 구절처럼, 권위 있는 저자의 이름을 내세우며 가르침을 전하는 형식이에요. 이 번역서의 제목은 《인도 수에 관한 알고리트미(Algoritmi de numero Indorum)》였습니다. 여기서 Algoritmi는 사람 이름, 알콰리즈미의 라틴어 음역이었어요.

그런데 이 고유명사에 이상한 일이 벌어집니다. 유럽의 학자들이 이 책에 담긴 계산법을 배우고 가르치면서, '알고리스무스(algorismus)'라는 단어가 점차 특정 저자가 아니라 인도식 숫자를 사용하는 계산법 자체를 가리키기 시작한 거예요. 13세기 초 중세 영어에 algorism이라는 형태로 정착할 무렵, 이 단어는 이미 '인도-아라비아 숫자 체계로 계산하는 방법'이라는 보통명사가 되어 있었습니다.

하지만 많은 사람들이 로마식 계산에 익숙해져 있었고, 로마 숫자와 주판을 고수하는 '주판파(abacist)'와, 새로운 인도-아라비아 숫자와 종이 위의 계산법을 지지하는 '알고리즘파(algorist)'의 갈등이 수백년간 지속됐습니다. 1517년 출판된 《Margarita Philosophica》에는 이 대결이 삽화로 그려져 있어요. 한쪽에서는 주판을 튕기고, 다른 쪽에서는 종이에 숫자를 써내려가는 장면. 하지만 상업이 확대되고 회계의 속도가 생명이 된 시대에, 인도-아라비아 숫자의 효율성은 결정적이었습니다. 결국 알고리즘파가 이겼고, '알고리스무스'는 새로운 계산 시대의 이름이 되었어요. 오늘날 우리가 초등학교에서 배우는 세로셈, 즉 숫자를 자릿수에 맞춰 세로로 늘어놓고 올림이나 받아내림을 하는 사칙연산 요령은 이 '알고리즘' 계산법의 직계 후손입니다.

알고리즘파(좌)와 주판파의 대결을 묘사한 삽화. Gregor Reisch, Margarita Philosophica, 1508

여기서 한 겹 더 변형이 일어납니다. 17세기에 이 단어의 철자가 algorismus에서 algorithmus로 바뀌었어요. 아이러니하게도 이 '수정'은 오해에 기반한 것이었습니다. 알고리즘이라는 단어가 그리스어로 '수'를 뜻하는 arithmos에서 온 것이라고 착각한 거예요. 하지만 이 그럴싸한 오해는 결국 정착해버렸고, 철자 변화로 인해 원래 이름의 마지막 흔적마저 가려졌습니다. 알콰리즈미(al-Khwārizmī)에서 알고리트미(Algoritmi)로, 알고리스무스(algorismus)를 거쳐 알고리즘(algorithm)까지. 방정식과 십진기수법을 전해준 수학자와, 그가 살았던 오아시스 도시의 이름은 이제 거의 형태를 알아볼 수 없을 정도로 희미해졌습니다.

기계가 읽는 절차

20세기 초까지도 'algorithm'은 여전히 산술, 특히 인도-아라비아 숫자 체계를 이용한 계산법이라는 의미에 머물러 있었습니다. 이 단어가 지금 우리가 아는 의미, 즉 '유한한 단계의 문제 풀이 절차'로 격상된 것은 수학 기초론이라는 전혀 다른 맥락에서였어요.

1928년, 독일의 수학자 다비트 힐베르트가 한 가지 대담한 질문을 던집니다. 독일어로 'Entscheidungsproblem', 결정 문제라고 불린 이 질문은, 쉽게 말하면 이런 거예요. "수학적 명제를 넣으면 "참" 또는 "거짓"을 판별할 수 있는 만능 기계를 만들 수 있는가?" 힐베르트는 가능하다고 믿었습니다. 1930년에도 그는 "풀 수 없는 문제란 존재하지 않는다"고 공언했어요.

그런데 이 질문에 답하려면 먼저 풀어야 할 선행 문제가 있었습니다. '정해진 절차'란 대체 무엇인가? 직관적으로는 누구나 알 것 같지만, 수학적으로는 아무도 정의하지 못하고 있었어요. '계산 가능하다'는 것, '절차를 따른다'는 것이 정확히 무엇을 의미하는지 말이에요.

1936년, 스물네 살의 영국 수학자 앨런 튜링이 이 질문에 정면으로 답합니다. 그의 논문 《계산 가능한 수와 결정 문제에 대한 응용에 관하여》는 결정 문제의 답을 "아니오"라고 증명하는 동시에, '절차'라는 모호한 개념에 처음으로 엄밀한 정의를 부여했어요. 그 도구가 바로 '튜링 머신'이라는 가상의 장치입니다.

앨런 튜링과 그의 논문 《계산 가능한 수와 결정 문제에 대한 응용에 관하여》의 표지. © deliveryimages.acm.org

튜링 머신의 구조는 놀라울 정도로 단순합니다. 무한히 긴 테이프가 있고, 그 위에 칸이 나뉘어 있어요. 기계는 한 번에 한 칸만 읽을 수 있습니다. 칸에 적힌 기호를 읽고, 미리 정해진 규칙표에 따라 기호를 쓰거나 지우고, 왼쪽 또는 오른쪽으로 한 칸 이동합니다. 그게 전부예요. 읽고, 쓰고, 움직이고. 이 세 가지뿐인 장치가 사실상 모든 계산 가능한 것을 계산할 수 있다는 게 핵심 통찰이었습니다. 어떤 문제든, 유한한 단계의 규칙으로 풀 수 있다면, 이 단순한 기계로 풀 수 있다는 뜻이니까요.

바로 이 지점에서 'algorithm'이라는 단어의 의미가 결정적으로 바뀝니다. 튜링 이전에 알고리즘이란 사람이 종이 위에서 손으로 수행하는 계산 절차였어요. 알콰리즈미의 산술서가 전제한 것도 바로 그런 인간 계산자, 즉 절차를 이해하고, 손으로 수행하며, 결과를 검증하는 사람이었습니다. 그러나 튜링 이후에 알고리즘이란 기계가 실행하는 절차가 됩니다. 기계는 절차를 이해하지 않아요. 왜 이 단계 다음에 저 단계가 오는지 모릅니다. 그냥 규칙표에 적힌 대로 따를 뿐이에요. 이해 없이 실행만 하는 겁니다. 알고리즘의 주어가 '사람'에서 '기계'로 바뀐 결정적 지점이에요.

이 전환은 단순히 같은 절차를 사람 대신 기계가 수행하게 된 것이 아닙니다. 알고리즘이라는 개념의 존재론적 지위 자체가 달라진 거예요. 알콰리즈미의 알고리즘은 인간의 이해를 전제했고, 따라서 투명했습니다. 왜 이렇게 하는지 설명할 수 있었어요. 그러나 튜링의 알고리즘은 이해를 요구하지 않습니다. 작동하기만 하면 됩니다. 이 차이가 이후에 벌어질 모든 일의 씨앗이에요.

이후의 역사는 빠르게 진행됩니다. 알고리즘은 프로그래밍 언어 안으로 들어갔고, 코드 안에서 작동하며, 코드 바깥의 우리가 볼 수 없는 것이 되었어요.

알고리즘 가라사대

대출 심사 결과를 알리는 메일이 도착합니다. "귀하의 신청은 내부 평가 기준에 따라 승인되지 않았습니다." 이의를 제기하고 싶지만 전화를 걸어 물어봐도 상담원은 "시스템에서 그렇게 나왔습니다"라고만 답해주겠죠. 결정의 주어는 있는데, 그 주어가 가리키는 실체가 불분명합니다.

원래 의미와의 거리를 측정해 봅시다. 알콰리즈미의 산술서는 철저히 투명한 절차의 기록이었어요. 상속 재산의 분할, 토지 면적의 측량, 상거래 대금의 정산. 그가 서술한 모든 계산은 독자가 직접 따라 할 수 있도록 단계별로 풀어져 있었고, 기호 대신 산문으로 쓰여 있었습니다. 절차는 투명했고, 실행자는 이해했으며, 결과에 대한 책임은 계산하는 사람에게 있었어요. 이것이 'algorismus'라는 단어가 원래 품고 있던 약속입니다.

현대의 알고리즘은 이 약속의 거의 모든 항목을 뒤집어 놓았어요. 절차는 불투명하고, 사용자는 이해하지 못하며, 결과에 대한 책임의 소재가 불분명합니다. 추천 알고리즘이 특정 콘텐츠를 반복적으로 노출할 때, '알고리즘이 한 거야'라는 문장이 성립하려면, 알고리즘이 일종의 행위자여야 합니다. 그런데 이 행위자에게는 얼굴이 없어요.

Camillo Miola, The Oracle (1880) © Britannica

이 구조는 고대의 한 제도를 떠올리게 합니다. 델포이의 신탁. 그리스 도시국가들이 전쟁이나 법률 같은 중대한 결정 앞에서 찾아갔던 곳이죠. 아폴론의 뜻을 전하는 여사제 피티아의 말은 신의 뜻으로 간주되었지만, 그 답이 정확히 어디서 왔는지는 의도적으로 모호하게 유지되었습니다. 신의 뜻인지, 피티아 개인의 판단인지, 신관의 편집인지. 바로 이 모호함이 신탁의 권위를 지탱했어요. 현대의 알고리즘이 획득한 지위는 이 구조와 닮아 있습니다. 결과는 제시되지만 과정은 보이지 않고, 권위는 작동하지만 그 원천은 특정할 수 없어요.

다만 결정적 차이가 하나 있습니다. 신탁에는 적어도 '아폴론'이라는 이름이 있었어요. 그리고 알고리즘에도 한때 이름이 있었습니다. 12세기 케임브리지 사본의 첫 문장. "Dixit Algorizmi." 알고리즈미가 말하길. 콰레즘 출신의 무함마드 이븐 무사. 그의 목소리는 아랍어에서 라틴어로 옮겨지는 과정에서 변형되었지만, 적어도 '누군가가 말하고 있다'는 사실은 문장 안에 보존되어 있었습니다.

천 년이 지난 지금, 같은 구조의 문장이 반복됩니다. "The algorithm says." 알고리즘이 말하길. 그런데 이번에는 말하는 자의 얼굴이 없어요. 코드를 작성한 엔지니어도, 데이터를 생산한 사용자도, 배포를 결정한 기업도 이 문장의 주어 뒤에 숨어 있습니다. 두 문장 사이에서 변하지 않은 것은 '말하길'이라는 동사가 만들어내는 권위의 구조예요. 사라진 것은 말하는 자의 이름, 그리고 그 이름이 가리키던 땅.

1989년과 2014년에 찍힌 아랄 해. NASA / Collage by Producercunningham

알콰리즈미의 고향 콰레즘 북쪽, 아무다리야 강이 흘러 들어가던 아랄해는 한때 세계에서 네 번째로 큰 호수였지만, 소비에트 시대의 관개 사업으로 수면의 대부분을 잃었습니다. 사라진 오아시스가 만든 문명, 그 문명이 키운 학자, 그 학자의 이름이 남긴 단어 하나가 지금 수십억 개의 화면 위에서 쉬지 않고 말하고 있어요. 다만 그 단어는 자기가 어디서 왔는지 더 이상 기억하지 못합니다.