AI '장미 아래'의 시대: 기술 중세주의의 부활
알렉산더 카프의 '기술 공화국', 계몽의 언어로 포장된 반계몽의 청사진
지난날의 장미는 이제 그 이름뿐, 우리에게 남은 것은 그 덧없는 이름뿐.
움베르토 에코, 《장미의 이름》
<움베르토 에코의 "장미의 이름"과 알렉산더 카프의 "기술 공화국">도서관이 불타고 있다
1327년, 한 수도원의 도서관이 불길에 휩싸인다. 눈먼 사서 호르헤는 아리스토텔레스의 《시학》 제2권—웃음에 관한 유일본—을 자신의 입으로 삼키며 함께 타오른다. 움베르토 에코의 《장미의 이름》이 그리는 이 종말적 장면은 단순한 픽션이 아니다. 지식을 독점하려는 자와, 그 지식을 해방하려는 자 사이의 영원한 투쟁에 대한 알레고리다.
에코가 기호학자로서 평생 탐구한 것은 "이름"과 "실체" 사이의 긴장이었다. 장미라는 이름이 남았을 때, 장미의 실체는 어디에 있는가? 진리라는 이름을 독점한 자가 진리 자체를 손에 쥔 것인가?
오늘날 거대 언어 모델이 인간의 언어를 학습하고, AI 기업들이 "지능"이라는 이름을 독점하려는 시대에, 이 질문은 새로운 긴박함을 얻는다. 우리는 다시 한번 도서관이 불타는 것을 목격하고 있는지도 모른다. 다만 이번에는 불길이 보이지 않을 뿐이다.
새로운 신정(神政): 기술 공화주의자들
2025년, 팔란티어의 CEO 알렉산더 카프는 《기술 공화국(The Technological Republic)》이라는 책을 출간했다. 하버마스의 제자였던 철학 박사이자 180억 달러의 순자산을 가진 그는, 실리콘밸리 엘리트들이 "서구 문명의 수호자"로서 AI 무기화를 위한 개발에 헌신해야 한다고 주장한다. 엔지니어들이 "광고 알고리즘 같은 사소한 일"을 버리고 국가 방위에 복무해야 한다는 것이다.
비평가들은 이를 "군사화된 기술 과두제의 청사진"이라 부른다. 카프와 공저자는 시진핑의 권력 집중—경쟁자를 제거하고 통치를 확장한—을 효과적 거버넌스의 모델로 제시하기까지 한다. 민주주의의 비효율성을 우회하는 "더 효율적인 모델"이 필요하다는 것이다. 이 비전에서 창업자는 군주가 되고, 엔지니어는 시민이 된다.
《장미의 이름》의 호르헤가 떠오르지 않는가? 호르헤 역시 자신을 진리의 수호자로 여겼다. 그는 웃음이 신앙을 해체할 것을 두려워했고, 아리스토텔레스의 책에 독을 발라 읽는 자를 죽였다. 카프와 동료들도 "서구의 가치"를 수호한다고 말하지만, 실제로 수호하려는 것은 기술 권력에 대한 자신들의 독점권이다.
장미의 의미를 결정하는 자: LLM의 해석 권력
그러나 기술 공화주의자들의 문제만이 아니다. LLM 기술 자체의 본성이 이미 중세적 구조를 내장하고 있다.
에코가 《장미의 이름》에서 천착한 것은 기호와 해석의 문제였다. 중세 수도원에서 라틴어 성경의 한 구절이 무엇을 "의미하는지"를 결정하는 것은 교회의 권한이었다. 같은 문장도 교부들의 해석에 따라 정통이 되거나 이단이 될 수 있었다. 의미의 결정권, 이것이 중세 교회 권력의 핵심이었다.
거대 언어 모델은 바로 이 "의미 결정"의 기계다. LLM은 수조 개의 토큰으로 훈련되어 단어 사이의 의미론적 관계를 학습한다. "장미"라는 단어가 "아름다움"과 가까운지 "위험"과 가까운지, "사랑"을 의미하는지 "비밀"을 의미하는지, 이 모든 것이 훈련 데이터와 알고리즘에 의해 결정된다. 사용자가 "장미"를 입력하면, 모델은 이미 결정된 의미 공간 안에서 응답을 생성한다.
문제는 이 의미 공간이 누구에 의해, 어떤 데이터로 구성되었는지 우리가 알 수 없다는 것이다. 어떤 텍스트가 포함되고 어떤 텍스트가 배제되었는지, 어떤 관점이 가중치를 받고 어떤 관점이 주변화되었는지. 연구에 따르면 LLM 훈련 데이터는 영어권, 특히 서구적 관점에 편향되어 있다. 동일한 개념도 언어에 따라 다른 의미 공간에 배치된다. 그러나 사용자는 이 편향을 인식하지 못한 채 AI의 답변을 "객관적 정보"로 받아들인다.
중세인들이 라틴어 미사를 이해하지 못하면서도 신의 말씀으로 받아들였듯이, 현대인은 알고리즘의 작동을 이해하지 못하면서 그 출력을 진리로 받아들인다. 다만 결정적 차이가 있다. 중세인들은 자신이 이해하지 못한다는 것을 알았다. 오늘날 LLM은 유창한 자연어로 응답하기 때문에, 우리는 우리가 이해하고 있다고 착각한다. 그러나 실제로 우리가 받는 것은 이미 해석된 의미, 이미 결정된 관점이다. 어떤 학자는 이를 "데이터 사제계급"이라 불렀다. 데이터 과학의 불가해한 비밀을 통해 새로운 사제단이 인간 인식 너머의 숨겨진 현실 층위를 들여다본다는 것이다.
에코의 소설에서 호르헤가 두려워한 것은 아리스토텔레스의 희극론이 교회의 해석 권위에 균열을 내는 것이었다. 오늘날 LLM은 정반대 방향으로 작동한다. 다양한 해석의 가능성을 열어주는 것이 아니라, 하나의 매끄러운 답변으로 수렴시킨다. 질문의 복잡성, 관점의 다양성, 해석의 갈등, 이 모든 것이 단일한 출력으로 평준화된다. 의미의 다성성(polyphony)이 단성성(monophony)으로 축소되는 것.
그러나 해석 권력은 그 자체로 끝나지 않는다. 권력은 행사될 때 비로소 완성된다.
해석에서 행동으로: 의미가 무기가 될 때
《장미의 이름》에서 호르헤는 아리스토텔레스의 희극론에 독을 발랐다. 그의 논리는 단순했다. 웃음은 질문을 낳고, 질문은 권위를 흔든다. "웃음은 두려움을 죽인다. 두려움이 없으면 신앙도 없다." 그래서 그는 읽는 자를 죽였다. 해석의 독점을 지키기 위해. 그러나 호르헤는 책 한 권에만 독을 바를 수 있었다. 한 번에 한 사람만 죽일 수 있었다. 오늘날 기술 공화주의자들의 도구는 다르다.
LLM이 "장미"의 의미를 결정하는 것은 언어적 차원에 머물지 않는다. 같은 기술이 "위협"의 의미를 결정하고, "의심스러운 행동"의 의미를 결정하고, "적"의 의미를 결정한다. 팔란티어의 시스템은 이 의미들을 기반으로 사람을 분류한다. ICE는 이 분류를 기반으로 이민자를 추적한다. 군은 이 분류를 기반으로 드론 공격 목표를 선정한다. 의미의 결정이 분류가 되고, 분류가 타겟팅이 되고, 타겟팅이 행동이 된다.
2025년 2월, 카프는 투자자 콜에서 말했다. "팔란티어는 필요하다면, 적을 겁주고, 때로는 죽이기 위해 존재합니다." 이것은 과장이 아니다. 의미를 결정하는 권력과 그 의미에 따라 행동하는 권력이 같은 손에 있을 때, 해석은 곧 심판이 된다.
에코는 윌리엄 수사의 입을 빌려 경고했다. "진리를 위해 죽을 준비가 된 자들을 두려워하라. 그들은 대개 많은 다른 사람들을 자기보다 먼저 죽게 만든다." 호르헤는 도서관을 불태웠다. 기술 공화주의자들이 "서구를 구한다"는 확신으로 무엇을 불태울지, 그 과정은 장밋빛 언어 아래 숨겨져 있다.
"Sub Rosa": 장미 아래에서 속삭이는 것들
라틴어 "Sub rosa"는 "장미 아래에서"라는 뜻으로, 비밀리에 행해지는 일을 가리킨다. 고대 로마에서 천장에 장미를 매달아 두면 그 아래에서 나눈 대화는 비밀로 지켜야 했다. 장미는 침묵의 신 하르포크라테스에게 바쳐진 꽃이었다. 중세 고해성사실에도 장미가 새겨졌다. 장미 아래에서 고백된 것은 장미 아래에 묻힌다.
에코가 《장미의 이름》이라는 제목을 선택한 것은 이 이중성 때문이다. 장미는 아름다움과 이상을 상징하면서 동시에 가시와 비밀을 품는다. 장미의 이름은 말해지지만, 장미의 실체는 숨겨진다.
기술 공화주의자들의 언어도 정확히 이 구조를 따른다. 대중에게는 "서구 문명의 수호", "자유 세계의 방어", "민주주의를 위한 기술"이라는 장밋빛 수사가 제공된다. 카프는 팔란티어를 "반권위주의 기업"이라 부른다. 그러나 장미 아래에서 실제로 추구되는 것은 무엇인가?
숨겨진 것들의 목록은 길다. LLM의 훈련 데이터—어떤 텍스트가 포함되고 배제되었는지, 어떤 가중치가 적용되었는지—는 "영업 비밀"로 봉인된다. 알고리즘의 의사결정 과정—왜 이 사람이 "위협"으로 분류되었는지, 왜 저 사람이 "의심스럽다"고 판단되었는지—은 "국가 안보"의 이름으로 비공개된다. 시스템의 오류와 그로 인한 피해—잘못된 분류로 구금된 사람들, 오판으로 타격된 목표들—는 "운영상 기밀"로 묻힌다. 한 비평가의 말처럼, "팔란티어는 국가에 봉사하는 게 아니라, 국가를 흡수하고 있다." 그러나 그 흡수의 과정 자체가 장미 아래에서 진행된다.
에코의 소설에서 도서관이 불탄 후, 늙은 아드소는 폐허로 돌아가 잿더미에서 양피지 조각들을 모은다. 라틴어 단어 몇 개, 문장의 파편들, 삽화의 일부. 그는 이 조각들을 평생 간직하며 의미를 찾으려 하지만, 전체 진리를 복원할 수는 없다. 남은 것은 "덧없는 이름들"뿐이다.
오늘날 우리가 기술 권력에 대해 아는 것도 이와 같다. 내부고발자의 증언, 유출된 문서, 소송 과정에서 드러난 단편들, 탐사 보도가 파헤친 조각들. 에드워드 스노든이 공개한 것, 프랜시스 하우겐이 폭로한 것, 이름 없는 엔지니어들이 익명으로 흘린 것. 이 조각들로 우리는 윤곽을 추측하지만, 완전한 그림은 여전히 장미 아래에 숨겨져 있다.
그러나 아드소가 조각들을 모았듯이, 질문하는 자들은 조각들을 모은다. 완전한 복원이 불가능하더라도, 조각들은 증거가 된다. 무언가가 숨겨져 있다는 것 자체가, 물어야 할 질문이 있다는 증거다.
장미는 이름으로 남는다
조각을 모으는 것은 질문의 시작이다.
에코의 소설에서 윌리엄 수사는 미궁 같은 도서관의 구조를 추론으로 풀어나간다. 그는 완전한 지도를 가지고 있지 않았다. 단서들, 모순들, 죽은 수도사들의 흔적. 그 조각들을 모아 질문을 던졌다. 왜 이 책들이 숨겨져 있는가? 누가 무엇을 두려워하는가?
오늘날에도 같은 방식으로 일하는 사람들이 있다. AI 윤리 연구자들, 알고리즘 감사자들, 탐사 보도 기자들. 그들은 기술 공화주의자들과 정반대 방향에서 질문한다. "어떻게 더 강력한 AI를 만들 것인가"가 아니라 "이 시스템은 누구에게 복무하는가", "이 결정에 누가 책임지는가", "장미 아래에 무엇이 숨겨져 있는가". 그들의 작업은 양피지 조각을 모으는 일이다. 완전한 그림을 복원할 수는 없더라도, 질문 자체가 권력에 균열을 낸다.
칸트는 계몽을 "인간이 스스로 초래한 미성숙으로부터의 탈출"이라 정의했다. "Sapere aude"—스스로 생각할 용기를 가져라. 기술 공화주의자들이 제안하는 것은 정반대다. 대중의 판단을 불신하고, "엔지니어링 마인드셋"을 가진 엘리트가 통치해야 한다고 주장한다. 이것은 칸트적 의미에서 반계몽이다. 다만 미신이 아니라 "효율"과 "안보"의 언어로 포장되어 있을 뿐이다.
LLM 기술도 이 반계몽에 봉사할 수 있다. 스스로 해석하고 질문하는 대신, AI에게 "정답"을 구하는 습관이 자리 잡을 때, 우리는 자발적 미성숙으로 회귀한다. 중세인이 사제에게 성경의 의미를 물었듯이, 현대인은 챗봇에게 세계의 의미를 묻는다. 그러나 에코가 《장미의 이름》을 통해 보여준 것은 이것이다. 진리를 독점하려는 시도는 결국 진리 자체를 파괴한다. 호르헤는 지식을 지키려다 도서관 전체를 불태웠다.
소설의 마지막 문장 "Stat rosa pristina nomine"(지난날의 장미는 이제 그 이름뿐)는 허무주의적 선언이 아니다. 에코 자신이 밝혔듯이, 언어는 존재하지 않는 것에 대해서도 말할 수 있다. 도서관이 불탔지만 언어는 남는다. 호르헤가 책을 삼켰지만 웃음의 가능성은 사라지지 않는다. 중세의 라틴어 독점이 인쇄술과 번역으로 무너졌듯이, 기술 권력의 불투명성도 질문 앞에서 영원할 수 없다.
AI 시대에 필요한 것은 기술의 거부가 아니다. LLM이 제공하는 답변이 "하나의 해석"일 뿐임을 인식하는 것. "서구의 수호"라는 이름 아래 무엇이 실제로 행해지는지 묻는 것. 장미 아래에 숨겨진 것을 드러내려는 시도를 멈추지 않는 것.
기술 공화주의자들이 새로운 사제 계급을 자처하고, 알고리즘이 새로운 교리가 되는 시대에, 우리는 물어야 한다. 누가 장미의 의미를 결정하는가? 그 해석에 이의를 제기할 권리는 누구에게 있는가? 그리고 무엇보다, 웃을 권리—질문하고, 의심하고, 다르게 해석할 권리—는 누구에게 있는가?
장미는 시들어도, 질문은 남는다.
참고: 움베르토 에코, 《장미의 이름》(1980); Alexander Karp & Nicholas Zamiska, 《The Technological Republic》(2025); 칸트, 〈계몽이란 무엇인가에 대한 답변〉(1784)
