논리학자의 통시적인 이해, 아리스토텔레스, 프레게, 괴델.
논리학을 떠올리면 대개 이런 이미지가 먼저 따라온다.
전제, 결론, 명제, 기호. 그리고 ‘정답이 하나뿐인 딱딱한 학문’이라는 인상. 아마도 논리학이기에 생겨난 가장 흔한 오해일 것이다. 그러나 논리학의 역사를 조금만 따라가 보면, 이 학문이 처음부터 완성된 규칙의 집합이 아니었음을 알게 된다. 오히려 논리학은 인간이 어떻게 사고해 왔는지에 대한 한 편의 긴 서사에 가깝다. 이 글에서는 논리학의 주요 전환점들을 통시적 흐름, 즉 시간의 경과에 따라 가볍게 훑어보려 한다. 논리학을 ‘완성된 체계’라기보다 ‘끊임없이 자신을 수정해 온 학문’으로 염두에 두고 읽어도 무방할 것이다.
논리학의 출발점은 놀랍도록 일상적이다.
“왜 그 결론이 나오는가?”
“그 말은 앞의 말과 정말로 연결되는가?”
이 질문을 가장 체계적으로 다룬 인물은 고대 그리스의 아리스토텔레스였다. 그는 인간의 사고가 일정한 형식을 따른다고 보았고, 이를 삼단논법이라는 구조로 정리했다.
모든 인간은 죽는다.
소크라테스는 인간이다.
그러므로 소크라테스는 죽는다.
이 구조에서 중요한 것은 내용이 아니라 형식이다. 전제가 참일 경우, 결론이 거짓이 될 수 없는 구조라는 점이다. 다시 말해, 여기서 문제 되는 것은 사실의 참·거짓이 아니라 추론의 타당성이다. 아리스토텔레스의 업적은 논리학을 단순한 말솜씨나 설득의 기술이 아니라, 사고 형식을 분석하는 학문으로 끌어올렸다는 데 있다. 다만 이 시기의 논리학은 아직 ‘정리의 학문’이라기보다는, 올바른 추론의 모양을 분류하는 틀에 가까웠다. 참과 거짓을 계산하기보다는, 사고가 실패하는 지점을 가려내는 작업이 중심이었다.
논리학이 본격적으로 ‘정리의 학문’이 되기 시작한 것은 훨씬 뒤의 일이다. 19세기에 접어들며 수학자들은 점점 불안해지기 시작했다. 수학의 기초가 직관과 자연어에 과도하게 의존하고 있는 것처럼 보였기 때문이다. 이때 등장한 인물이 고틀로프 프레게다. 그는 논리를 자연언어에서 떼어내어 기호 체계로 완전히 형식화하려 했다.
이 전환은 결정적이었다. 문장은 명제로 바뀌고, 추론은 심리적 사고 과정이 아니라 기호의 조작이 된다. 논리는 더 이상 인간이 실제로 어떻게 생각하는지를 설명하는 학문이 아니라, 어떤 형식 체계가 무엇을 허용하는지를 다루는 학문이 된다. 이 시점부터 논리학자들은 다음과 같은 질문을 던지기 시작한다.
이 체계 안에서 증명 가능한 모든 것은 참인가?
참인 모든 것은 이 체계 안에서 증명 가능한가?
여기서 등장하는 개념이 바로 건전성과 완전성이다.
건전성은 체계가 거짓을 증명하지 않는지를 묻고, 완전성은 체계가 참을 빠뜨리지 않는지를 묻는다. 이 두 질문은 닮아 보이지만 방향은 정반대다. 20세기 초, 1차 논리에 대해 이 두 질문 가운데 하나에 긍정적인 답이 제시된다. 참인 명제는 반드시 증명 가능하다는 완전성 정리다. 이 결과는 논리 체계가 생각보다 강력하다는 희망을 주었다. 형식화된 논리가 진리를 온전히 포착할 수 있을지도 모른다는 기대가 생긴 것이다. 그러나 이 희망은 오래가지 않는다.
아이러니하게도, 이 기대를 무너뜨린 인물 역시 같은 사람이었다. 쿠르트 괴델은 불완전성 정리를 통해 다음과 같은 사실을 보였다. 충분히 강력한 형식 체계 안에는, 참이지만 그 체계 안에서는 증명할 수 없는 명제가 반드시 존재한다는 것이다.
이는 논리학의 실패를 의미하지 않는다. 괴델은 논리를 부정한 것이 아니라, 오히려 논리를 극한까지 밀어붙였다. 그 결과 논리의 한계가 외부의 비판이 아니라 내부 구조에서 드러났을 뿐이다. 논리는 전지전능한 도구가 아니며, 스스로의 모든 참을 책임질 수 있는 체계도 아니다. 바로 이 지점에서 논리학은 단순한 기술을 넘어 철학적 의미를 갖는다. 논리학의 역사는 정답을 생산하는 기계의 역사라기보다, 인간의 사고가 어디까지 도달할 수 있는지를 스스로 점검해 온 과정에 가깝다.