17. [수학 논리] 러셀의 패러독스
자기업급으로 만들어지는 거짓말쟁이 패러독스를 살펴본다
앞에서 이야기한 무능한 노총각의 말은 “세상에 예외 없는 법칙은 없다”는 말을 생각나게 합니다. ‘예외 없는 법칙은 없다’는 법칙이 사실이라면, 그 법칙의 예외도 있을 거 아닙니까? 그럼, 그 법칙은 사실이 아닌 것이 되죠.
이것은 논리학자들이 이야기하는 거짓말쟁이 패러독스와 같은 것입니다. 2,500년 전에 어떤 철학자가 이런 말을 했다고 합니다.
“나는 거짓말쟁이다.”
그의 말을 들은 친구들은 이렇게 생각했습니다.
“만약, 저 사람이 거짓말쟁이라면 그의 말은 모두 거짓이기 때문에 그가 자신을 거짓말쟁이라고 한 것은 거짓이다. 따라서 그는 진실을 말하는 사람인 거다. 만약, 그가 진실을 말하는 사람이라면 자신을 거짓말쟁이라고 한 것이 진실이므로 그는 거짓말쟁이다.”
그러니까, 그가 거짓말쟁이라고 가정하면 그는 진실을 말하는 사람이 되고 그가 진실을 말하는 사람이라고 생각하면 그는 거짓말쟁이가 되는 겁니다. 이건 무엇인가 잘못된 상황이죠. 이런 논리적인 오류를 패러독스라고 하고, 지금의 패러독스를 특별히 거짓말쟁이 패러독스라고 합니다. 거짓말쟁이 패러독스와 같은 것을 몇 개 살펴보면 다음과 같습니다.
1. “이 문장은 거짓이다.”
이 문장의 참, 거짓을 따져볼까요?
만약, 이 문장이 참이라면 이 문장에서의 주장대로 이 문장은 거짓이 됩니다.
반대로 이 문장이 거짓이라면 이 문장에서의 주장과는 다르게 이 문장은 참이 되죠. 참과 거짓이 뒤바뀌고 있는 겁니다.
2. “나는 지금 독자에게 거짓말을 하고 있다.”
어떤 작가가 한 말이라고 하는데요, 그의 말을 생각해볼까요?
만약, 그가 지금 진실을 이야기하고 있다면 그는 그의 말대로 거짓말을 하고 있는 겁니다.
반대로 그가 지금 거짓을 말하고 있다면 그가 자신이 지금 거짓말을 하고 있다는 것이 거짓이므로 그는 지금 진실을 이야기하고 있는 거죠. 이것은 정말로 이상한 것입니다.
3. A: 문장 B는 거짓이다.
B: 문장 A는 진실이다.
만약, 문장 A가 진실이라면, 문장 B는 거짓이 되고, 다시 문장 A가 거짓이 됩니다.
반대로 문장 A가 거짓이라면, 문장 B는 진실이 되고, 다시 문장 A가 진실이 됩니다.
출발하여 되돌아오는 과정이 무언가 뒤틀려있죠.
4. 앞면과 뒷면에 다음과 같이 적힌 카드를 만들어보자.
앞면: 뒷면에 적힌 말은 진실입니다.
뒷면: 앞면에 적힌 말은 거짓입니다.
이렇게 적힌 카드의 앞면과 뒷면에 있는 말은 사실입니까? 거짓입니까? 사실이라고 하면 거짓이 되고, 거짓이라고 하면 사실이 되는 역설적인 카드입니다.
5. “이 문장은 일곱 단어로 이루어져 있다.”
이 문장의 단어를 세어보면 모두 여섯 단어입니다. 따라서 이 문장은 틀린 문장입니다. 올바르지 않은 문장을 부정하면 올바른 문장을 만들 수 있습니다. 다음과 같은 부정형을 만들어볼까요?
“이 문장은 일곱 단어로 이루어져 있지 않다.”
그런데, 이 문장의 단어를 세어보면 모두 일곱 단어이므로 이 문장 또한 잘못된 것입니다. 분명 틀린 문장을 부정하면 올바른 문장이 되고, 올바른 문장을 부정하면 틀린 문장이 되는데, 지금은 어떻게 된 것인가요?
지금까지 이야기한 거짓말쟁이 패러독스는 자기 자신을 언급하면서 논리적인 모순을 만들어내는 겁니다. 자기 자신이 자신을 언급하면서 패러독스를 만드는 겁니다. 수학자 러셀은 이렇게 논리적으로 모순되는 현상을 설명하기 위해 다음과 같은 집합을 만들었습니다.
이 집합은 자신에게 속하지 않는 원소들을 포함하는 집합입니다. 다시 말해서 어떤 원소가 이 집합에 속한다면(x ∈ S) 그 원소는 이 집합에 속하지 않게 되고(x ∉ S), 이 집합에 속하지 않는 원소(x ∉ S)는 이 집합에 속하게(x ∈ S) 되는 거죠. 이 집합은 형식적으로 보면 논리적인 구성상 아무런 문제가 없어 보이지만 실제로는 모순을 안고 있고 존재할 수도 없습니다. 앞뒤가 맞지 않는 앞의 거짓말쟁이 패러독스처럼 말이죠. 러셀은 이것을 쉽게 설명하기 위해 이런 이야기를 직접 만들었습니다.
만약, 이발사가 스스로 면도를 한다면, 그는 스스로 면도하는 사람에 속하기 때문에 그는 이발소 앞에 붙어 있는 말에 따라 자신이 면도할 수가 없습니다. 즉, 그는 면도를 할 수 없는 것이죠.
반대로 다른 사람이 이발사를 면도해준다면, 그는 스스로 면도하지 않는 사람에 속하게 됩니다. 그런 사람은 이발사 자신이 면도해주겠다고 이발소 앞에 써 붙여놓았으니, 자신이 면도를 해야 합니다. 즉, 다른 사람이 면도할 수 없죠. 도대체, 이발사는 어떻게 면도를 해야 하는 것일까요?
자기 언급으로 만들어지는 거짓말쟁이 패러독스를 살펴보았습니다. 이런 패러독스는 생각보다 자주 접하게 됩니다. 다음과 같은 것도 자기 언급과 같은 겁니다.
“A의 집은 어디인가요?”
“A의 집은 B의 옆집이에요.”
“그럼, B의 집은 어디인데요?”
“ B의 집은 A의 옆집이죠.”
자기 언급으로 생기는 거짓말쟁이 패러독스를 러셀은 집합으로 표현하며 관련된 수학적인 연구를 했었습니다. 에셔라는 판화가가 있습니다. 그는 수학적인 의미가 있는 작품들을 많이 남겼는데요, 그의 작품 ‘그리는 손’을 보면 뫼비우스의 띠가 생각나기도 하고, 지금 이야기한 거짓말쟁이 패러독스가 생각나기도 하고, 러셀의 집합이 생각나기도 합니다.
박종하
mathian@daum.net
