brunch

You can make anything
by writing

C.S.Lewis

by 송팡 Oct 15. 2021

게임

수학 에세이

게임을 할 수 없다면


내 친구 K가 태어난 K 나라는 청소년이 새벽에 게임을 하지 못하게 하는 법을 만든 역사가 있다. K 나라 국민 상당수는 게임 이용이 질병이며 적극적인 예방이 중요하다는 인식을 갖고 있다. 하지만 K는 정반대로 생각한다. 게임을 할 수 없다면 그건 병에 걸렸다는 거예요. 몸을 깨끗이 씻고 규칙적으로 운동해서 뽀송뽀송한 모습으로 지치지 않고 놀 수 있어야 하는 것 아니겠어요? 게임하기 힘든 몸 상태라면 참지 말고 바로 치료하는 편이 좋지 않냐고요. K는 본인이 주장한 바를 스스로 따르는 편이다. 요새 게임을 하면 머리가 아프다면서도, 그는 침대에 눕는 대신 두통약을 챙겨 피시방 의자에 앉는다. 그리고 다음날 아침까지 지치지 않고 논다.


게이머로서 그의 열정에 리스펙을 보내지만, 동시에 경이감을 느낀다. 왜 이렇게까지? 대체 게임이 뭐길래? 그 명석한 비트겐슈타인도 게임이 무엇인지 질문한 적이 있다. 그가 내놓은 답은, 게임이라 불리는 것들은 서로서로 비슷한 특징이 있으면서도, 모든 게임이 공유하는 핵심은 없는 고로, 게임이 무엇인지는 정의할 수 없다는 것이다. 그는 개념의 의미가 그저 개념을 어떤 식으로 사용하는지에 달렸다는 말을 덧붙였다. 그렇다면 게임의 의미는 사람들이 어떻게 게임하는지, 그러니까 무엇을 게임이라 부르며 어떤 조건 속에서 어떤 감정을 느끼는지 이해해야 알 수 있다.


게임에는 여러 장르가 있다. 참고로 K가 좋아하는 게임은 승부사 기질이 필요한 폴가이즈, 하스스톤, 위닝일레븐, 스타크래프트, 그리고 문제해결력이 필요한 포탈 2, 임포스터 팩토리, 젤다의 전설(특히, 시간의 오카리나), 러스티 레이크 등이다. 축구나 농구, 방탈출 게임도 좋아한다. 한 마디로 그는 대결과 퍼즐을 좋아한다. K의 열정을 이해할 단서가 여기 있다.


대결

대결에 임하려면 규칙을 지켜야 한다. 사이클 경기장에 오토바이를 타고 들어가서는 안 된다. 수영 경기를 하는데 몰래 오리발을 신어서는 안 된다. 역도 선수가 친구를 불러 함께 바벨을 들어 올려서는 안 된다. 영화 <게임의 규칙>에서 사회의 규칙을 무시하고 유부녀의 사랑을 갈구한 앙드레가 결국 죽고만 것처럼, 반칙을 한 선수는 경기장에서 사형 선고를 받고 실격 처리될 수 있다. 요즘에는 경기장 밖에서라도 나쁜 짓을 저지르면 시합에 나오지 못한다. 승부의 세계는 냉정한 법이다. 따라서 중요한 규칙을 숙지하지 않은 선수가 있다면, 영화 <파이트 클럽>에서 지하 조직을 운영하는 타일러처럼 반복해서 일러줘야 한다. "대결에 임하기 위한 첫 번째 조건. 규칙을 지킨다. 두 번째 조건. 규칙을 지킨다."


하지만, 아무리 규칙의 중요성을 말해줘도 반칙을 일삼는 선수들이 있다. 심지어 이들은, 반칙이 잘못인가요, 하고 되묻는다. 반칙도 게임의 일부이며 영리한 반칙은 전술이라는 주장과 함께, 어느 만화 주인공 같은 대사를 내뱉는다. 왜 이렇게 필사적이냐구요? 지는 것보다는 이기는 편이 더 재밌으니까! 당돌한 반응이지만, 이런 태도가 선수의 탐욕을 보여준다고 이해해서는 곤란하다. 스포츠학자들에 따르면 고의 반칙은 승리지상주의에 의한 현상일 수 있다. 승리지상주의 문화가 어떻게 선수를 길들이는지 궁금하다면 <4등>이라는 영화를 참고하기 바란다.


승리해야 한다는 생각을 잠깐 치워두면 즐길 거리가 더 많아진다. 축구 골키퍼 조현우는 선방을 한 뒤 상대 공격수가 아쉬워하는 모습을 볼 때 희열을 느낀다고 고백했다. 이 말은 유명한 밈을 연상시킨다. "승패에 집착하지 마십시오... 게임은 이기려고 하는 게 아닙니다... 상대방 빡치라고 하는 겁니다..." 조금 더 순한 방식으로 승부를 즐길 수도 있다. 가령, 인류학자 레비-스트로스는 축구 규칙을 갓 배운 뉴기니 가후쿠-가마족의 승부를 대략 이렇게 설명했다. 이들에게 게임은 일종의 의례입니다. 경기를 시작하면 며칠이 걸리든 두 팀의 점수가 같아질 때까지 쭉 공을 찹니다. 왜 이렇게 평화롭게 시합하냐구요? 지는 것보다는 비기는 편이 더 재밌으니까! 그밖에, 아주 드문 일이지만 일부러 패하는 쪽을 선택하고 기뻐하는 게임 참가자도 있다. 왜? 이기는 것보다는 돈 많이 버는 게 더 재밌으니까! 이들은 경기에 아깝게 진 척 머리를 감싸 쥔 뒤, 아무도 보지 않는 으슥한 곳에 가서 검은돈을 받는다. 물론, 엇나간 메소드 연기를 지켜보는 것은 하나도 재밌지 않으므로 고의 패배는 징계 대상이다.


이렇듯 시합은 규칙을 지키며(때로는 지키지 않으며) 진행되고, 그 속에서 느낄 수 있는 수많은 재미가 있다. 어떤 재미를 선택할지는 게이머의 몫이다.


퍼즐

교육학자 듀이는 문제가 정해졌으면 절반은 이미 해결된 것이라 말한 바 있다. 그렇다면 퍼즐을 푸는 일은 나머지 절반을 채우는 작업이다. 여기에는 시간과 노력이 필요하다. 퍼즐이란 자고로 한 방에 풀리지 않지만 꾸준히 고민하면 풀이법을 알아낼 수 있는 문제다. 심리학자들은 퍼즐을 창의적으로 해결하는 과정을 이렇게 설명한다. 먼저, 준비기. 문제를 이해한다. 해법은 아직 모른다. 둘째, 부화기. 잠시 도전을 멈추고 쉬거나 다른 일을 한다. 그래도 무의식은 닭이 알을 품듯이 묵묵히 퍼즐을 생각한다. 셋째, 조명기. 아이디어가 불쑥 떠오르며 어두운 머릿속이 밝아진다. 문제가 풀린다. 마지막으로 검증기. 잘 풀었는지 확인한다. 이상이 있다면 다시 준비기로 돌아간다.


첫 번째 단계인 준비기에 게이머의 감정은 요동친다. 자신감(나도 이 정도는!)과 자괴감(나는 이것도...?), 기대(어쩌면?)와 좌절(아니네.), 열정(풀고 만다!)과 권태(그만 할까.)를 오락가락한다. 누군가 자신이 헤매는 꼴을 지켜본다면 수치심도 느낄 수 있다. 이처럼 신나게 감정의 롤러코스터를 타다 보면 지치기 마련이다. 그러다 보면 문제를 아직 풀지 못했는데도 그만 수고했다는 내적 박수가 울려 퍼진다. 박수 소리가 들린다는 건, 떠나야 할 때가 왔다는 것. 미련없이 떠나야만 두 번째 단계인 부화기가 시작된다. 부화기에 의식은 쉬어야 한다. 그래서 의식은 무의식에게 문제를 마저 푸는 임무를 맡기고 돌아선다. 폴 맥카트니의 무의식이 꿈속에서 '예스터데이'를 작곡한 것처럼, 우리의 무의식도 대단한 일을 해내길 바라면서 말이다.


해법이 떠오르는 조명기에는 깨달음을 얻은 아르키메데스의 기분을 느낄 수 있다. 뜨거운 욕조에 들어가 온몸이 가득 차고 막힌 곳이 뚫리는 듯한 기분. 상쾌함, 통쾌함, 유쾌함... 유... 유레카! 하지만 욕조에서 느낀 충분감이 10분을 채 넘기지 못하는 것처럼, 환희와 만족감은 금세 꺼져버린다. 그리고는 우울함과 허탈함이 찾아온다. 소설 <가짜 팔로 하는 포옹>의 주인공은 퍼즐 해결 후의 감정을 이렇게 묘사한다. "그림[직소 퍼즐]을 다 맞추고 나면 새로운 걸 완성했다는 기분이 들지 않고, 그냥 원래 있어야 할 것들을 제자리에 놓아둔 기분이야. 아버지는 밥상 뒤집어엎고 나가고, 나 혼자 남아서 반찬이며 밥이며 국물이며 사방에 엎질러진 걸 다 정리해놓고 소주 마실 때의 기분이랄까. 내가 지금 여기서 대체 뭐 하고 있지? 그런 기분이 갑자기 들어. 다 맞춰진 퍼즐을 보고 있으면." 이 기분이 정말 싫다면 얼른 그다음 퍼즐을 찾고 허무함을 달래면 된다. 하지만 그런 게 아니라면 온몸으로 느끼는 것을 추천한다. 이것도 다 우리 감정이니까.


이렇게 퍼즐 게임은 절차에 따라 착착 진행된다. 그 속에서 느낄 수 있는 수많은 기분이 있으며, 어떤 기분을 느낄지는 당사자의 몫이다.


수학이 게임이라면


중요한 말을 빠뜨렸다. K는 사실 수학 선생님이다. 그가 수학을 가르치는 일을 직업으로 선택한 것은 수학이 게임만큼 재밌기 때문이다. 어쩌면 수학은 그 자체로 게임일지 모른다. 실제로, 수학자 힐베르트는 수학이란 종이 위 의미 없는 기호를 다루는 게임이라고 한 적이 있다. 수학이 게임이라면 장르는 무엇일까? 수학은 대결 같기도, 퍼즐 같기도 하다.


수학 시험과 불완전한 규칙

거짓말이 아니라, 정말 '방정식 풀기 대결'이 있던 시절이 있었다. 이 시합에 참가하는 두 선수는 각자 상대방이 낸 문제를 푼다. 더 많이 맞은 사람이 이긴다. 이봐, 타르탈리아. 이걸 문제라고 낸 건가? 시시해서 죽고 싶어 졌어. 허세심한, 플로리도. 자넨 꽤 어려운 삼차방정식을 들고 왔군. 하지만 내가 포기하길 바라는 것은... 포기해라! 중세의 수학 대결은 산업사회를 통과하며 품종 개량을 거쳤다. 오늘날 수학 시합은 일대일 대결이 아니라 여럿이 공통의 문제를 풀며 점수를 겨루는 대규모 '시험' 방식이다. 우리는 모두 수학 시험을 치른 경험이 있다. 관중은 없고 심판만 홀로 지켜보는 가운데 1시간 남짓의 조용한 시간을 견딘 기억이 있다. 시험에 관한 글로 박사 학위를 받은 이경숙의 말처럼, 시험은 초라하고 외로운 대결이다.


K 나라 학생들은 수학 시험에서 어떤 재미를 느낄까? 이 나라 학생들은 대체로 외국 학생에 비해 수학 시험 점수가 탁월하게 높지만, 수학에 대한 흥미는 아주 낮은 것으로 유명하다. K 나라에서 알아주는 수학 시험의 고수들도 수학이 싫은 경우가 있다. 한 과학고 학생들이 수학에 느끼는 감정을 조사한 연구에 따르면, 상당수는 '수학'이라는 말만 들어도 불안해했다. 어느 학생은 말했다. "여기서 수학 시험은 그냥 문제 빨리 풀기 시합이에요. 전 진짜 수학을 하고 싶은데 깊이 생각할 시간이 없어요." 학생들은 벚꽃이 떨어진 벚꽃나무를 구경하듯, '진짜' 수학이 빠진 수학 시험을 치르다 질려버렸다. 과학고 교육에는 심화교육과 대학 입학 준비라는 두 가지 목표가 있지만, 이 목표가 상충되며 부작용을 만든 듯하다. 이 연구 논문의 제목은 <두 마리 토끼를 잡는 것의 위험성>이다.


한편, 현대의 프로 수학자는 수험생이 아니다. 문제 '빨리' 풀기 시합보다는 문제 '먼저' 풀기 시합을 하는 선수에 가깝다. 이 경기는, 선수가 아무도 못 푼 문제를 해결하고 그 풀이를 인터넷 사이트에 올려, 나 이거 일등으로 풀었어요, 침을 발라 놓은 뒤, 천천히 정식 심사를 기다리는 식으로 진행된다. 제일 먼저 문제를 풀었다는 것은 누구도 접근한 적 없는 지식을 발견했다는 것을 의미한다. 따라서 모든 검증이 끝나고 연구 결과가 공개되면 수학자는 숨겨진 진실을 정당하게 폭로하는 기쁨을 누릴 수 있다. 이때 찝찝하지 않고 온전하게 기쁠 수 있으려면, 풀이는 사소하더라도 확실히 진실해야 한다. 그러기 위해서 최초의 수학 규칙이 탄탄할 필요가 있다. 19세기 말 수학자들은 바로 그런 규칙을 새로 만들며 수학을 재정비하는 재미에 빠졌다. 이들은 구슬놀이를 잘하는 어느 할아버지처럼 규칙을 따르는 게이머인 동시에 규칙을 만드는 게임메이커였다.


시간이 흘러 20세기 중반이 되었을 무렵, 누군가는 모르길 바랐던 사실이 밝혀진다. 수학의 규칙을 어떻게 조합해도, 모순이 발생하거나 그 규칙으로 밝힐 수 없는 명제가 생기는 딜레마에 처한다는 것을 수학자 괴델이 증명한 것이다. 다시 말해, 그는 수학이 무모순과 완전함이라는 '두 마리 토끼'를 잡는 것은 불가능하다는 것을 보였다. 괴델이 증명한 정리의 이름은 '불완전성 정리'다. 완벽한 수학을 만들기 위해 평생을 바친 수학자라면 수학이 불완전하다는 소식을 듣고 눈가가 촉촉해졌을지도 모르겠다. 그렇지만 괴델의 증명이 그렇게까지 절망적인 메시지는 아니다. 괴델 때문에 이미 증명된 수학적 사실이 불완전해진 게 아니다. 그의 말은 앞으로 증명될 수학적 사실이 불완전할 것이라는 예언도 아니다. 우리는 그냥 지금의 수학으로 알 수 없는 진실이 있다는 것을 확인했을 뿐이다. 이건 어떤 면에서 희망적이다.


날것의 퍼즐과 프라이드

수학자 테렌스 타오는 자신의 책 서문에 '(학생들이 푸는) 수학 문제는 살균 처리된 것'이라고 적었다. 대부분의 사람들은 평생 멸균 우유 같은 수학 퍼즐만을 풀어봤을 것이다. 수학자들이 접하는 날것의 퍼즐은 멸균 퍼즐과 다른 지점이 있다. 가장 돋보이는 특징은 과연 정답이 있긴 한 건지 알 수 없는 경우가 있다는 것이다. 예를 들어, 컴퍼스와 눈금 없는 자로 임의의 각도를 3 등분하는 방법을 찾는 퍼즐을 생각해 보자. 이 퍼즐은 고대 그리스 시대에 만들어져 19세기 수학자 피에르 방첼이 해결했다. 푸는 데까지 2000년이 걸린 이 퍼즐의 해답은 '그런 방법 없음'이다. 그러니까 방첼은 아무렇게나 주어진 각을 3등분 하는 신박한 방법을 찾아낸 게 아니라, 그런 방법은 누구도 찾아낼 수 없다는 것을 증명했다. 퍼즐의 정답이 없다는 답을 낸다면 퍼즐을 푼 것일까? 수학 퍼즐이라면 그렇다, 푼 것이다. 따라서 수학자는 퍼즐 앞에서 결정해야 한다. 답을 찾든지, 아니면, 답을 찾을 수 없다는 증거를 찾든지.


하지만, 어려운 퍼즐의 정답이 있는지 없는지 판단하기는 쉽지 않다. 가령, a/(b+c) + b/(c+a) + c/(a+b) =178을 만족하는 자연수 a, b, c를 찾는 문제를 살펴보자. 이 문제는 단순해 보여도 답이 생각보다 크다. 세 수 중 가장 큰 수는 398,605,460 자리의 숫자다. 이 수를 원고지에 옮기려면 200만 장 정도가 필요하다. 반면, a/(b+c) + b/(c+a) + c/(a+b)=5를 만족하는 자연수 a, b, c를 찾기는 훨씬 쉬워 보이지만, 그런 자연수는 존재하지 않는다. 정보가 충분하지 않은 상황에서 어느 방향으로 풀이를 전개할지 선택하는 데는 결단력과 용기가 필요하다. 나에게 전공수학을 가르친 교수님은 문제를 풀 때 방향을 빠르게 선택하고, 그 뒤로는 바리깡처럼 쭉 밀고 나갈 수 있어야 한다고 조언하신 적이 있다. 당시 나는 문제풀이를 왜 하필 바리깡에 비유한 건지 궁금했지만 질문하진 않았다.


수학자 퍼즐의 또 다른 특징은, 풀기 위해서 극한의 집착이 필요할 때가 있다는 것이다. 수학자 최영주는 한 인터뷰에서 이렇게 말했다. "최근에 쓴 논문은 20년 동안 꼭 풀고 싶었던 문제입니다." 20년은 긴 시간이다. 보통 사람이라면 20분 고민하고 포기할 일을, 그녀는 20년이나 지속했다. 대체 왜? 남들이 잘 하지 않는 일을 열심히 하는 사람들은 으레 '동기'에 대한 설명을 요구받는다. 울트라 마라토너 카르나제스 역시 사람들에게 가장 자주 받은 질문으로 "왜 뛰는 건가요?"를 꼽았다. 심리학자 트레이시에 따르면 이렇게나 힘겨운 일을 지속할 수 있는 건 프라이드 때문이다. 즉 울트라 마라토너와 마찬가지로 수학자들은 '스스로를 기분 좋게 느끼고 싶은 마음'에 남들은 하지 못할 일을 해낸다. 프라이드는 바리깡처럼 힘 있는 감정이다.


이 벅찬 감정이 이해되지 않는다면 지겹지만 먹고 사는 얘기를 할 수밖에 없다. 이탕 장이라는 수학자는 시간강사로 일하던 중 소수 사이의 간격에 관한 난제를 풀고 대학교 정교수가 되었다. 어려운 수학 퍼즐은 정규직을 얻는 기쁨을 준다.


K, 수학, 게임

K 나라에서 태어난 K는 자신이 언제 게임에 빠지게 되었는지 기억하지 못한다. 하지만 수학을 즐기게 된 계기는 기억한다. 어느 날 침대 밑에서 바퀴벌레가 튀어나왔다. 그는 책상 위에 있던 수학 문제집을 들어 재빨리 내리쳤다. 바퀴벌레는 납작해졌고 모든 문제가 해결되었다. 그 순간 수학책이 게임 아이템처럼 느껴졌다.

매거진의 이전글 무한
작품 선택
키워드 선택 0 / 3 0
댓글여부
afliean
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari