17. AI & Math : 수학은 또 하나의 언어

[제3악장. idylle- 수학에서 인공지능으로]

- 잠시 쉬어가는 느낌으로 수학에 대한 이야기를 몇 회에 걸쳐 가볍게 풀어놓습니다.- 

 대학 2학년 1학기 때 수학과 주임 교수님께서 학부생 전체와 간담회를 가지셨다. 학부생 전체라고 해봤자 60여 명밖에 되지 않는 작은 인원이었다. 그래서 한 교실에서 수업하듯 가까운 자리에서 대화를 나누었다. 

 이런저런 덕담도 오가고, 교수님의 훈화 말씀과 같은 이야기도 흥미진진하게 듣고 있던 중 한 선배가 수학이 어렵다는 말을 했다. 핵공감하며 고개를 끄덕이고 있었는데 교수님은 다음과 같은 말씀을 하셨다. 그 말씀이 어찌나 강렬했던지 20년 지난 지금도 생생히 기억이 난다. 

 “여러분은 수학이라는 언어를 배우는 거야. 수학자는 입술의 언어가 아닌 수학의 언어로 이야기할 수 있어야 해. 수학이 어려운 이유는 아직 수학의 언어에 익숙하지 않아서 그래. 자꾸 전공 책을 외우거나 읽으려고 하지 말고 친구들끼리 수학의 언어로 이야기를 많이 해봐. 우리 교수들에게 하면 더 좋고.”

 좀 충격적이었다. 수학이 언어라니. 막 전공과목을 접하면서 수학의 매운맛을 한 껏 느끼고 있던 2학년 1학기의 학생으로서 교수님의 표현이 좀 신선하기도 했고 멋있었기도 했다. 하지만 이해하기가 어려웠다. 수학이 언어라니.. 영어 같은? 그 뒤로부터 다른 학과의 친구들에게 "우리는 너희 공대생과는 다른 언어학자."라고 자랑하고 다녔다. 물론 친구들의 시선은 싸늘했고 피식하는 웃음도 가끔 나왔다.

 하지만 수학을 공부하다 보면 그 수학이 언어로 다가오는 순간이 한 번쯤은 있다. 나에게는 약 2년 후 현대 대수학의 체 이론(Field Theory. 간단히 설명하기 어려운 전공 내용이라 넘어가겠다. 이 이론을 통해 5차 이상의 방정식은 근의 공식이 존재할 수 없음이 증명되었다.)을 다시 공부할 때 드디어 찾아왔다. 이전에는 몰랐는데 놀랍도록 질서 정연한 논리와 점차 확장되어가는 체계, 수학적 표현이 가득했던 수학자들의 아이디어 편지를 읽는 기분이었다. 그 기준을 만끽하며 혼자 “이 분들, 미친 거 아냐?”라고 중얼거리며 감탄을 하다가 나중엔 신이 나서 히죽히죽 웃고 있었다. 기숙사 같은 방을 쓰던 친구가 “친구, 네가 미친 거 같은데?”라는 말을 듣기 전까지는 수식으로 가득한 위대한 수학자가 전해주는 생각의 언어를 보면서 수학을 매우 즐거워하고 있었다.

 이런 경험은 수학에서만 겪는 것은 아니다. 대가들이 남긴 작품에는 뭔가 전해지는 전율이 있다. 미술에 문외한이었던 나조차도 뉴욕 근대 미술관에 걸려있는 커다란 그림인 아비뇽의 처녀들(피카소)를 지나갈 때 뭔가의 기운에 압도당해 10분이 넘도록 그림 앞에 앉아 있었다. 마치 피카소가 미술 작품을 통해 뭔가 말해주는 듯한 묘한 느낌이었다. '미술의 언어는 작품을 통해서 다가올 수 있구나.'라는 걸 혼자 중얼거렸다.

 아마 각자마다 비슷한 경험이 있을지도 모른다. 모두가 열광하는 음악에서 같은 감정을 느꼈을 수도 있고, 때로는 남들이 잘 모르는 여러분들만의 즐거움 혹은 관심사가 있을 수 있다. 어른들이 볼 때는 정신없는 랩이 섞인 가사와 마치 기계처럼 희한하게 딱딱 맞는 K-pop의 노래에서 10대들은 전율을 느낀다. 정말 위대한 작품을 만날 때는 단순히 ‘좋다’는 것을 뛰어넘는 뭔가가 있다. BTS의 다이너마이트의 노래에서는 세대를 뛰어넘는 흥얼거림과 함께 울림이 분명 존재한다.

 걸작은 마음을 열면 언젠가는 깊은 울림을 준다. 잘 모르는 미약한 울림도 좋지만 아는 만큼 그 울림은 더욱 뚜렷해지고 때로는 삶의 방향을 바꿔놓기도 한다. 미술가가 작품을 통해 피카소와 깊은 대화를 나누는 것처럼 수학자는 체 이론을 통해 갈루아(Galois)와 아벨(Abel)과 수학의 언어로 대화를 나눈다. 인공지능은 위대하고도 아름다운 수학이 SW라는 기법으로 절묘하게 녹아있는 한 편의 걸작이다. 이 위대한 걸작을 제대로 감상하기 위해 문제 풀이가 아닌 수학 자체를 먼저 살펴보자.