brunch

You can make anything
by writing

C.S.Lewis

by 모두의 과학 Dec 15. 2021

매듭의 수학, 인공지능으로 풀다

10년 전만 해도 인공지능은 SF의 영역이었지만, 이제 인공지능 알고리즘은 우리 일상의 구석구석에 스며들어 있습니다. SNS에 업로드한 사진에서 친구를 알아보고 자동으로 태그해 주기도 하고, 인공지능 스피커에게 오늘의 날씨를 물어보면 바로 알아듣고 대답을 해 주기도 하지요. 언젠가 상용화될 자율주행 자동차도 도로 위의 수많은 상황을 종합하여 차량을 움직이는 인공지능의 제어를 받을 거예요.

지금까지의 인공지능 기술은 주로 이미지 처리와 언어 처리에 집중되어 왔습니다. 이미지 처리는 사진이나 영상 자료를 분석하는 기술이고, 언어 처리는 사람이 소리내어 말한 음성이나 문자로 쓴 글을 다루는 기술이지요. 이 기술들은 물론 대단히 중요하고 우리 삶을 크게 바꾸는 기술이지만 조금 아쉽기도 합니다. 일상에 적용되는 기술을 넘어, 어렵고 흥미로운 과학 문제를 푸는 데에 인공지능 기술을 응용할 수는 없을까요?

물론 가능합니다. 최근 5년 동안 수많은 과학자들은 최첨단 인공지능 기술을 활용하여 사람의 직관과 지식만으로는 풀기 어려웠던 과학 문제를 해결하는 기법을 개발하고 있습니다. 물리학, 화학, 생물학, 기상학 등 수많은 분야에서 인공지능 알고리즘이 과학적 난제에 도전하고 있지요. 특히 이번 글에서는, 빅데이터와 인공지능을 사용한 연구가 순수 수학 연구에 도입된 특이한 사례 한 가지를 소개하겠습니다.

인공지능, 특히 요즘 널리 사용되는 기계학습은 기본적으로 패턴 인식 장치입니다. 수많은 자료를 받아들여서 그 안에 숨어 있는 패턴을 찾아내는 알고리즘이지요. 과학 연구도 자연 현상에 숨어 있는 패턴을 찾아내는 작업이기 때문에, 조건과 환경을 잘 갖추어 준다면 인공지능은 얼마든지 과학 연구에 응용될 수 있습니다.

컴퓨터에서 작동하는 인공지능이 사람에 비해 유리한 점은 크게 두 가지입니다. 첫째, 컴퓨터는 엄청나게 많은 자료를 빠르게 처리할 수 있습니다. 사람은 강아지와 고양이 사진 100만 장을 검토하고 분류하는 일을 절대로 할 수 없지만 슈퍼컴퓨터는 이를 몇 초 만에 해치울 수 있습니다. 둘째, 인간은 3차원보다 높은 숫자를 다루는 데 매우 서툴지만 컴퓨터는 그런 제약을 받지 않습니다. 고해상도 이미지를 다루는 인공지능 알고리즘은 무려 2,500만 차원의 공간을 돌아다니며 사진을 분석하기도 하니까요.

반면 컴퓨터 인공지능은 상식이나 직관, 혹은 과학 이론 등을 사용하여 종합적인 판단을 내리는 능력은 아직 인간에 비해 많이 부족합니다. 따라서 이론적 기반이 탄탄하고 직관력이 훌륭한 과학자가 복잡하고 큰 데이터를 분석하는 데 인공지능 알고리즘을 활용한다면 최고의 시너지를 얻을 수 있겠지요.

그림에서 오른쪽 매듭을 살살 풀면 왼쪽의 고리로 바꿀 수 있습니다. 언뜻 보기에 달라 보이는 두 고리이지만, 사실 둘 다 교차점을 갖지 않기 때문에 위상수학적으로는 같은 고리입니다.

이미지 출처: Unknots - Knot theory (Wikipedia, Public Domain)

오늘 소개할 사례는 인공지능을 활용해 ‘매듭’의 수학적 원리를 분석한 연구입니다. 복잡하게 꼬여 있는 매듭이 갖는 특성은 순수수학, 그 중에서도 위상수학의 중요한 하위 분야이지요. 매듭지어진 끈을 자르지 않고 이리저리 잡아당겨서 다른 매듭으로 바꿀 수 있는지가 대표적인 내용인데요, 교차점(crossing)의 개수처럼 끈을 자르지 않고서는 바꿀 수 없는 성질을 ‘불변량(invariant)’이라고 합니다. 매듭 이론의 핵심은 여러 가지 불변량을 정의해서 수많은 매듭을 여러 가지 종류로 분류하는 작업이지요.

교차점의 개수로 매듭을 분류하는 모습.이미지 출처: Knot table - Knot theory (Wikipedia, Public Domain, CC0)

그런데 복잡한 매듭의 개수는 상상을 초월하게 많습니다. 교차점이 9개인 매듭은 수십 개에 불과하지만 교차점이 10개가 되는 순간 수백 개의 매듭이 생겨납니다. 교차점이 19개인 매듭을 모두 분류하는 작업이 2020년에서야 끝났을 만큼, 매듭을 분류하거나 매듭의 특성을 이해하는 일은 대량의 자료를 정교하게 다뤄야 하는 어려운 작업이지요.

딥마인드 로고 (Public Domain)

이세돌 9단을 격파한 바둑 인공지능 알파고(AlphaGo)로 유명한 영국의 인공지능 기업 딥마인드(DeepMind)는 최근 수학자들과 협업하여 매듭의 특성을 인공지능으로 분석하는 논문[1]을 발표하였습니다. 인공지능을 훈련시키기에 앞서, 수백만 개의 매듭을 컴퓨터로 자동 생성한 다음 비교적 간단하게 얻을 수 있는 불변량을 계산하고 이들을 기하학적 특성과 대수적 특성으로 분류합니다. 여기까지는 인공지능이 필요하지 않은 단순 작업이지요.

세 가지 매듭의 불변량을 표현한 도표. 첫 번째 열(geometric invariants)이 기하학적 불변량이고, 두 번째 열(algebraic invariants)이 대수적 불변량이다.

출처: A. Davies et al., Nature 600, 70—74 (2021). Advancing mathematics by guiding human intuition with AI, CC BY 4.0.

연구진은 매듭의 기하학적인 특성과 대수적인 특성 사이에 알려지지 않은 수학적 관계가 존재하는지를 확인하기 위해, 대수적인 특성으로부터 기하학적인 특성을 예측하도록 인공지능을 훈련시켰습니다. 만약 둘 사이에 어떤 관계도 없다면 인공지능이라고 해서 없는 관계를 찾아낼 수는 없는 노릇이니 훈련이 실패했겠지요. 그런데 흥미롭게도, 수백만 개의 자료를 살펴본 인공지능이 70% 이상의 확률로 기하학적 특성을 예측할 수 있었지요. 뭔가 통계적인 관계가 존재하는 겁니다.

연구진은 뒤이어 인공지능 프로그램이 여러 개의 대수적인 특성 중 어떤 것에 집중하여 기하학적인 특성을 예측하는지를 확인해 보았습니다. 여러 특성 가운데 중요성이 높은 단서를 인공지능을 사용하여 골라낸 겁니다. 그 결과 수백만 개의 자료 모두에서 성립하는 것처럼 보이는 수학적 관계식 하나를 찾아냈습니다. 그 다음은 수학자들의 영역이어서, 이 관계식이 모든 경우에 참이라는 엄밀한 수학적 증명을 하여 별도의 논문[2]으로 발표하였고요.

이번 연구는 통계적인 인공지능 모델과 엄밀한 순수 수학이 만나 완전히 새로운 결과를 내놓았다는 점에서 특별히 흥미롭습니다. 수학자들이 대단한 직관력과 논리력을 갖고 있는 것은 사실이지만, 그럼에도 인간의 두뇌를 갖고 있기 때문에 머릿속에서 다루는 자료의 양에는 한계가 있을 수밖에 없어요. 반대로 인공지능 컴퓨터는 대부분의 사람보다 훨씬 못한 상식과 직관력을 갖고 있지만 방대한 자료에서 관찰되는 통계적인 특성을 분석하는 데는 뛰어난 성능을 발휘합니다.

이번 연구는 명민한 수학자와 실력 있는 인공지능 과학자들이 만나서, 각자 따로 작업했더라면 아마 발견하기 어려웠을 새로운 수학적 진리를 발견했기에 아주 흥미로운 연구입니다. 미디어에서는 인간과 인공지능의 대립과 경쟁을 내세우는 경향이 있지만, 인공지능이 발달한 미래의 실제 모습은 그보다는 인간과 인공지능이 서로의 약점을 보완하면서 각자 하기는 어려웠던 획기적인 작업을 해내는 광경에 가까울 거예요. 자기 분야의 전문성을 갖추고 인공지능의 작동 원리에 대해서 잘 이해하는 전문가는 앞으로도 계속 필요할 겁니다.

참고 자료

[1] A. Davies et al., Advancing mathematics by guiding human intuition with AI, Nature 600, 70—74 (2021).

[2] A. Davies et al., The signature and cusp geometry of hyperbolic knots, arXiv 2111.15323 (2021).

keyword