퇴근하고 멍하니 누워서 유튜브를 보다가 "우주의 모양이 어떻게 생겼을까?"라는 질문을 듣는 순간 손가락이 멈췄습니다. 사실 저도 이런 질문을 진지하게 생각해 본 적이 없었거든요. 막연히 "엄청 크고 넓은 공간이겠지"라고만 생각했는데, 그게 수학과 연결된다는 이야기를 들으면서 오랜만에 머릿속이 활짝 열리는 기분을 받았습니다.
위상수학이란 무엇인가, 그리고 왜 우주와 연결되는가
우주의 모양을 연구하는 분야라고 하면 대부분 천문학이나 물리학을 떠올립니다. 저도 그렇게 생각했고, 수학이 왜 나오는지 처음엔 의아했습니다. 그런데 알고 보니 공간 자체의 구조와 성질을 따지는 일은 오히려 수학자들이 더 오래, 더 깊이 다뤄온 문제였습니다.
이 분야의 중심에 위상수학(Topology)이 있습니다. 위상수학이란 공간의 거리나 각도 같은 구체적인 수치를 무시하고, 공간이 어떻게 연결되어 있는가, 즉 연결성과 구조만을 따지는 수학 분야입니다. 예를 들어 원을 타원으로 찌그러뜨려도 부드럽게 변형이 가능하다면, 두 도형은 위상적으로 같다고 봅니다. 빨대와 도넛 모양도 위상이 같다는 이야기가 여기서 나옵니다.
이 위상수학의 토대를 놓은 사람이 프랑스 수학자 앙리 푸앵카레입니다. 그는 1900년대 초, 고차원 공간의 문제를 풀려다 막히자 일단 가장 단순한 경우인 3차원 공간부터 분류해 보자는 방향을 잡았습니다. 그렇게 제시한 것이 바로 그 유명한 푸앵카레 추측입니다.
푸앵카레 추측을 한 문장으로 정리하면 이렇습니다. "유한하고, 경계가 없고, 단순한 3차원 공간은 3차원 구뿐이다." 여기서 단순하다는 것은 위상수학 용어로 단순연결(Simply Connected)을 의미합니다. 쉽게 말해 공간 안에 구멍이 없다는 뜻입니다. 도넛처럼 구멍이 있는 공간은 단순연결이 아닙니다. 이 조건 세 가지, 즉 유한하고 경계 없고 단순연결인 3차원 공간은 딱 하나, 3차원 구밖에 없다는 게 푸앵카레의 주장이었습니다.
제가 직접 이 개념을 따라가 보니, 이해보다는 익숙해지는 과정이 필요하다는 말이 와닿았습니다. 수학자 폰 노이만이 "수학은 이해하는 것이 아니라 익숙해지는 것"이라고 했다는 이야기가 딱 맞아떨어졌거든요. 저도 도넛과 빨대가 같다는 말을 처음 들었을 때는 전혀 감이 안 왔는데, 몇 번을 반복해서 듣고 나니 어느 순간 "아, 연결 방식만 보는 거구나"라는 느낌이 왔습니다.
푸앵카레 추측이 중요한 이유는 이것이 2000년 미국 클레이 수학연구소가 선정한 밀레니엄 문제 7개 중 하나였기 때문이기도 합니다. 밀레니엄 문제란 21세기 수학이 반드시 풀어야 할 난제들로, 각 문제마다 100만 달러의 상금이 걸려 있습니다(출처: 클레이 수학연구소).
푸앵카레 추측
푸앵카레 추측이 왜 어려웠는지를 이해하려면 유클리드 기하학부터 짚어볼 필요가 있습니다. 유클리드(Euclid)는 기원전 3세기에 활동한 고대 그리스 수학자로, 다섯 가지 공리를 토대로 기하학을 체계화한 인물입니다. 그 중 5번 공리, 즉 평행선 공리는 "직선 밖의 한 점을 지나면서 그 직선과 만나지 않는 직선은 단 하나뿐"이라는 내용입니다.
이 공리가 성립하면 삼각형 내각의 합은 항상 180도가 됩니다. 그런데 지구 표면처럼 휜 공간에서는 이야기가 달라집니다. 적도 위 두 점에서 각각 북쪽을 향해 수직으로 선을 그으면, 두 선은 북극에서 만납니다. 이 삼각형의 내각 합은 180도가 넘습니다. 1800년대에 수학자들은 5번 공리가 성립하지 않으면서도 논리적으로 완전한 기하학이 가능하다는 사실을 발견했고, 이것이 비유클리드 기하학(Non-Euclidean Geometry)의 출발점이 됩니다. 비유클리드 기하학이란 평평한 공간이 아닌, 휘어진 공간에서 성립하는 기하학 체계를 말합니다.
이처럼 평평하지 않은 공간이 존재한다는 사실이 밝혀지자, 그러면 가능한 공간의 종류는 얼마나 되는가 하는 질문이 자연스럽게 따라왔고, 그게 위상수학이 다루는 핵심 문제가 되었습니다.
핵심 개념을 정리하면 다음과 같습니다.
- 위상수학: 공간의 연결성과 구조만을 다루는 수학 분야. 거리나 각도는 무시함
- 단순연결(Simply Connected): 공간 안에 구멍이 없는 상태
- 비유클리드 기하학: 5번 평행선 공리가 성립하지 않는 곡면 기하학
- 밀레니엄 문제: 클레이 수학연구소가 선정한 21세기 7대 수학 난제
페렐만이 100년 만에 풀어낸 방식, 그리고 내부에서 보는 풍경
푸앵카레가 추측을 내놓은 이후 100년 가까이 수많은 수학자들이 이 문제에 도전했습니다. 제가 이 이야기를 들으면서 가장 흥미로웠던 부분은, 20세기 중반까지 수학자들이 오히려 기하학에서 멀어지는 방향으로 접근했다는 점입니다. 추상적인 위상수학만으로 공간을 다루려 했던 것이죠. 그런데 그 방식으로는 계속 벽에 막혔습니다.
전환점을 만든 사람이 윌리엄 서스턴(William Thurston)입니다. 그는 1970년대에 기하화 추측(Geometrization Conjecture)을 제시했습니다. 기하화 추측이란 모든 3차원 공간은 여덟 가지 기본 기하 구조 중 하나로 분류할 수 있다는 주장으로, 2차원에서 평평한 공간, 구면, 쌍곡면 세 가지가 있듯이 3차원에서는 여덟 가지가 있다는 내용입니다. 서스턴의 기하화 추측은 푸앵카레 추측보다 훨씬 강력하고 포괄적인 주장으로, 이것이 증명되면 푸앵카레 추측도 자동으로 해결됩니다.
서스턴이 내놓은 핵심 아이디어가 저는 개인적으로 가장 인상 깊었습니다. "밖에서 보려 하지 말고, 안에서 보이는 풍경으로 공간을 이해하라"는 발상이었거든요. 예를 들어 구면 위의 북극에서 사방을 바라보면 모든 방향에서 남극에 있는 사람이 보입니다. 빛이 구면을 따라 최단 경로로 이동하기 때문입니다. 이 풍경은 평평한 공간에서 볼 수 없는 모습이고, 공간의 구조에 따라 풍경이 달라진다는 것이 서스턴 접근법의 핵심입니다. 그는 이 업적으로 필즈 메달(Fields Medal)을 수상했습니다. 필즈 메달이란 4년마다 40세 미만의 수학자에게 수여되는, 수학계에서 노벨상에 해당하는 최고 권위의 상입니다(출처: 국제수학연맹 IMU).
그리고 2002년, 그레고리 페렐만(Grigori Perelman)이 인터넷에 논문을 올리면서 상황이 완전히 바뀌었습니다. 제가 이 부분을 들으면서 솔직히 놀랐습니다. 학술지에 정식 투고도 아니고, 갑자기 온라인에 공개해 버린 것이었거든요. 페렐만은 서스턴의 기하화 추측 전체를 증명하는 방식으로 접근했고, 그 과정에서 푸앵카레 추측도 완전히 해결했습니다.
페렐만이 사용한 방법은 리치 흐름(Ricci Flow)입니다. 리치 흐름이란 공간의 곡률이 균일해지도록 공간 자체를 서서히 변형시키는 수학적 방정식으로, 울퉁불퉁하게 찌그러진 공간을 점점 매끄럽고 동그란 형태로 진화시키는 개념입니다. 열이 균일하게 퍼지듯 공간도 균일해질 수 있다는 발상이었습니다. 페렐만은 이 흐름이 중간에 특이점(Singularity)이라는 문제를 일으킬 수 있다는 장애물도 함께 해결해 냈습니다.
그런데 페렐만은 이 업적으로 필즈 메달과 밀레니엄 상금 100만 달러를 모두 거절했습니다. 학계에 대한 환멸 때문이었다고 알려져 있습니다. 저는 이 이야기를 들으면서 뭔가 씁쓸한 감정이 들었습니다. 100년 동안 수학자들이 매달린 문제를 혼자 풀어놓고, 상도 거절하고 은둔해 버린 사람. 수학 자체에 대한 집착은 있었지만, 그 결과를 둘러싼 인간 세계에는 지쳐버린 것 같았습니다. "학계 환경이 달랐다면 다른 선택을 하지 않았을까"라는 생각도 들었고요.
어쨌든 결론은 분명합니다. 3차원 공간이 유한하고, 경계가 없고, 단순연결이라면 그것은 3차원 구밖에 없다는 사실이 2000년대 초반에 완전히 증명되었습니다.
결국 이 이야기가 제게 남긴 건 수학 공식이 아니라 사고방식이었습니다. 우주를 이해하기 위해 밖으로 나가는 대신, 안에서 보이는 풍경을 분석한다는 발상. 어렵고 막힌 문제 앞에서 더 쉬운 질문을 먼저 찾는다는 태도. 회사 일에 치여 지내다 보면 시야가 좁아지는 느낌이 드는데, 이런 이야기를 들으면 잠깐 머리가 넓어지는 기분이 납니다. 수학이 어렵다고 느끼시는 분도 많겠지만, 공식보다 이런 사고의 흐름을 한번 따라가 보시길 권합니다.
참고: 푸앵카레의 추측, 100년의 난제는 어떻게 풀렸을까? (feat. 김상현 교수) [취미는 과학/ 44화 확장판] :
https://www.youtube.com/watch?v=iJGRP0UrRmM&list=PLkKcqR2KGxgzqeKZo1Rx93kJFokuVkpye&index=46