[주말N수학] "수학 증명 과정은 롤러코스터 타는 것"
지난 7월 이달의 과학기술인상 수상자로 김상현 고등과학원 수학부 교수가 선정됐다. 과학기술정보통신부는 "김상현 교수는 미분동형사상군의 특이정칙성을 모든 실수 범위에서 정확하게 특정할 수 있는 유한생성군을 발견해 위상수학의 난제를 해결했다"며 수상 이유를 밝혔다. 한문장으로 요약된 김 교수의 연구성과는 언뜻 이해하기 쉽지 않다.
인터뷰 요청에 응한 김 교수는 이달의 과학기술인상 수상 공적이 한마디도 이해되지 않는다는 말에 "수학자조차 자기 분야가 아니면 무슨 말인지 이해하기 어려울 것"이라며 미소를 머금은 채 차분히 설명했다.
김 교수의 연구는 대수학과 해석학이라는 서로 다른 수학 분야에 새로운 다리를 놓았다고 평가받는다. 서로 다른 수학 분야를 연결하는 게 왜 중요한 걸까.
“19세기나 20세기만 해도 전천후 수학자가 가능했어요. 하지만 이제는 모든 분야에서 핵심적인 진전을 낼 수 있는 수학자는 없어요. 이것도 아주 뛰어난 수학자를 기준으로 말한 것이고 대부분의 수학자는 다른 분야 세미나에 들어가면 내용을 이해하기 어려워요.”
김 교수는 수학이 점차 고도화되면서 분야 간의 경계가 뚜렷해지고 있다며 그럴수록 각자의 전문성을 갖고 다양한 분야를 이으려는 노력을 기울여야 한다고 했다. 그는 “필즈상 수상자인 윌리엄 서스턴은 수학은 혼자 하는 게 아니라 많은 사람과 함께 발전시켜야 한다는 말을 여러 번 했는데 그 말에 동감한다"며 "이는 논문을 여럿이 쓴다는 의미도 있지만 혼자서 쓰더라도 그 논문 내용의 이해를 돕는 커뮤니티가 있어야 하고 협의를 통해서 커뮤니티를 발전시켜 나가야 한다는 의미"라고 말했다.
문제를 푸는 데서 끝나는 게 아니라 수학자 커뮤니티에 그 개념이 이해될 때까지 충분히 많은 고민을 해야 한다는 것이다. 겨우 이해하는 수준이 아니라 직관적으로 이해할 수 있도록 생각하는 방법을 많이 제시해야 한다고 덧붙였다. 일차적으로는 수학자를 위한 것이지만 결국 그 결과가 전체 커뮤니티에 퍼져나갈 거라는 설명도 곁들였다.
핵심 아이디어로부터 증명 완성까지
2014년 문제를 처음 접한 김 교수는 풀 수 있을 거라고 예상하지 못했다.
“굳이 풀고자 했던 것도 아니고 최종 목표로 삼지도 않았어요. 원래 연구하던 대수적인 것들이 해석학적인 것들로 확장되는 과정이 재미있어서 1~2년에 한 번씩 부분 결과들을 내고 있다가 2년 전쯤에 결정적인 아이디어가 떠올랐어요. 공간에서 점이 어떻게 움직이는지 연구하는 동역학적 아이디어였고 이를 적용해 최종 결과를 얻게 됐죠.”
핵심 아이디어를 떠올린 뒤에도 마법처럼 문제가 풀린 것은 아니었다. 증명을 쓰면서 빠진 부분들을 찾았고 그 구멍을 반복해서 메우는 과정 끝에 결과를 얻어냈다. 그는 “어떤 구멍은 절대로 해결되지 않을 것 같이 보여 막막했고, 그럴 때는 롤러코스터를 타는 것 같은 기분이었다”고 설명했다.
김 교수의 연구업적은 주로 방정식을 다루는 대수학과 미분과 적분 등을 연구하는 해석학이라는 서로 다른 수학 분야 사이에 다리를 놓은 성과다. 이달의 과학기술인상을 받은 10번째 수학자로 만든 연구는 원의 대칭성에 관한 내용이다. 수학에서 대칭은 어떤 대상을 회전시키거나 늘이거나 줄여도 근본적인 구조가 변하지 않고 ‘일대일 대응’이 된다는 뜻이다.
예를 들어 꼭짓점을 시계방향으로 1, 2, 3이라고 표시한 삼각형이 있을 때 몇 도를 돌려도 1, 2, 3이 시계방향으로 연결되는 구조를 보존한다면 처음 삼각형과 대칭이라고 볼 수 있다. 원도 마찬가지다. 원을 이루는 점들 사이의 구조가 원을 늘이고 줄여도 변하지 않으면 대칭성을 갖고 있다고 할 수 있다. 이때 대칭성을 띠는 대상을 다 모은 것을 ‘군’이라고 부른다.
김 교수는 “수학에서 무언가를 ‘이해한다’고 하면 그 대상의 대칭군을 완벽하게 이해하는 것을 기본으로 삼는다”며, 대칭의 중요성을 설명했다. 여러 변화를 줘도 바뀌지 않는 근원적인 성질이 대상의 본질이라고 여기는 것이다.
난제 해결로 분야 사이에 다리를 놓다
미분동형사상군은 함수들의 모임이기 때문에 복잡한 정보를 갖고 있다. 정의역, 치역, 그래프 등이다. 수학자들은 더 본질적인 구조를 찾기 위해 이 집합에서 많은 정보를 빼버리고 아주 간단한 정보만 남기기로 했다.
예를 들어 r이 5인 미분동형사상군이 있을 때 각 함수의 모양과 성질을 다 빼고 이름만 붙여서 a, b, c,…라고 단순하게 만드는 것이다. 그런 뒤 이 원소들끼리 곱한 결과를 나열한 ‘곱셈표’를 만들었다. 함수 각각의 세세한 정보는 잊고 함수 사이의 구조만 알고자 한 것이다.
문제는 여기서 나온다. ‘원래 함수에서 많은 정보를 버리고 버린 결과물인 곱셈표만 보고도 r이 얼마였는지 알아낼 수 있을까?’ 영국 수학자 리처드 필립키비츠와 네덜란드 수학자 플로리스 타컨스는 1979년 이 답이 ‘가능하다’ 라는 것을 증명했다. 그런데 필립키비츠와 타컨스가 증명한 것은 무한개의 전체 곱셈표를 알 때 원래 r을 알아낼 수 있다는 사실이었다. 유한개만 보고도 r을 알 수 있는지는 풀리지 않은 난제였다.
김 교수가 풀어낸 것이 바로 이 난제다. 김 교수는 규칙에 따라 잘 선택하면 유한개의 곱셈표만 있어도 원래 r이 얼마였는지 알아낼 수 있다는 사실을 증명했다. 많을 필요도 없고 5개만 잘 추려내도 미분 가능한 정도를 알 수 있다는 것을 밝혔다.
이번 증명은 해석학과 대수학을 연결하는 새로운 다리를 놓은 것으로 평가된다. 해석학과 대수학은 서로 아주 거리가 먼 수학 분야인데 전혀 다르다고 생각했던 두 분야 사이의 연결 고리를 찾은 것이다. ‘곱셈표’라는 대수적인 구조로부터 ‘미분 가능한 정도’라는 해석학적인 구조를 복원할 수 있다는 사실은 수학에서 대상을 이해하는 데 매우 중요한 실마리를 제공한다.
김 교수는 “가장 멀다고도 할 수 있는 두 분야이기 때문에 사이를 이어줄 수 있는 도구가 생길 때마다 수학자들이 굉장히 재밌어하고 각 분야의 오래된 난제를 해결하는 데 새로운 시각을 주지 않을까 기대한다”고 말했다.
-이달의 과학기술인상은?
우수한 연구개발성과로 과학기술 발전에 공헌한 사람에게 주는 상이다. 기초과학, 공학 등에 걸친 전 과학기술 분야에 주는 상이라 전체 281명의 수상자 가운데 수학자는 10명밖에 되지 않는다.
※관련기사
수학동아 10월호, [인터뷰] 수학 증명 과정은 롤러코스터 타는 것과 같이
[박현선 기자 tempus1218@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.