<파워인터뷰-최재경>"수학은 문제해결 위한 논리의 예술.. 4차혁명 이끄는 AI의 핵심"

최재경 고등과학원장이 지난 10일 서울 동대문구 청량리동 카이스트 서울캠퍼스 안에 위치한 고등과학원(KIAS) 앞을 걷고 있다. 최 원장은 이날 문화일보와의 인터뷰에서 “항상 다르게 생각하면서 새로운 것을 찾아 나가야 미지(未知)의 영역에 있는 문제가 풀린다”고 강조했다. 곽성호 기자

최재경 고등과학원장이 지난 10일 서울 동대문구 청량리동 고등과학원(KIAS) 2층 원장실에서 “선행학습이 횡행하는 나라에선 창의성이 꽃필 수 없고, 그런 나라는 진정한 선진국으로 가는 길이 요원할 수밖에 없다”고 강조하고 있다. 곽성호 기자

■ 최재경 고등과학원장

무인차 기술에 기하학·확률 사용

교차로에선 삼각법·미분 응용해

다른 차량과의 경로 충돌 방지도

자연의 비밀 해결 위해 수학 필요

인간은 예술·논리 아름다움 느껴

수학 포기는 美에 대한 감상 포기

호기심이 이끈 연구 창조성 직결

대부분 인류에 유익한 결실 창출

고등과학원 ‘호기심 최전선’돼야

[인터뷰 = 이제교 사회부장]

1953년생, 올해 67세인 최재경 고등과학원장은 알록달록한 베네통식 컬러의 플라스틱 스와치 시계를 차고 있었다. “시계가 좀 특이합니다”라고 운을 떼자 최 원장은 “사람들이 ‘손녀딸 시계를 뺏었냐’고 놀리던데, 틀에 박힌 시계는 싫더라. 이런 시계가 네 가지 정도 있다”고 겸연쩍은 듯 말했다. 나이와 지위를 보면 명품 시계가 어울릴 법도 하지만 그는 아랑곳하지 않았다. 3만∼4만 원 정도 하는지 물어보니, 미소와 함께 그래도 7만∼8만 원은 한다는 답이 돌아왔다. 사람들과 다르게 생각하는 것, 수학자인 그가 평소 가진 인생 모토다. 우리는 종종 잊고 살지만 창의성은 문자 그대로 남과 다른 지점에서 피어난다. 최 원장은 “다른 것은 새로운 것이고, 새로운 것을 찾아 나가야 미지(未知)의 영역에 있는 문제가 풀린다”고 말했다. 봄기운이 느껴지는 10일 오후 홍릉 근처 서울 동대문구 청량리동의 고등과학원(KIAS) 2층 원장실에서 올 초 8대 원장에 취임한 그를 만났다.

―고등과학원은 언제 출범했나요.

“1996년에 설립돼 올해 24주년을 맞았다. 설립 당시 한국은 경제규모에 비해 기초과학 토대가 빈약했다. 한국의 과학기술 발전을 위해 정부는 고등과학원이 필요하다고 판단했다. 그때 과학기술처 장관은 정근모 박사였는데, 순수 이론 기초과학을 연구하는 기관으로 미국 프린스턴 고등연구원(IAS)을 모델로 만들어졌다. 현재 고등과학원은 세계적인 기초과학 연구소를 지향하고 있다. 현재 수학부, 물리학부, 계산과학부 등 3개 학부가 있다.”

―수학자의 길을 걸었는데, 순수이론 기초과학에서 ‘수학’의 역할은 무엇입니까.

“수학은 과학의 언어다. 자연의 비밀을 해결하기 위해서는 자연현상에서 도출된 수학문제를 풀어야 한다. 코닥필름 회사의 창업주 조지 이스트먼이 IAS 초대원장인 에이브러햄 플렉스너에게 ‘막대한 재산을 가장 쓸모있는 것을 교육하는 기관에 기부하겠다’고 말했다. 플렉스너는 이스트먼에게 ‘과학 분야에서 가장 쓸모있는 일을 한 사람이 누구냐’고 물었고, 이스트먼은 무선전신기를 발명한 굴리엘모 마르코니라고 답변했다. 하지만 플렉스너는 무선통신과 관련된 과학 분야에서 마르코니의 업적은 하찮은 것이고, 1861년에 전기와 자기를 종합한 전자기파의 특성을 수학의 4개 편미분 방정식으로 표현한 제임스 클러크 맥스웰에게 모든 공을 돌려야 한다고 언급했다. 플렉스너에 따르면 인류에게 유익한 발견을 한 사람은 쓸모가 있는 것을 찾아 연구하는 사람이 아니고, 쓸모는 염두에 두지 않고 호기심을 충족시키기 위해 연구를 해온 사람들이다. 그는 ‘쓸모없는 지식의 쓸모 있음’(The usefulness of useless knowledge)이라는 수필을 쓰기도 했다. 결국 호기심이 주도한 연구는 창조성으로 직결되며, 많은 경우 인류에게 유익한 결실을 창출한다. 고등과학원은 한국에서 호기심의 최전선이어야 한다. 또 창조성의 발상지여야 하고 상상력의 무대여야 한다. 한국이 진정한 선진국으로 발돋움하는 과정에서 고등과학원이 크게 기여할 것이라고 믿는다.”

―사람들은 수학을 어렵다고 생각합니다. 수학의 중요성과 수학에 대한 이미지는 괴리가 큽니다.

“한국에서 수학은 입시를 준비하는 중·고등학생들의 전유물이었다. 경쟁이 치열한 대입 터널을 통과하면 수학과 대부분 작별을 고했다. 이는 수학을 단순히 성적을 올리려는 목표를 위해 공부했기 때문이다. 우리나라 유소년 축구에서도 비슷한 현상을 볼 수 있다. 대학교 입학을 위해 축구대회에서 좋은 성적을 올리려고 한다. 유소년 때는 기본기를 익히고 대회 참가 횟수를 줄이면서 즐기는 축구를 해야 성인이 돼서 잘하게 된다. 그러나 최근 머리를 다양하게 쓰기 위해, 또는 문제 푸는 재미와 기쁨을 얻으려고 수학을 공부하는 사람들이 늘고 있다. 다행스러운 움직임이다. 인공지능(AI)과 이세돌 바둑 대국 이후 AI에 대한 관심이 높아지면서 수학을 공부하려는 사람도 늘고 있다.

―최근 ‘수포자(수학포기자)’라는 용어가 회자되는데, AI와 수학의 연관성을 설명해 주신다면.

“4차 산업혁명 시대를 이끄는 AI의 핵심은 수학이다. AI는 결론을 도출하기 위해 수학적 방법을 쓰기 때문이다. 문제가 무엇인가를 파악하고, 가장 효율적인 해결책을 찾아내는 과정을 수학적으로, 추상적으로 표현할 수 있다. 예를 들어 무인 자동차의 자동 운전 시스템에서 사물을 인식하고 추적하기 위한 기술에는 기하학, 위험 요소 평가에는 확률론, 시스템에 대한 요구 수행 평가에는 논리학이 적용된다. 교차로에서 1000분의 1초 사이에 컴퓨터가 삼각법과 미분방정식을 이용해 교차로를 통과하는 차량들의 운행 경로들을 모의실험해 보고 다른 차량 경로와 충돌하지 않도록 한다. 양자컴퓨터는 얽힘이나 중첩 같은 양자역학적인 현상을 활용해 자료를 처리하는 계산기계다. 과학자들은 현재 슈퍼컴퓨터로 수십억 년이 걸리는 문제를 몇 초안에 풀 수 있는 AI를 발달시키기 위해 노력하고 있다.”

―수학을 포기하면 안 되는 이유를 수학자 입장에서 더 구체적으로 제시해 주십시오.

“인간이 느끼는 아름다움에는 두 가지가 있다. 예술적인 아름다움과 논리적인 아름다움이 그것이다. 2014년 영국의 신경과학자가 자기공명영상(MRI) 장치를 발견한 사실은 아름다운 예술작품을 보거나 들었을 때 활성화되는 뇌의 부위와 수학자가 아름다운 정리나 증명을 읽었을 때 활성화되는 뇌의 부위가 같다는 것이다. 수학을 포기하는 것은 인생의 아름다움 상당 부분의 감상을 포기하는 것이다. 그리고 인생을 합리적으로 살 수 있는 가능성이 줄어들게 되는 것이다. 자연수 중에서 1과 자기 자신만으로만 나뉘는 수를 소수라고 부른다. 2, 3, 5, 7, 11 등이다. 소수가 무한히 존재한다는 사실의 증명은 얼마나 아름다운가.”

“주입식 선행학습은 속도경쟁일 뿐… 다르게 생각하는 법 막는다”

―AI가 인간영역을 침해해 피해를 줄 것이란 우려도 있습니다.

“인간은 AI를 잘 다루고 컨트롤해야 한다. 물론 AI가 인간의 능력을 뛰어넘어 인간을 해칠 가능성도 있는 만큼 인간은 뛰어난 AI를 제조하기에만 급급해하지 말고 AI의 능력을 파악하고 인간에 미치는 영향을 깊이 고민할 필요가 있다. 인간이 AI를 휘하에 두기 위해서는 두 가지 점을 특히 주의해야 한다. 첫째, 인간은 창의성을 이전보다 갈고 닦아야 한다. AI가 인간보다 창의력이 앞설 것으로 보지 않지만 인간의 창의력에 접근하리라고 본다. 인간의 앞선 창의력으로 AI의 능력을 감시해야 한다. 둘째, 인간은 인문학적 소양을 깊이 쌓아야 한다. AI는 인문학적 내용을 적용할 줄 모른다. 제2차세계대전 당시 앨런 튜링이 만든 암호해독기로 독일의 암호를 해독하는 데 성공했을 때 영국군 지휘부에서는 해독한 것 중 일부 정보만 이용하고 나머지 정보는 의도적으로 모르는 척해서 독일이 연합군의 암호해독 가능성을 의심하지 않도록 했다. 이 사건에서 우리는 최고 차원의 AI도 인간이 인류애적인 차원에서 다스려야 한다는 교훈을 얻는다. 결론적으로 AI를 인간이 발전시키는 동시에 인간은 창의성을 제고하고 인문학적 소양을 키워 AI를 컨트롤함으로써 AI와 공존하는 풍요로운 인간사회를 꾸려나가야 한다.”

―실생활에서 수학이 쓰이는 기계적 부분은요.

“GPS의 기능은 대수학, 기하학, 상대성이론에서 나온다. 약한 신호(텔레비전이 수신하는 신호의 10억 분의 1 이하)로부터 신뢰할 만한 데이터를 추출하는 경우 정보이론이 필요하다. GPS를 결정적으로 쓸모 있게 하기 위해서는 상대성이론이 필요하다. 인공위성에서 전파를 보내 차의 위치를 알아내는데, 위성이 빨리 움직이면 특수상대성이론에 의해 시간이 천천히 가고, 위성이 지구에서 멀리 떨어져 있으면 일반상대성이론에 의해 시간이 빨리 간다. GPS를 정확히 쓰려면 특수·일반상대성이론에 의해 시간이 바뀌는 것을 보정할 필요가 있다. 굉장히 쓸모가 많은 GPS도 상대성이론이 결정적 역할을 한다. 일반상대성이론은 비유클리드기하학을 통해 발전됐으며, 비유클리드기하학은 그리스 시대부터 2000년간 유클리드기하학의 제5공리를 증명하려다가 실패하는 과정에서 나왔다. 로봇의 자율기능에도 기하학, 통계학, 그래프 이론, 미분방정식, 선형대수학이 필수적이다. 로봇에는 시각, 패턴 인식, 음성 인식을 위한 알고리즘, 그리고 누적된 오류들이 로봇의 성능에 영향을 끼치지 않도록 불확실성을 처리하는 알고리즘이 필요하다.”

―수학에 관심을 가진 계기가 궁금합니다.

“경기고 재학시절 독일의 이론물리학자인 알베르트 아인슈타인과 영국의 물리학자이자 수학자인 아이작 뉴턴의 전기를 읽고 깊은 감명을 받았다. 그래서 수학을 전공하기로 마음먹었다. 수학자로서 세부적 연구주제는 비누막과 같이 넓이를 최소로 갖는 극소곡면이다. 극소곡면은 아름답고 구조적으로 단단하며 간단한 방정식을 만족해 건축 부분에 응용이 되고, 벌집, 현무암 구조, 우주 성운의 집합 등에서도 관찰할 수 있다. 극소곡면은 평면처럼 단순한 성질로 인해 다른 어려운 수학문제의 해결에도 자주 이용된다. 수학은 엄정한 논리의 학문으로 인간적인 면과 동떨어진 학문으로 간주하기 쉽다. 그러나 수학을 가르치며 인간과 인간의 만남이 이뤄지고 인간적 관계도 생긴다. 수학 연구를 하며 새로운 이론을 발견해 새로운 정리를 증명할 경우 논문을 쓰게 된다. 논문을 학회에서 발표하려면 자신의 이론과 증명을 재미있고 알기 쉽게 설명해야 한다. 결국 수학을 잘하려면 스토리텔링을 잘해야 한다. 이래서 수학도 상당히 인문학적이라고 할 수 있다.”

―연구주제가 최소넓이를 갖는 곡면인데, 수학과의 관계를 쉽게 설명해 주신다면.

“쉽게 말해 비누거품, 비누막, 비눗방울을 연구한다. 동그란 철사를 비눗물에 담갔다가 꺼내면 비누막이 생기는데, 강하게 수축하는 힘이 작용해 비누막 넓이가 최소가 된다. 비누막 형태의 곡면은 넓이가 가장 작아서 경제적이며 구조적으로는 탄탄하다. 따라서 비누막은 뮌헨올림픽 스타디움의 지붕 같은 건축물 구조에 쓰인다. 또 비누막은 자연의 모든 것처럼 안정적 상태로 있다. 안정적 성질은 수식으로 표현이 되는데, 우주 공간에서 에너지가 양수임을 증명할 때도 비누막이 쓰인다. 즉 우주공간의 곡률과 비누막의 관계, 안정성의 관계, 그것으로부터 안정적인 부분이 존재하려면 우주의 질량은 양수여야 하고, 수학을 통해 증명돼야 한다.”

―사회현상 중 이해가 안 된다고 생각하는 부분은 무엇인가요.

“여러 가지가 있을 수 있겠지만, 직접 피부로 접하는 부분은 수학교육이다.”

―‘한국 바둑과 반도체가 세계 최고인 이유는 정부 관료들이 잘 모르기 때문’이란 우스갯소리가 있는데, 대입 문제풀이 목적인 수학 교육의 개선방향에 대해 조언해 주십시오.

“복소수와 벡터를 고등학교에서 배웠다. 벡터를 이용해 피타고라스 정리를 증명하는데, 너무나 흥미로웠다. 하지만 현재 고등학교 수학교과 과정에서 복소수는 빠졌고, 벡터도 빠질 뻔하다가 간신히 살아남았다. 중·고등학생 시절은 감수성이 예민한 시기다. 이때의 감수성은 모르는 지식에 대한 갈증을 낳고, 감수성을 자극시키며 습득된 지식은 평생 기억에 남는다. 인간의 감수성은 예술적인 감수성과 과학적인 감수성으로 나눠볼 수 있다. 우리나라는 역사적으로 문(文)을 중시해 예술적 감수성을 중요시했으나 과학적, 논리적인 감수성에 대해서는 무심했다. 그 결과 수학, 과학에 대한 교육과 평가제도가 아직도 체계적으로 이뤄지지 않고 있다고 본다. 사회 전체가 한 방향으로 누가 빨리 달리는지 속도만 평가하고 있다. 이를 위해 고교 학생들은 선행학습에 내몰리고 짓눌리고 있다. 수학 선행학습의 경우 수학의 즐거움과 묘미를 잃게 만든다. 사회가 여러 방향으로 각각 걸어가도 좋게 평가가 된다면 수학의 즐거움을 찾는 학생이 늘어날 것이다. 선행학습이 횡행하는 나라에서는 창의성을 꽃피울 수 없고, 그런 나라가 진정한 선진국이 되는 길은 요원하다.”

―한국 교육의 문제점을 좀 더 구체적으로 말씀해 주십시오.

“논문 작성은 뭔가 다른 학자들과 다른 내용을 연구하고 새로운 결과를 발표하는 행위다. 한국 학생들은 허수아비라는 말을 듣는다. 학과목 성적은 잘 나오는데 독창적으로 논문 쓰는 과정에 들어가면 어려움을 겪는다. 남들과 다른 시각을 논문에서 제시해야 하는데, 한국교육은 같은 방향으로 가면서 누가 빨리 도달하는가를 경쟁한다. 하지만 외국은 같은 방향으로 갈 필요 없으니 제각기 다른 방향으로 가서 다른 것을 발견하는 과정을 높이 평가한다. 같은 내용을 미리 배워 암기하는 것이 선행학습이다. 결국 선행학습은 자기 나름대로 사고하고 싶은 것을 막게 되고, 그런 의미에서 창의성을 떨어뜨리는 결과가 나타난다. 선진국들은 다르게 사고하는 방식을 중요하게 여긴다.”

―문재인 정부의 정시확대 입시정책에 대해서 평가하신다면요.

“눈앞의 현상에 대해 이래라저래라 할 수 있는 식견은 없다. 지금 내 위치와 역할도 그것은 아니라고 생각한다. 하지만 멀리 보면 선행학습은 반드시 없어져야 하고, 과학적인 감수성을 키우는 교육이 중요하다. 물론 자발적인 선행학습은 좋은 기능을 한다. 학원 등에서 하는 주입식 선행 학습은 바람직하지 않다.”

―화제를 잠깐 돌려보겠습니다. 최근 신종 코로나바이러스 감염증(COVID-19)으로 전 사회가 비상인데, 고등과학원에도 외국인 학생이 많을 텐데 어떤 대응을 하고 있나요.

“포스트 닥 과정에 100여 명의 연구원 중 40%가 외국인이다. 최근에 중국을 다녀온 연구원 5명 중 4명은 국내에 입국했고, 2주간 자가격리 과정을 거쳤다. 솔직히 상당히 미안하더라. 1명은 우한(武漢) 출신이 아닌데도 아예 중국에서 입국하지 못했는데, 이들에 대해서는 정부의 방침에 따라 처리할 예정이다. 학기가 새로 시작되기 전에 가라앉기를 바란다. 그나마 치사율이 높지 않아서 다행이다.”

―미국 유학시절 지도교수는 누구인가요.

“1981년 UC 버클리대로 유학을 갔다. 지도교수는 당시 유명했던 리처드 쉔 교수였는데, 나와는 나이가 세 살 밖에 차이가 나지 않았다. 쉔 교수는 스탠퍼드대로 옮겼다가 다시 UC 어바인으로 가서 지금도 석좌교수로 있다. 제자나 동료가 물어볼 때 항상 성실히 답해주는 최고의 지도교수로 연구업적이 대단한 분이다. 그분의 지도교수는 한 살 위인 싱퉁 야우 교수로 필즈 메달 수상자다. 지도교수 쉔에게서 많이 배우고 도움도 많이 받았다. 나 보고 ‘꾸준하고, 끈질기다. 다른 동양 학생들은 순종적(obedient)인데, 남과 다른 것 같다’고 평가해 줘서 감사했다.”

―한국 수학계에서는 언제쯤 노벨상이 나올까요.

“일제강점기에 우리는 수학을 제대로 연구하지 못했다. 해방 이후 제대로 시작했는데, 나의 경우 2세대라고 할 수 있다. 노벨상을 받으려면 3대에 걸친 노력의 결실이 있어야 한다. 학문적으로 3대에 걸친 연구의 축적이 이뤄져야 한다는 말들을 학계에서는 종종 한다. 일본에서 노벨 물리학상을 받는 사람들도 3대째에 받았다고 한다. 수학은 이제 3대를 형성하려 하고 있다. 우리나라 수학자는 왜 못 받느냐고 재촉하기 전에 좀 더 기다릴 필요가 있다. 물론 수학을 필즈상, 아벨상을 받으려고 하는 것은 아니다. 나는 수학을 왜 저렇게 될까 하는 호기심에서 출발했다.”

정리 = 조재연 기자 jaeyeon@munhwa.com

[문화닷컴 바로가기|문화일보가 직접 편집한 뉴스 채널|모바일 웹]

이 기사에 대해 어떻게 생각하시나요?

문화일보에서 직접 확인하세요. 해당 언론사로 이동합니다.