수학은 어떤 종류의 이야기인가? [김민형의 여담]

게티이미지뱅크

김민형 | 영국 에든버러 국제수리과학연구소장

게임이론 대가인 경제학자 아리엘 루빈스타인은 ‘경제학은 이야기’라고 자주 주장한다. 몇년 전에 그를 만난 이후 여러번의 대화와 서신을 통해서 이 말의 뜻을 파악하려고 나름 노력했다. 이 주장의 일면은 경제학이 ‘하나의 이야기일 뿐’이라는 겸손이다. 경제학이 현실을 정량적으로 설명하거나 예측하는 것은 정말 어렵다는 사실을 누구나 안다. 그렇기 때문에 학술 논문들 자체를 일종의 소설로 간주하자는 주장에는 경제학자가 자기 업의 약점을 솔직하게 인정해야 한다는 입장이 포함돼 있다. 그러나 루빈스타인은 문학을 무척 사랑한다는 사실이 그의 주장의 양면성을 나타낸다. 그는 자신이 안톤 체호프의 소설 같은 문학을 창출할 능력이 있었다면 경제학을 안 했을 것이라고 설명한다. 즉 문학의 높은 가치를 아는 사람에게서 ‘소설일 뿐’이라는 비하적 표현이 단순하게 나올 수 없다. 경제학의 가장 좋은 이론은 정량적인 정확도가 떨어지는 가운데서도 현실에 대해서 뛰어난 문학 작품 같은 통찰력을 제공한다고 그는 믿는 것 같다.

인간의 거의 모든 학문·창작 활동은 세상을 이해하려는 목표를 가지고 있다. 과학자는 경험을 근거로 이론을 제시하고 실험을 통해서 검증 혹은 반증하려고 노력한다는 것이 보통의 관념이다. 이런 과정을 통해서 비교적 정확한 지식과 역량이 쌓여 왔고 지금은 과학적 방법론이 사회의 기둥을 이룬다. 뛰어난 소설이 세상에 대해서 가르쳐 주는 바는 무엇인가? 뉴턴 역학 같은 정량적 정확성은 당연히 없다. 그러나 위대한 소설이 우리의 지혜를 한없이 깊고 넓게 만들어 준다는 사실은 누구도 부인할 수 없다. 절묘한 문장력이 표현하는 극적인 장면의 분위기는 현실에 대한 인사이트(통찰)를 학술 논문보다 훨씬 강하게 전하기도 하고 독자가 다른 사람들 마음속으로 들어가 볼 기회를 부여하기도 한다. 문학적 이해는 과학 이론 못지않게 인류의 지적 발전에 필수 불가결하다.

수학에 루빈스타인의 관점을 적용할 수 있는가? 많은 수학자는 수학을 ‘진리’의 영역으로 보면서 공상의 세계와 엄밀하게 구분하고 싶어한다. 그러나 수학이 일종의 해로운 픽션이 될 수 있다는 비판은 이미 여기저기서 거론된다. 가령 2008년 경제 위기를 분석하면서 경제학자 폴 크루그먼은 ‘경제학자들이 집단적으로 멋있는 수학으로 치장된 아름다움을 진리로 착각한 것’을 원인으로 지목했다. 또, 대중 물리학자 자비네 호젠펠더는 초끈 이론에 대한 회의를 표명하면서 물리학에서의 아름다운 수학의 역할을 거의 똑같이 비판했다. 그들의 의견에 동의하지 않더라도 어느 정도의 타당성은 인정할 수 있다. 수학으로 기술된 세상의 정량적 이론은 대단한 위력을 발휘하면서도 전문가들까지 크게 오도할 수 있는 것이 사실이다.

수학이 정말로 일종의 문학인가, 그리고 그런 면이 이로운가 해로운가라는 어려운 질문을 피하면서도 수학자 글의 문학적 특성을 생각해 본 결과 다음과 같은 짧은 목록을 만들어 보았다. 첫째, 수학은 당연히 확장된 언어를 사용한다. 일반인에게는 외국어같이 보이는 전문 용어와 개념이 수학적 글의 주류를 이룬다. 둘째, 수학 작품은 유별난 집중력을 요구한다. 통상적인 문학 작품도 당연히 난이도가 다양하지만 수학처럼 글 한줄을 이해하는 데 몇시간이나 며칠 걸리는 일이 흔하지는 않다. 셋째, 수학이 세상에 대해 전해주는 지식은 특이한 정확성을 내포한다. 예를 들어 행성의 궤적이 타원이라는 것을 알면 몇번의 관측만으로도 전체 궤적의 모양을 세밀하게 파악하는 게 가능하다. 넷째, 수학 작품은 창작 과정이나 독서 둘 다 집단 지성을 부단히 활용한다. 수학 작품은 이미 쓰인 작품들을 수없이 인용하기도 하고 남의 글을 읽을 때도 다른 독자들과 계속 이해한 바를 공유한다. 다섯째, 뛰어난 수학 이야기는 끝이 없다. 대부분 문학이 전통의 흐름 속에서 쓰이지만 수학 저자들은 거의 항상 공공연하게 여러 사람이 긴 기간 써 내려온 이야기의 새로운 장을 펼치려는 의도로 일한다.

많은 이가 이런 특성을 어느 정도 의식하고 있으면 수학 작품을 읽는 데 다소 도움이 되지 않을까 나름 기대해본다.

▶▶[한겨레 후원하기] 시민과 함께 민주주의를!

▶▶민주주의, 필사적으로 지키는 방법 [책 보러가기]

▶▶한겨레 뉴스레터 모아보기