*사라 하트는 수학자이자, 책 <Once Upon a Prime: The Wondrous Connections Between Mathematics and Literature.(수학과 문학의 놀라운 연결고리의 역사를 찾아서)>의 저자다.
"나를 이슈메일이라 불러다오." 문학사에서 가장 유명한 첫 문장 가운데 하나일 것이다. 하지만 부끄럽게도 나는 최근에 와서야 그 문장 뒤에 어떤 내용이 오는지를 알게 됐다.
소설 <모비딕>은 나에게 '오래전에 읽었어야 할 책'이라는 카테고리의 대표주자로 죄책감을 불러일으키면서도 좀처럼 손에 잡히지 않는 책이었다. 게다가 나는 수학자다. 문학에 관심이 없는 건 아니지만, 고래에 대한 400쪽짜리 소설은 지적 우선순위에서 밀려날 수밖에 없다고 생각했다.
그러던 어느 날 그 생각이 완전히 뒤집혔다. 동료 수학자가 <모비딕>에 사이클로이드에 대한 이야기가 나온다고 말하는 것을 우연히 듣고 나서였다.
사이클로이드는 이 세상에 존재하는 가장 아름다운 수학적 곡선 가운데 하나다. 프랑스의 수학자 블레즈 파스칼은 사이클로이드에 너무도 매혹된 나머지, 사이클로이드를 떠올리기만 해도 혹독한 치통을 잊을 수 있다고 말한 바 있다. 그렇게나 유명한 곡선이지만, 고래 사냥과의 관계는 잘 알려지지 않았다.
동료의 말에 흥미가 생긴 나는 마침내 <모비딕>을 읽기 시작했고, 이 소설이 수학적 비유로 가득 차 있다는 사실에 무척 기뻤다. 나아가 허먼 멜빌뿐 아니라 레프 톨스토이도 미적분학에 대해, 제임스 조이스도 기하학에 대해 썼다는 사실도 알게 됐다. 마이클 크라이튼의 소설 <쥬라기 공원>의 근간에는 프랙털 구조가 있고, 대수적 원리가 시의 다양한 형식에 적용된다는 것도 알게 됐다. 아서 코난 도일과 치마만다 응고지 아디치처럼 접점이 없어 보이는 두 작가에게도 의외의 공통점이 있었다. 작품 속에 수학자가 등장한다는 점이다.
특정 장르나 작가의 수학적 측면에 관한 학술 연구가 없었던 것은 아니다. 그러나 수학과 문학 사이의 보다 전체론적인 관계는 지금까지 마땅한 주목을 받지 못했다.
오히려 문학과 수학은 서로 대립하는 관계에 놓이기 십상이다. 최근 수십 년간 영국 교육 제도하에서 학생들은 종종 수학과 과학, 그리고 인문학 중 하나를 선택하기를 강요받았다. 내가 마지막으로 영어 수업을 들었던 건 1991년이었는데, 당시 선생님은 학기 말에 내가 좋아할 것 같은 책 목록을 손수 적어주시면서 이렇게 말씀하셨다.
"너를 실험실에 빼앗기게 되어 유감이구나"
문학과 멀어진 사람으로 취급받는 것은 나도 유감스러웠다. 사실 나는 언어를 사랑했고, 단어들이 서로 맞물려 가는 모습을 사랑했다. 문학이 (수학과 마찬가지로) 상상의 세계에서 한계를 만들어 내고 시험한다는 점도 마음에 들었다. 나는 수학 전공으로 옥스퍼드에 진학했는데, 어린 시절 영웅인 C.S. 루이스와 J.R.R. 톨킨이 매주 만나 작품을 논하던 펍에서 한 블록 거리에 살게 되어 너무나도 행복했다.
수학과 문학 중 하나만을 택해야 한다는 것은 비극이다. 꼭 두 분야가 불가분 하게, 그리고 근본적으로 연결되어 있어서 그런 것은 아니다. 두 분야의 연결고리를 이해하면 두 분야의 즐거움이 더욱 풍성해지기 때문이기도 하다.
문학과 수학 사이의 경계선이라는 것은 사실 상당히 최근에 와서야 만들어졌다. 기록이 남아 있는 인류의 역사 내내 수학은 교육 수준이 높은 사람이라면 마땅히 지녀야 할 교양의 일부였다.
플라톤의 '국가'는 중세의 저자들이 삼학(문법, 수사학, 논리학)과 사학(산수, 음악, 기하학, 천문학)으로 나누어 놓은 이상적인 학문의 커리큘럼을 제시하고 있다. 이들은 모두 필수 교양에 해당한다. 실제로 수학이 문학 속에서 언급되는 사례는 최소한 기원전 414년에 초연된 아리스토파네스의 희극 '새'로 거슬러 올라간다.
시집 '루바이야트'의 저자로 알려진 11세기 페르시아 학자 오마르 하이얌(오늘날 학자들은 '루바이야트'가 다수의 합작이라고 보고 있다)은 수학자이기도 했다. 그는 400년 뒤에야 온전한 대수적 해법이 밝혀진 수학 문제에 대한 아름다운 기하학적 해법을 만들어 낸 인물이다. 14세기의 작가 제프리 초서는 '캔터베리 이야기'의 저자인 동시에, 천문관측장치 아스트롤라베에 대한 논문을 쓴 학자이기도 하다. 수학자이자 작가였던 루이스 캐럴을 비롯해, 이러한 사례는 무수히 많다.
문학의 중심에서 수학을 발견하게 되는 데는 더 심오한 이유가 있다. 우주는 근간을 이루는 구조와 패턴, 규칙성으로 가득 차 있고, 수학은 이를 이해하는 데 가장 적합한 도구다. 그래서 수학은 우주의 언어라고 불리기도 하고, 과학에서 수학이 매우 중요한 위치를 차지하는 것이다. 우리 인간도 우주의 일부인만큼 문학을 포함한 창의적인 표현의 형태가 패턴과 구조를 갖는 것은 당연한 일이다.
좋은 글과 마찬가지로 좋은 수학에도 구조와 리듬, 패턴이 내재해 있다. 위대한 소설이나 완벽한 소네트를 읽을 때 우리가 느끼는 감정, 즉 모든 구성 요소가 완벽한 조화를 이룬 아름다운 존재가 여기에 있음을 실감하는 것은 수학자가 아름다운 증명을 읽을 때 느끼는 감정과 같다.
수학자 G.H. 하디는 이렇게 썼다.
"수학자는 화가나 시인처럼 패턴을 만들어 내는 사람이다. ... 수학자의 패턴은 화가와 시인의 패턴처럼 아름다워야 하고, 아이디어는 색이나 단어와 마찬가지로 조화롭게 맞아떨어져야 한다. 첫 번째 척도는 아름다움이다. 이 세상에 추한 수학이 설 자리는 없다."
이런 연결고리를 발견하고 탐험하는 것은 나의 수학자 커리어에서 큰 기쁨이었다.
맞아떨어지는 구조란 아마도 시에서 가장 뚜렷하게 드러날 테지만, 모든 글에는 구조가 있다. 글자가 단어를 구성하고, 단어는 문장을 구성하며, 문장은 문단을 구성한다. 기하학의 점, 선, 면이 갖는 위계와 마찬가지로, 모든 단계에는 제약, 즉 규칙이 적용된다. 구조가 있는가 없는가의 문제가 아니라, 어떤 구조를 선택하느냐의 문제다.
프랑스의 작가 조르주 페렉은 소설 '실종(La Disparition)'을 쓰면서 알파벳 'E'를 한 글자도 넣지 않았다. 엘리너 캐튼의 부커상 수상작 '더 루미너리스'는 각 챕터에 숫자와 관련된 구체적인 규칙을 적용하고 있다. 각 챕터의 길이가 직전 챕터의 절반에 해당한다는 규칙이다. 두 작품에 적용된 수학적인 규칙은 이야기의 주제를 강화한다. 우리가 선택하는 규칙이 창작의 영감이 되고, 가능성의 경계를 보여준다. 이는 수학에서도 마찬가지다.
수학과 문학의 연결고리가 일방통행이 아니라는 점도 지적할 필요가 있다. 수학에도 언어학적 창조의 깊은 전통이 존재한다. 고대 인도의 산스크리트 수학은 구전을 따랐다. 수학적 알고리즘을 시로 만들어 입에서 입으로 전해지도록 한 것이다.
우리의 머릿속에서 수학적 개념이란 원이면 원, 사각형이면 사각형처럼 구체적이고 고정된 것이지만, 산스크리트 전통에서 단어는 시의 음보에 맞아떨어져야 했다. 따라서 특정 숫자가 시에 들어갈 때는 그 숫자를 연상시키거나 관련이 있는 단어로 대체되기도 했다.
이를테면 숫자 '1'은 '달'이나 '지구'처럼 유일한 것, '2'는 '손'처럼 두 개인 것, 또는 '흑', '백'처럼 짝을 이루는 단어로 대체되었다. "빠진 이 3개"와 같은 표현은 치과에 관련된 내용이 아니라, 숫자 뒤에 '0'이 세 개 붙는다는 뜻이다. '32,000' 같은 숫자의 시적인 표현인 셈이다. 이렇게 수많은 단어와 의미가 수학에 풍요로움을 더해주었다.
수학이 문학적인 비유를 사용하듯, 문학에도 수학자의 훈련된 눈이 간파해 낼 수 있는 멋진 아이디어가 가득하다. 이 역시 소설 감상에 새로운 깊이를 더해준다. 멜빌의 소설에 등장하는 사이클로이드는 멋진 특성을 가진 흥미로운 곡선이지만, 포물선이나 타원과 달리 수학자가 아니면 들어본 적 없는 낯선 개념일 것이다.
참으로 안타까운 일이다. 사이클로이드는 '기하학의 헬레네'로 불릴 만큼 아름다운 곡선이기 때문이다. 사이클로이드를 만드는 것은 어렵지 않다. 평평한 길에 둥근 바퀴가 굴러가는 모습을 상상해 보자. 이제 바퀴의 가장자리에 페인트로 점을 하나 찍어보자. 바퀴가 굴러갈 때 이 점이 만들어 내는 선이 바로 사이클로이드다.