클리퍼드 픽오버, 『수학의 파노라마』 책을 시작하며 : 수학은 아름다운 동시에 유용한 학문이다

클리퍼드 픽오버

『수학의 파노라마』 책을 시작하며

- 수학은 아름다운 동시에 유용한 학문이다 -

명석한 관찰자라면 수학자란 특별한 분야에 헌신하며

우주의 심오한 열쇠를 찾는 사람이라는 결론을 내리게 될 것이다.

— 필립 데이비스와 루벤 허시, 『수학적 경험』

  수학은 모든 과학 분야에 배어들어 있으며 생물학, 물리학, 화학, 경제학, 사회학, 공학에서 수학이 하는 역할은 이루 다 가늠할 수 없을 정도이다. 수학은 석양의 색깔이나 우리 뇌의 구조를 설명하는 것을 도와준다. 초음속 항공기와 롤러코스터를 만들고, 지구의 자연 자원들의 흐름에 대한 모의 실험을 실시하고, 원자보다 작은 양자의 세계를 탐험하고, 머나먼 은하계를 상상하게 해 준다. 또한 수학은 우주를 바라보는 방법을 바꾸어 놓았다.

  나는 이 책에서 독자 여러분이 상상력을 펼치고 단련시키면서 수학의 풍미를 만끽할 수 있도록 공식은 되도록 아껴서 사용했다. 그렇지만 이 책에서 다루는 주제들이 실용성 없는 단순한 호기심거리로 그치는 것은 아니다. 사실 미국 교육부 보고서에 따르면, 고등학교 수학 과정을 성공적으로 마치고 대학에 간 학생들은 ‘전공에 상관없이’ 학업 성취도가 더 높았다.

  수학은 유용하다! 수학의 도움으로 우리는 우주선을 만들고 우리 우주의 기하학적 구조를 탐사할 수 있게 되었다. 어쩌면 우리가 외계 지적 생명체와 교신하게 된다면 최초의 의사 소통수단은 숫자일지도 모른다. 심지어 일부 물리학자들은 언젠가 우리 우주가 극도로 뜨거워지거나 차가워져 멸망할 경우, 고차원과 도형들의 상호 관계를 연구하는 위상 수학이 탈출로를 가르쳐 줄지도 모른다고 생각한다. 그렇게 되면 인류는 시공간 전체를 거주지로 삼을 수 있으리라.

  수학사를 살펴보면 동시적 발견들이 자주 일어났다. 내 책인 『뫼비우스의 띠』에서도 말했듯이, 1858년에 독일 수학자인 아우구스트 뫼비우스는 뫼비우스의 띠(면이 하나밖에 없는 신기하게 꼬인 물체)를 독일 수학자 요한 베네딕트 리스팅과 동시에, 그리고 따로 발견했다. 뫼비우스와 리스팅이 뫼비우스의 띠를 동시에 발견한 사건이나, 영국의 박식가 아이작 뉴턴과 독일 수학자인 고트프리트 빌헬름 폰 라이프니츠가 미적분을 동시에 발견한 사건을 보면 각자 연구하던 과학자들이 그처럼 동시에 그리고 따로 동일한 발견을 해내는 일이 어쩌면 그리 잦은가 하는 궁금증이 들지 않을 수 없다. 또 다른 예로, 영국 박물학자인 찰스 로버트 다윈과 앨프리드 러셀 월리스는 둘 다 진화 이론을 동시에 따로 발전시켰다. 헝가리 수학자인 야노시 보여이와 러시아 수학자인 니콜라이 로바체프스키 역시 쌍곡 기하학을 동시에 따로 발전시킨 듯하다.

  가장 그럴싸한 설명은, 동시적인 발견이 일어난 것은 그런 발견이 이루어지기에 때가 무르익었기 때문이라는 것이다. 발견이 이루어진 시기가 인류의 지식 축적 수준과 맞아떨어진 셈이다. 더러 두 과학자가 동시대 과학자의 기초 연구 결과를 읽고 똑같이 자극을 받는 수도 있다. 이런 우연들 이면에 더 깊은 의미가 있다고 생각하는 신비주의자들도 있다. 오스트리아 생물학자인 파울 카머러는 이렇게 말했다. “우리 우주는 끊임없이 뒤섞고 자리를 바꾸어 놓아도 역시 닮은 것들끼리 점점 더 가까워지게 만드는 모자이크나 만화경 같은 세계일지도 모른다.” 카머러는 우리 우주의 사건들을 대양에 이는 파도들의 고점(高點)에 비유했다. 그 파도들은 서로 분리되어 있고 관련 없어 보인다. 그러나 카머러는 우리가 비록 파도의 고저밖에 인지하지 못한다 해도, 그 표면 밑에는 이 세계에서 일어나는 사건들을 신비로운 방식으로 서로 잇고 엮는 일종의 동일화 메커니즘이 존재할지도 모른다고 주장한다. 논란의 여지가 있는 생각이지만 그만큼 설득력도 강하다.

  수학사가인 조르주 이프라는 『수의 보편 역사』에서 마야 수학을 이야기하면서 이 ‘동시에 따로’ 문제를 거론한다.

 

따라서 우리는 시간적으로나 공간적으로나 멀찍이 떨어져 있었던 사람들이 어떻게 똑같거나 적어도 대단히 비슷한 결론을 마주하게 되었는지를 아직 알지 못한다. 일부 경우에는 서로 다른 무리의 사람들이 서로 접촉하면서 영향을 미쳤다는 식으로 그것을 설명할 방법을 찾을 수 있을지도 모른다. …… 진정한 해명은 우리가 이전에 심오한 문화적 통합이라고 일컬었던 무엇에 놓여 있다. 호모사피엔스의 지능은 보편적이며, 그 잠재력은 세계 어느 곳에서나 놀라울 정도로 일치한다.

  고대 그리스 인들은 수에 깊이 매료되었다. 어쩌면 전란의 시대에 끝없이 변화하는 세계에서 수만이 유일하게 항구적인 요소처럼 보였기 때문일 수 있다. 고대 그리스의 피타고라스 학파에게 수는 손으로 만질 수 있고 불변하며 편안하고 영원한 무엇이었다. 친구보다도 더 믿음직했고 아폴로와 제우스처럼 위협적이지 않았다.

  이 책도 여러 항목들에서 정수 같은 수들을 다룬다. 탁월한 수학자로 정수를 연구하는 정 수론에 매료되었던 에르되시 팔은 말로 설명하기는 쉽지만 풀기는 무척이나 어려운, 수론 문제들을 뚝딱 만들어 내고는 했다. 에르되시는 만약 수학에서 한 세기 이상 풀리지 않는 문제가 나온다면 그 문제는 정수론에서 나올 거라고 믿었다.

  우주의 수많은 양상은 정수로 나타낼 수 있다. 데이지 꽃잎의 배열, 토끼의 번식, 행성 궤도, 음악의 화음, 주기율표 원소들 사이의 관계는 모두 정수와 관련된 패턴들을 이용해 설명할 수 있다. 독일 대수학자이자 정수론 연구자였던 레오폴트 크로네커는 이렇게 말하기도 했다. “정수는 신이 만들었고 나머지는 모두 인간이 만들었다.” 수학의 근본 원천은 모두 정수라는 뜻이다.

  음계에서 정수비의 역할은 피타고라스 시대부터 이미 널리 알려져 있었다. 하지만 더욱 중요한 것은 정수가 인간의 과학적 이해를 증진시키는 데 핵심적 역할을 했다는 것이다. 예를 들어 프랑스 화학자인 앙투안 라부아지에는 화합물이 작은 정수비에 들어맞는 일정한 비율로 결합한 원소들로 이루어져 있다는 사실을 발견했다. 이것은 원자가 존재한다는 무척 강력한 증거였다. 1925년 들뜬 원자들이 방출한 스펙트럼선의 파장에서 발견한 정수비는 원자의 구조를 밝히는 데 초기 실마리 역할을 했다. 원자의 질량이 원소에 따라 정수에 가까운 비례를 보인다는 것은 원자핵이 정수개의 비슷한 핵자들(양자와 중성자)로 이루어져 있다는 증거였다. 정수비에서 벗어난 것들은 동위 원소(화학적 성질은 거의 동일하지만 중성자의 수가 다른 변종)를 발견하는 데 큰 역할을 했다.

  자연 동위 원소들의 원자량은 정확한 정수가 아니다. 그 작은 차이는 아인슈타인의 유명한 방정식인 E=mc2와 원자 폭탄을 엮는 출발점이 되었다. 원자 물리학에서는 어디서나 정수를 볼 수 있다. 정수는 수학이라는 직물에서 기본이 되는 실 역할을 한다. 독일 수학자 카를 프리드리히 가우스는 “과학의 여왕은 수학이고, 수학의 여왕은 정수론이다.”라고 말했다.

  우리는 우주를 설명할 때 수학에 의지한다. 그리고 그 정도는 갈수록 더 심해질 것이다. 그러나 우리의 뇌와 언어를 바꾸기란 쉽지 않다. 새로운 종류의 수학이 계속 발견되거나 창조되지만 그것을 생각하고 이해하는 새로운 방법은 그것을 따라잡지 못한다. 예를 들어 지난 몇 년간 수학사의 유명한 문제들에 대한 수학적 증명들이 제시되었지만 관련 논쟁은 너무나 길고 복잡해서 전문가들조차 자기가 맞는지 확신하기 어려운 형편이었다. 저명한 수학 학술지 《수학 연보》에 기하학 논문을 제출한 수학자 토머스 헤일스는 전문 검토자들에게서 아무런 오류가 없으므로 지면에 발표해 주겠다는 결정을 듣기까지 ‘5년’이나 기다려야 했고, 게다가 그 학술지 편집자는 논문이 옳다고 확신하지 않는다는 단서까지 달았다! 게다가 키스 데블린은 《뉴욕 타임스》에 “수학자들의 이야기는 극히 추상적인 단계에 도달해서, 그 최전선에 있는 문제들 다수는 심지어 전문가들도 이해할 수 없다.”라고 썼다. 수학자들조차 인정할 정도인 것이다. 전문가들이 그렇게 어려움을 겪을진대 일반 청중에게 전달하는 것이 얼마나 어려울지는 쉽게 이해가 될 것이다. 우리는 최선을 다한다. 수학자들은 이론을 구축하고 계산을 할 수는 있지만, 수학적 개념과 원리를 과학적으로 완전히 이해하고 설명하거나 전달하기는 역부족일지도 모른다.

  물리학에서도 비슷한 이야기를 할 수 있다. 베르너 카를 하이젠베르크가 인류는 끝끝내 원자를 제대로 이해하지 못할 수도 있다는 우려를 표했을 때, 닐스 헨리크 다비드 보어는 약간 더 낙관적인 견해를 보였다. 보어는 1920년대 초반 이렇게 대답했다. “나는 아직 우리가 이해할 수 있는 가능성이 있을지도 모른다고 생각하지만, 그 과정에서 ‘이해’라는 말이 진실로 무슨 뜻인지를 배워야 할지 도 모릅니다.” 오늘날 우리는 직관의 한계를 넘어서 사고하기 위해 컴퓨터의 도움을 받는다. 컴퓨터 같은 기계들을 쉽게 사용할 수 있게 되기 전에는 꿈도 꾸지 못했던 발견과 통찰을 컴퓨터를 이용한 실험들이 가져다주고 있다. 컴퓨터와 컴퓨터 그래픽은 연필과 종이로 증명하려면 한참 기다려야 하는 결과들을 일찍 발견하게 해 주었고, 완전히 새로운 수학 분야를 마련해 주었다. 심지어 스프레드시트 같은 단순한 도구조차 가우스나 레온하르트 오일러나 뉴턴 같은 이들이 갈망했을 만한 능력을 발휘한다. 간단한 예로 1990년대 후반, 데이비드 베일리와 핼러먼 퍼거슨이 설계한 컴퓨터 프로그램은 원주율과 log5와 다른 두 상수의 관계를 밝히는 새로운 공식을 내놓는 데 일익을 담당했다. 에리카 클라리히가 《사이언스 뉴스》에서 보도했듯이, 컴퓨터가 그 공식을 내놓은 다음에는 그것이 옳은지 그른지 증명하기가 지극히 쉬워졌다. 어떤 증명을 제시할 때 극복해야하는 가장 큰 장애물이 단순히 답을 ‘아는’ 것일 경우가 적지 않다.

  수학 이론들은 여러 해를 기다려야 하는 현상을 예측하는 데 이용되기도 한다. 예를 들어 물리학자 제임스 클러크 맥스웰의 이름을 딴 맥스웰 방정식은 전파를 예측했다. 아인슈타인의 장 방정식의 예측에 따르면 중력은 빛을 휘게 만들며 우주는 팽창한다. 물리학자 폴 디랙은 언젠가 우리가 지금 연구하는 이론 수학에서 미래의 물리학을 슬쩍 엿볼 수 있다고 말하기도 했다. 사실 디랙의 방정식에서 예견된 반물질의 존재는 그 후에 실제로 증명되었다. 러시아 수학자인 니콜라이 로바체프스키가 “아무리 추상적이어도, 언젠가 실제 세계의 현상에 적용되지 않을 수학 분야는 하나도 없다.”라고 말한 것도 비슷한 맥락이다.

  이 책에서 독자 여러분은 우주를 이해하는 열쇠를 쥐고 있다고 생각되어 온 다양하고 흥미로운 기하들을 만나 보게 될 것이다. 갈릴레오 갈릴레이는 “자연이라는 위대한 책은 수학 기호로 씌어져 있다.”라고 이야기했다. 요하네스 케플러는 십이면체 같은 플라톤의 입체들을 가지고 태양계의 모형을 만들었다. 1960년대에는 물리학자인 유진 위그너가 “자연 과학에서 수학은 말도 안 될 정도로 엄청난 능력을 발휘한다.”라며 감탄을 표하기도 했다. E8 같은 대형 리 군은 언젠가 우리가 물리학의 통일 이론을 세우는 데 한몫할지도 모른다. 2007년에 스웨덴계 미국인인 우주론 연구자 맥스 테그마크는 과학자와 대중 양쪽을 대상으로 수학적 우주론을 설명하는 논문을 발표했는데, 그 논문에 따르면 우리가 사는 물리적 현실의 구조를 이루는 것은 다름 아닌 수학이다. 다시 말해 우리 우주는 그저 수학의 ‘설명 대상’이 아니라 수학 ‘그 자체’이다.

『수학의 파노라마』 도서정보 (클릭)