[수학] 전체주의로부터 탈출한 수학 천재들

1933년 봄 이후 독일 대학에서 일어난 일은 잘 알려져 있다. ‘인종적으로 바람직하지 않은’ 교수들에 대한 대량 해임이 이루어졌고, 나치 정권의 사상에 순응하는 교수들에 대한 정치적 임명 및 승진이 이루어졌다. 책이 불태워지고 보이콧 목록이 작성되었으며, 검열을 위해 원고를 제출해야 했다. 학문적 자치는 이제 사라져 버렸다. 괴팅겐 대학은 유대인 교수들의 추방과 전체주의 정부 아래에서 진지한 연구가 불가능하다는 것을 깨달은 학자들의 자발적인 사임으로 다시는 회복하지 못했다. 히틀러 정권 첫해에 교수진은 평균 16%의 수치적 감소세를 보였고, 이후 5년 동안 기존 교수진의 45%가 자리를 옮겼다. 가장 촉망받던 학자들은 다른 나라에서 그들의 지적 에너지와 상상력을 펼쳤고, 자국에서 저명한 학자들이 채우던 자리는 덜 뛰어난 인재들에게 넘어갔다. 모든 독립성을 빼앗긴 존경받는 학술 기관은 이제 ‘나치 대학’으로 바뀌었다.

 

괴팅겐 대학의 수학연구소

현대 수학의 아버지, 다비트 힐베르트(David Hilbert, 1862~1943)는 가우스, 디리클레, 리만이 불을 지핀 명예로운 수학 전통이 깨져버린 ‘텅 빈’ 괴팅겐에 사실상 홀로 남겨졌다. 한때 대학이 자랑스러워했던 학자 중 에미 뇌터, 리하르트 쿠란트, 헤르만 바일, 오토 노이게바우어, 펠릭스 번스타인, 한스 레비, 파울 베르나이스 등은 모두 독일 밖으로 피난을 떠났기 때문이다. 바일의 표현을 빌리자면 ‘괴팅겐은 바람 속으로 흩어졌다’라고 말할 수 있다. 힐베르트는 나치 교육부 장관으로부터 유대인의 영향력에서 벗어난 괴팅겐에서 수학이 어떻게 발전하고 있느냐는 질문을 받았을 때 "괴팅겐의 수학? 더 이상 없습니다.”라고 대답할 수밖에 없었다. 힐베르트가 자신의 영혼에 깊은 인상을 남겼던 수학의 시대는 이제 종말을 맞이했다.

 

수많은 미국 대학이 교수진에 독일 수학자를 한 명 이상 추가함으로써 히틀러의 미친 인종 정책의 혜택을 누렸다. 1933년에 시작된 첫 번째 이민 물결에서 프린스턴은 잘로몬 보흐너(뮌헨), 예일대는 막스 초른(할레), 펜실베니아대는 한스 라데마처(브레슬라우), 뉴욕대는 리하르트 쿠란트(괴팅겐), 켄터키 대학교는 리하르트 브라우어(쾨니히스베르크)를 선택했다. 그리고 이 목록은 점점 더 늘어났다. 프린스턴에서는 헤르만 바일과 알베르트 아인슈타인의 존재로 인해 고등연구소가 난민 수학자와 물리학자를 위한 수용소 역할을 하게 되었다. (1933년 고등연구소가 설립될 당시 수학과 교수진은 J. W. 알렉산더, A. 아인슈타인, M. 모스, O. 베블렌, J. 폰 노이만, H. 웨일 등 6명이었고, 독일이 오스트리아를 합병한 1938년 쿠르트 괴델이 영구 회원 제의를 수락했다) 나치즘이 유럽 전역에 계속 확산하면서 고국에서 쫓겨난 수학자들이 점점 더 많이 미국으로 건너갔다. 에밀 아르틴, 에르되시 팔, 쿠르트 프리드리히스, 리하르트 폰 미제스, 죄르지 포여, 스타니스와프 울람, 앙드레 베유, 안토니 지그문트 등 미국 수학자들에게 익숙한 이름들이 모두 보다 우호적인 환경으로의 탈출 대열에 합류했다. 이러한 유럽 인재의 대규모 유입으로 미국 수학은 새로운 차원으로 도약할 수 있었다.

 

1930년대 초까지 미국 수학은 점점 물리적 실체와 분리된, 형식적이고 추상적인 전문 분야의 집합으로 발전해 왔다. 응용 수학은 유럽 대학에서 항상 강력한 구성 요소였지만, 미국에서는 대부분 물리학자와 엔지니어의 손에 맡겨져 있었다. 난민 수학자들의 물결은 이러한 상황을 극적으로 그리고 영구적으로 변화시켰다. 이 새로운 이민자들은 여러 대학에서 응용 성격의 주요 연구 프로그램을 만드는 데 중요한 역할을 했으며, 가장 두드러지게는 뉴욕 대학교에서 리하르트 쿠란트(Richard Courant, 1888~1972)의 지도로 활동했다.

 

리하르트 쿠란트는 1929년에 설립된 괴팅겐 수학연구소의 소장으로 재직 중이었다. 1933년 4월, 그는 유대인이거나 유대인 아내가 있다는 이유로 연구소에서 해고되거나 휴직 처분을 받은 18명의 남성 중 한 명이었다. 케임브리지 대학에서 1년을 보낸 후 쿠란트는 뉴욕 대학의 아주 작은 대학원 수학과의 수장을 맡아달라는 제안을 수락했다. 그는 곧 괴팅겐에서 온 다른 두 명의 이민자, 한스 루이와 쿠르트 프리드리히스도 합류했다. 이 작은 수학자 그룹은 록펠러 재단의 관대한 지원금과 이후 수많은 국방 관련 프로젝트에 대한 정부 자금의 도움으로 점차 확장되었다. 전후 몇 년 동안 쿠란트는 학교의 수학 및 역학 연구소를 설립했고, 이 연구소와 함께 저널인 <Communications for Pure and Applied Mathematics>을 창간했다.

 

쿠란트는 한때 막강했던 괴팅겐 수학연구소의 미국판인 ‘수리과학연구소’를 설립하는 것을 오랫동안 구상해 왔다. 그 기회는 1952년 원자력위원회가 유일한 고속 전자 컴퓨터인 UNIVAC의 설치 장소로 뉴욕 대학교를 선정하면서 찾아왔다. 새 컴퓨터는 계속 작동해야 했기 때문에 대학은 절반만 사용할 수 있었다. 1년 만에 뉴욕 대학교 수리과학연구소가 설립되었고, 쿠란트가 소장으로 취임했다. 1958년 쿠란트가 소장에서 물러나면서 이 ‘응용 수학 분석의 수도'는 공식적으로 <쿠란트 수리과학연구소(Courant Institute of Mathematical Sciences)>로 이름이 바뀌었다.

 

쿠란트 수리과학연구소

 

실향민 유럽인 중 가장 뛰어난 수학자는 요한 폰 노이만(John von Neumann, 1903~1957)이었다. 그는 헝가리 부다페스트에서 유대인 은행가의 세 아들 중 장남으로 태어났다. 10세 무렵부터 수학적 재능을 인정받은 그는 대학교수들로부터 정기적으로 집에서 과외받았다. 폰 노이만은 1921년 부다페스트 대학교에 수학을 공부하기 위해 등록했지만, 매 학기 말 시험이 있을 때만 출석한다는 조건으로 입학했다. 아버지는 아들이 실용적인 교육을 받기를 원했기 때문에 취리히의 연방 공과대학에도 입학(1923년)했다. 이러한 비정상적인 방식으로 취리히에서 화학공학 학사 학위(1925년)와 부다페스트에서 수학 박사 학위(1926년)를 동시에 취득한 결과, 두 개의 학위를 동시에 취득할 수 있었다. 졸업 후 폰 노이만은 1926년부터 1929년까지 베를린 대학에서, 1929년부터 1930년까지는 함부르크 대학에서 개인 교수로 재직했다. 이 몇 년 동안 수학 분야에서 그의 명성이 확립되었다. 그는 엄청난 속도로 연구하면서 양자역학의 수학적 기초를 만들고, 본격적인 학문으로서 게임 이론을 창안했다. 더불어 에른스트 체르멜로와 아브라함 프렝켈과는 상당히 다른 집합론의 공리들을 제안했고, 에미 뇌터의 대수를 '연산자의 고리'(현재 폰 노이만 대수라고 함) 연구로 확장시켰다.

 

독일의 정치 상황이 악화하자 폰 노이만은 미국으로 이민을 결심한다. 1930년 프린스턴 대학교에서 방문 교수로 한 학기를 보낸 그는 1년 후 그곳에서 정규 교수직을 얻었다. 그 후 1933년, 그는 새로 설립된 고등연구소의 창립 회원 중 한 명이자 최연소 멤버로 초빙되었다.

 

폰 노이만은 1928년 논문 《팔러 게임 이론》에서 게임에 관한 수학적 연구를 시작했다. 이 주제에 대한 그의 관심은 10년 후 오스트리아의 경제학자 오스카르 모르겐슈타인이 프린스턴에 부임하면서 다시 불을 지폈다. 두 사람은 특정 경쟁적 경제 상황을 적절한 전략 게임으로 효과적으로 모형화할 수 있다고 믿었다. 두 사람의 협력 결과로 1944년에 600페이지에 달하는 고전적인 《게임과 경제 행동 이론》이 출간되었다. 폰 노이만-모르겐슈타인의 논문은 협동 게임(즉, 참가자들이 상호 이익을 위해 자유롭게 협력하는 게임)을 자세히 다루면서 폰 노이만의 초기 연구를 정교화하고 실제 게임에 적용하는 방법을 제공했지만, 이론은 일반적으로  복잡하고 설득력이 부족했다. 종합적인 수학적 경제학을 향한 중요한 발걸음은 존 내시가 21세에 쓴 《비협조적 게임(Non-cooperative Games)》이라는 제목의 짧은 프린스턴 박사 학위 논문이었다. 내시의 논문은 27페이지에 불과했고 당시에는 별다른 가치가 없어 보였지만(폰 노이만은 처음 읽었을 때 ‘사소하다’라고 평가했다), 나중에 1994년 노벨 경제학상을 수상하게 된다.

 

폰 노이만은 순수 수학과 마찬가지로 응용 수학과 이론 물리학에서도 두각을 나타냈다. 제2차 세계대전이 발발하자 그는 국방 노력과 관련된 광범위한 과학 활동에 대한 조언을 요청받았다. 특히 로스앨러모스 연구소에서 원자폭탄 폭발 방법에 대한 자문위원으로 활동했다. 1954년 원자력위원회 위원으로 임명되어 1957년 암으로 갑작스럽게 사망할 때까지 위원직을 유지했다. 폰 노이만은 경력 말년에 전자 컴퓨팅 장비의 논리적 설계에 깊이 관여했다. 그는 1946년 고등연구소에 당시 존재하거나 계획 중인 모든 장치를 뛰어넘는 속도와 성능을 갖춘 컴퓨터를 만들자고 제안했다. 1951년 말 IAS라고 불리는 이 기계는 정상 작동을 시작했고, 1950년대 내내 과학 연산에 효과적으로 사용되었다. 정부 후원자들을 만족시키기 위해 AIS의 초기 시험 가동은 수소폭탄 설계와 관련된 일련의 긴 계산이었다. 나중에 로스앨러모스에서 사용된 폰 노이만의 컴퓨터 복제품은 MANIAC(Mathematical Analyzer, Numerical Integrator, Automatic Calculator)으로 알려졌지만, 폰 노이만의 이름을 빌려 JONIAC이라는 애칭으로 더 많이 불렀다.

 

IAS 머신

 

폰 노이만은 자신의 방대한 지식에도 불구하고 현대 수학의 빠른 발전과 복잡성 때문에 때때로 당황하기 시작했다고 인정했다. 그는 30년 전에는 수학자가 모든 주제를 어느 정도 숙지할 수 있었지만, 이제는 더 이상 불가능하다고 말한 적이 있다. 폰 노이만은 당시에는 전체 수학의 몇 퍼센트를 이해할 수 있었느냐는 질문에 ‘28퍼센트 정도’라고 웃으며 대답했다.

 

유럽의 정치적 상황을 피해 온 많은 난민 중에는 차세대 미국 연구 수학자를 풍요롭게 할 재능 있는 젊은이들이 많았다. 페테르 럭스(Peter David Lax, 1926년생)와 월터 페이트(Walter Feit, 1930~2004)가 그중 두 명입니다. 럭스는 헝가리 부다페스트에서 태어났다. 미국이 제2차 세계대전에 참전했을 때 부모님과 함께 뉴욕으로 향하는 배를 탔다. 고등학교에서 영어 실력을 키우기 위해 1년을 보낸 후 뉴욕 대학교에 입학하여 대학원 과정을 수강하기 시작했다. 1944년 징집되어 최초의 원자폭탄이 개발되고 있던 뉴멕시코주 로스앨러모스에 배치되었다. 전쟁이 끝나고 뉴욕 대학교로 돌아온 그는 1949년 쿠르트 프리드리히스의 제자로 박사 학위를 받았다. 1951년 대학 교수진에 합류한 럭스는 7년 후 빠르게 승진하여 교수가 되었다. 1972년부터 1980년까지 쿠란트 연구소의 소장으로 재직했다. 노르웨이 과학 아카데미는 2005년에 편미분방정식의 이론과 응용에 대한 인상적인 공로를 인정하여 럭스에게 아벨상을 수여했다. 많은 수학자가 노르웨이의 노벨상으로 간주하는 이 상에는 600만 노르웨이 크로네, 즉 약 98만 달러의 상금이 걸려 있다.

 

월터 페이트는 오스트리아 빈에서 태어났다. 1939년 제2차 세계대전이 시작되기 이틀 전, 그의 부모님은 유대인 어린이들을 국외로 데려갈 수 있는 마지막 열차인 '어린이 수송 열차'에 그를 태웠다. 그는 부모님을 다시는 보지 못했고, 부모님에게 무슨 일이 일어났는지도 알지 못했다. 영국 옥스퍼드 기술 고등학교를 졸업한 후, 페이트는 친척들과 함께 미국으로 이주했다. 1951년 시카고 대학교에서 석사 학위를 받았고, 4년 후 미시간 대학교에서 박사 학위를 받았다. 10년 동안 코넬 대학교에서 교수로 재직했던 페이트는 1964년 예일 대학교에 영구적으로 정착하여 2003년 은퇴할 때까지 재직했다. 1963년, 페이트와 그의 동시대 동료인 존 톰프슨은 'Burnside Odd Order Conjecture'이라는 50년 된 집단 이론의 문제를 해결하여 국제적인 찬사를 받았다.

 

윌리엄 번사이드(William Burnside, 1852~1927)는 유한 질서 군집 이론에서 군집의 원소 수를 의미하는 '질서'를 영어로 처음으로 포괄적으로 다루었다. 1897년에 출간된 이 고전의 초판에서 번사이드는 “현재 홀수 차수의 비교차적 단순 군집은 존재하지 않는 것으로 알려져 있다”라고 언급했다. (단순 군집은 전체 군집 자체와 동일성 요소로만 구성된 사소한 하위 군집 외에는 ‘정상’ 하위 군집이 없는 그룹을 말한다.) 1911년 번사이드의 교과서 2판이 출판될 무렵, 그는 4만 개 미만의 유한 군을 조사했다. 이러한 노력 끝에 그는 "홀수 차수의 비교차적 단순 군집은 존재하지 않는다"는 결론을 내릴 수 있었다. 이 예언은 마침내 1963년 파인트-톰프슨 논문에서 확인되었다. 이 증명에는 255페이지 분량의 《Pacific》 수학 저널 전체가 필요했으며, 많은 사람이 이 논문을 유한 군집 이론에 관한 가장 중요한 논문으로 생각하고 있다.