케플러, 타원 궤도를 발견하다: 수학의 천재가 우주의 비밀을 푼 방법

화성이라는 이름의 난제

16세기까지 수천 년간 인류는 지구가 우주의 중심이라고 믿었다. 그런데 이 믿음을 가장 집요하게 흔든 것은 철학도, 신학도 아닌 화성의 움직임이었다. 지구 중심 우주관으로는 도무지 설명할 수 없는 화성의 역행(逆行) 현상, 즉 하늘에서 행성이 갑자기 속도를 늦추고 거꾸로 움직이는 것처럼 보이는 이 기묘한 현상은 당대 천문학자들에게 풀리지 않는 수수께끼였다. 이 난제 앞에 수학의 천재 요하네스 케플러(Johannes Kepler, 1571~1630)가 나섰다. 그는 "1주일이면 화성의 궤도를 풀어내겠다"고 자신했지만, 실제로는 8년이라는 세월을 쏟아야 했다. 그 긴 싸움 끝에 인류는 행성 운동의 진정한 비밀에 다가갈 수 있었다.

거인의 어깨 위에: 티코 브라헤와의 만남

케플러의 성취를 이해하려면 먼저 그가 디딘 토대를 알아야 한다. 티코 브라헤(Tycho Brahe, 1546~1601)는 덴마크의 유명한 천문학자로, 천문기기 개발과 함께 별들의 위치에 대한 방대한 자료를 남겨 이후의 천문학 발달에 큰 공헌을 하였다. 망원경이 발명되기 전 시대였음에도, '인간 천문대'로 불릴 정도로 뛰어난 시력을 바탕으로 천문학 역사상 유례없는 정밀도로 천체 관측을 이어갔다.

 

반면 케플러는 어린 시절 앓은 천연두로 시력이 좋지 않았다. 하지만 그에게는 브라헤가 갖지 못한 탁월한 수학적 재능이 있었다. 관찰의 천재와 계산의 천재, 이 두 사람의 만남은 역사상 가장 생산적인 학문적 결합 중 하나였다. 티코 브라헤와의 관계는 순탄하지 않아 늘 충돌이 잦았지만, 결국 그 인연 덕분에 케플러 법칙이 탄생할 수 있었다.

 

브라헤가 1601년 세상을 떠나면서 케플러에게 평생의 관측 자료를 넘겨주었다. 케플러는 브라헤가 죽을 때 16년간에 걸친 관측 자료의 정리를 유언으로 위탁받았으며, 이를 토대로 1609년에 제1, 2법칙을 발표하였다.

타원의 발견: 달걀에서 타원으로

케플러는 태양계를 설명하는 코페르니쿠스의 원형 궤도 모델을 신봉했지만, 화성의 궤도를 원으로 근사하려 할 때 브라헤의 정밀 관측과 일치하지 않는다는 점을 발견했다. 화성은 수성을 제외하고 가장 높은 궤도 이심률을 지닌 행성이었다.

 

케플러가 화성을 연구 대상으로 삼은 것은 어쩌면 운명이었다. 화성의 궤도 이심률이 다른 행성들에 비해 월등히 커서, 만약 케플러가 다른 행성을 대상으로 삼았다면 원 궤도에서 벗어난 오차를 단순한 계산 실수나 관측 오차로 치부했을 가능성이 높다.

 

케플러는 먼저 달걀 모양의 궤도를 시도했다. 관측치와 맞지 않았다. 그런 다음 타원으로 설정하는 순간 모든 것이 맞아떨어졌다. 임의의 세 점을 지나는 원을 작도할 때마다 또 다른 한 점은 항상 원에서 이탈했고, 티코가 남긴 자료의 작은 오차 범위를 고려할 때 그 궤도는 원으로 간주될 수 없었다. 화성의 궤도는 태양을 초점으로 하는 타원이었고, 이로써 타원 궤도의 법칙이 발견됐다.

 

수천 년간 천문학을 지배한 원 궤도의 믿음이 단숨에 무너진 순간이었다. 주전원(epicycle), 역행, 속도 변화라는 온갖 복잡한 문제들이 단 하나의 도형 변경으로 일거에 해결되었다.

케플러의 세 가지 법칙

이 발견을 토대로 케플러는 행성 운동을 지배하는 세 가지 법칙을 수립했다. 발견 순서는 제2법칙, 제1법칙, 제3법칙 순이었다는 점이 흥미롭다.

 

제1법칙 — 타원 궤도의 법칙 (1605년) 모든 행성은 태양을 한 초점으로 하는 타원 궤도를 그리며 공전한다. 태양은 타원의 중심이 아닌 두 초점 중 하나에 위치한다. 이 법칙은 코페르니쿠스의 원형 궤도 개념을 결정적으로 수정한 것으로, 2,000년 가까이 이어진 "천체는 완전한 원운동을 한다"는 아리스토텔레스적 믿음을 무너뜨렸다.

 

제2법칙 — 면적 속도 일정의 법칙 (1602년) 태양과 행성을 연결하는 선분이 같은 시간 동안 쓸어내는 면적은 항상 일정하다. 이 법칙은 행성이 태양에 가까울수록 빠르게, 멀수록 느리게 움직인다는 것을 의미한다. 화성의 궤도를 연구하는 8년간의 과정에서, 화성의 속도가 태양에 접근할 때 빨라지고 멀어질 때는 느려진다는 사실을 발견하며 이 법칙에 이르렀다.

 

제3법칙 — 조화의 법칙 (1619년) 행성의 공전 주기의 제곱은 태양으로부터의 평균 거리의 세제곱에 비례한다. 수식으로는 T²∝a³으로 표현된다. 이 제3법칙은 행성들의 운동 상태에서 음악적 조화를 찾으려던 탐구 과정에서 우연히 발견한 관계식에 불과했으며, 케플러에게는 신이 우주를 조화롭게 창조했다는 신념을 굳혀주는 발견이었다.

 

케플러가 제1, 2법칙을 발견한 후 제3법칙에 이르기까지 십여 년을 자료에 파묻혀 규칙을 찾아야 했지만, 이 법칙은 태양계 행성만이 아니라 우리 은하를 공전하는 수천억 개의 별과 우주 어디에서도 성립하는 보편 법칙임이 훗날 밝혀졌다.

플라톤 입체의 꿈, 놓지 못한 신비주의

케플러는 뛰어난 수학자이자 동시에 깊은 신비주의자였다. 그는 행성의 궤도가 다섯 개의 '플라톤 입체(Platonic solid)', 즉 정사면체·정육면체·정팔면체·정십이면체·정이십면체와 기하학적으로 연결되어 있다는 환상을 품었다. 케플러의 최초 학설인 '코스모스의 신비'론에서 그는 다섯 개의 플라톤 다면체가 구형의 천구에 각각 내접하고 외접하는 것을 발견했으며, 이 입체들이 당시까지 알려진 여섯 개의 행성에 상응하는 겹을 형성한다고 주장했다.

 

문제는 타원 궤도의 발견이 이 아름다운 기하학적 우주관과 충돌했다는 점이다. 케플러는 죽을 때까지 이 두 생각의 조화를 위해 노력했지만 끝내 성공하지 못했다. 과학의 혁명가이자 동시에 신비주의자였던 그의 이중성은 자신의 발견이 세상에 제대로 받아들여지지 못하는 데 결정적인 장벽이 되었다.

《새로운 천문학》, 혁명으로 읽히지 못한 혁명

1609년, 케플러는 자신의 발견을 집대성한 《새로운 천문학(Astronomia Nova)》을 출판했다. 이 책에서 케플러는 지구 중심 우주관을 완전히 지워버리고 행성의 타원 궤도와 면적 속도 일정의 법칙을 공식화했다. 내용만 보면 천문학의 혁명이라 불릴 만한 책이었다. 그러나 당시 거의 주목을 받지 못했다. 이유는 두 가지였다. 첫째, 케플러의 수학적 논증은 동시대 학자들이 따라가기 어려울 정도로 난해했다. 둘째, 혁명적 내용이 신비주의적 서술과 뒤섞여 핵심이 가려졌다.

 

당대 최고의 과학자 갈릴레오도 케플러의 책을 읽었지만 타원 궤도 이론을 받아들이지 않았다. 갈릴레오는 죽을 때까지 원 궤도를 고수했다. 케플러가 얼마나 시대를 앞서갔는지, 동시에 그 선구성이 얼마나 외롭게 빛났는지를 보여주는 역설이다.

루돌프 표: 생전에 인정받은 최대의 공적

케플러의 말년은 30년 전쟁의 전화(戰禍)와 가난, 그리고 어머니의 마녀재판이라는 고난으로 점철되었다. 그럼에도 그는 브라헤가 남긴 방대한 관측 데이터를 행성 위치표로 정리하는 작업을 포기하지 않았다.

 

마침내 1627년, 케플러는 《루돌프 표(Rudolphine Tables)》를 출판했다. 당시 가장 정확한 별과 행성의 기록이었던 이 표는 명나라에 전해져 시헌력의 기반이 되었고, 조선까지 전해져 지금도 어르신들이 쓰는 음력의 토대가 되었다. 케플러의 혁명적 우주관은 당시 사람들의 주목을 받지 못했지만, 루돌프 표는 달랐다. 항해자들과 천문학자들이 실제로 쓸 수 있는 실용적 도구였기 때문이다.

뉴턴이라는 이름의 완성

케플러의 업적이 오늘날과 같은 형태로 정립되기까지는 거의 200년이 걸렸다. 케플러의 법칙은 관측 사실을 수학으로 기술한 경험 법칙이었다. "왜 행성은 타원 궤도를 도는가?", "왜 태양에 가까울수록 빨라지는가?"라는 근원적 질문에는 답할 수 없었다.

 

그 답은 케플러 사후 75년이 지난 1687년, 아이작 뉴턴의 《프린키피아》에서 나왔다. 케플러의 법칙은 뉴턴이 만유인력을 발견하는 데 핵심적인 수학적 기초를 제공해 주었다. 뉴턴은 역제곱 법칙(중력은 거리의 제곱에 반비례한다)으로부터 케플러의 세 법칙을 수학적으로 엄밀하게 증명해냈다. 이로써 케플러의 경험적 발견은 비로소 이론적 토대를 얻었고, 지구와 하늘을 하나의 역학 법칙으로 통합하는 근대 물리학의 서막이 열렸다.

시대가 따라오지 못한 천재

1630년 케플러는 밀린 연봉을 받기 위해 여행을 떠나다 병을 얻어 사망했다. 그의 무덤이 어디에 있는지 아무도 모를 정도로 쓸쓸한 죽음이었다. 생전에 그의 혁명적 발견은 제대로 빛을 보지 못했다. 그가 이룬 것들이 비로소 세상의 인정을 받으려면 더 넓은 인맥과 더 뛰어난 설득력을 가진 누군가, 즉 갈릴레오와 뉴턴의 등장을 기다려야 했다.

 

그러나 역사는 분명히 기억한다. 원과 타원이라는 단 하나의 기하학적 전환으로 2,000년 묵은 우주관을 뒤집고, 관측 데이터와 수학만으로 행성 운동의 법칙을 도출해낸 그 집요한 지적 여정을. 케플러는 "마지막 점성술사이자 최초의 천체물리학자"라 불린다. 그의 삶은 과학의 역사에서 가장 아름답고 가장 외로운 챕터 중 하나로 남아 있다.