🧮 수학과 컴퓨터의 역사를 바꾼 여성들

🚧 보이지 않는 장벽 — 20세기 여성 수학자의 현실

2차 세계대전 이후, 수학계에 조용하지만 혁명적인 변화가 일어났다. 20세기 초만 해도 여성 수학자에게 허락된 길은 기껏해야 여대의 교단뿐이었다. 연구는 남성의 영역이었고, 학문적 권위는 더더욱 그러했다.

 

그러나 전후의 세계는 달라지기 시작했다. 많은 여성들이 교육과 연구 양쪽에서 본격적인 경력을 쌓기 시작했다. 물론 그 길은 결코 평탄하지 않았다. 제도적 차별, 관행이라는 이름의 편견, 그리고 단지 '결혼했다'는 이유만으로 닫히는 문들이 여전히 곳곳에 도사리고 있었다.

 

그 장벽들을 온몸으로 부딪히며 넘어선 두 인물이 있다. 미국의 줄리아 로빈슨과 영국의 메리 카트라이트 — 그리고 컴퓨터의 역사를 쓴 그레이스 호퍼까지. 이들의 이야기는 수학과 컴퓨터 과학의 역사이자, 인간의 의지에 관한 이야기다.

---

👩‍🔬 줄리아 로빈슨 — 20년을 바쳐 불가능을 증명하다

힐베르트의 10번째 문제

수학의 역사에서 힐베르트(Hilbert)의 23개 문제는 하나의 전설이다. 1900년 독일의 위대한 수학자 다비트 힐베르트가 제시한 이 문제들은 20세기 수학이 나아가야 할 방향을 사실상 결정지었다.

 

그 중 10번째 문제는 언뜻 단순해 보였다:

"정수 계수를 가진 다항식 방정식이 주어졌을 때, 그 방정식에 정수해(整數解)가 존재하는지를 판별하는 알고리즘을 만들어라."

 

이른바 디오판틴 방정식(Diophantine Equation)의 해 결정 문제다. 단순해 보이는 이 물음이 수 이론과 논리학의 경계에 걸쳐 있는 심오한 난제라는 것을, 덤벼들어 본 수학자들은 곧 깨달았다.

20년의 고독한 연구

버클리 캘리포니아 대학교에서 폴란드 출신의 논리학자 알프레드 타르스키(Alfred Tarski)의 지도 아래 박사 학위를 받은 줄리아 로빈슨은 이 문제에 삶을 바쳤다. 이후 20년 동안, 그녀는 디오판틴 방정식의 해의 거동에 관한 선구적인 결과들을 하나씩 쌓아나갔다.

 

그리고 1970년, 22세의 젊은 러시아 수학자 유리 마티야세비치(Yuri Matijasevich)가 로빈슨의 연구 위에 올라서서 힐베르트의 10번째 문제에 마침내 답했다:

"그러한 알고리즘은 존재하지 않는다."

 

불가능의 증명. 로빈슨의 20년이 없었다면 마티야세비치의 결론도 없었다. 수학의 역사는 이 두 사람의 이름을 함께 기억한다.

제도가 막은 교수 자리

그러나 로빈슨의 현실은 가혹했다. 당시 미국 대학들에는 반연고주의(anti-nepotism) 규정이 남아 있었다 — 부부가 같은 학과에 함께 고용되는 것을 막는 제도였다. 로빈슨은 버클리의 수학자와 결혼했다는 이유 하나만으로, 자신의 연구 업적에 걸맞은 자리를 제안받지 못했다.

 

변화는 외부에서 왔다. 1976년, 로빈슨은 여성 최초로 국립과학아카데미 수학 부문 회원으로 선출되었다. 그제야 버클리는 그녀에게 교수직을 제안했고, 그녀는 시간강사에서 정교수로 하룻밤 사이에 승진하는 이례적인 경험을 했다.

 

이후의 행보는 더욱 빛났다:

• 🏛️ 1982년 — 미국수학학회(AMS) 최초의 여성 회장 취임
• 🏆 1983년 — 맥아더상(MacArthur Prize) 수상 (연간 6만 달러, 5년간 지원되는 '천재상')

20년의 무명, 그리고 뒤늦게 찾아온 인정. 줄리아 로빈슨의 이야기는 제도가 얼마나 오래, 얼마나 부당하게 재능을 묻어버릴 수 있는지를 보여주는 동시에 — 그 재능이 결코 사라지지 않는다는 것도 증명한다.

---

👩‍🏫 메리 카트라이트 — 전쟁이 낳은 수학의 혁명

옥스퍼드에서 케임브리지로

메리 L. 카트라이트(Mary L. Cartwright, 1900~1998)는 1930년 옥스퍼드 대학교에서 박사 학위를 받았다. 지도교수는 수학계의 전설적인 두 인물, G. H. 하디와 E. C. 티치마쉬였다.

 

이후 그녀는 케임브리지 거튼(Girton) 대학에 자리를 잡았고, 이 대학과의 인연은 평생 이어졌다:

• 1934년 — 강사로 교수진 합류
• 1936년 — 수학 연구 책임자 임명
• 1949년 — 거튼 대학 직원(Fellow)으로 임명
• 1968년 — 은퇴할 때까지 행정직 유지

레이더와 비선형 방정식 — 전쟁이 만든 수학

카트라이트의 가장 중요한 업적은 존 리틀우드(John Littlewood)와의 공동 연구에서 탄생했다. 두 사람의 협력은 1938년, 영국이 2차 세계대전에 참전하기 직전에 시작되어 약 10년간 지속되었다.

 

계기는 영국 정부의 요청이었다. 당시 레이더 기술의 발전 과정에서 풀리지 않는 비선형 미분방정식들이 등장했고, 정부는 이를 해결할 수학자들을 찾고 있었다. 카트라이트와 리틀우드는 이 방정식들의 해(解)의 거동을 분석했고, 그 과정에서 얻어진 결과들은 훗날 현대 동역학 이론(dynamical systems theory) 발전의 씨앗이 되었다. 전쟁의 필요가 수학의 새로운 지평을 열어준 셈이다.

 

1949년 미국을 방문했을 때, 스탠퍼드·UCLA·프린스턴에서 강의를 했는데, 프린스턴은 당시 여성 교수를 두지 않았기 때문에 이 저명한 수학자를 해군 연구소의 고문으로만 공식 등록하는 궁색한 방법을 택했다. 위대한 수학자를 앞에 두고도 제도의 틀 안에서만 그녀를 바라봤던 시대의 단면이다.

선구자의 발자국

카트라이트가 90편이 넘는 논문과 함께 남긴 것은 수식만이 아니었다:

연도	업적
1947년	런던 왕립학회 특별회원 선출 — 여성 수학자 최초
1961년	런던 수학학회 회장 취임 — 여성 최초
1964년	왕립학회 실베스터 메달(Sylvester Medal) 수상
1968년	런던 수학학회 드모르간 메달(DeMorgan Medal) 수상
1969년	여왕으로부터 대영제국 사령관(DBE) 작위 수여

 

98세까지 살았던 메리 카트라이트 — 그녀의 삶 자체가 하나의 증명이었다. 수학적 엄밀함과 지적 용기로, 아무도 가지 않은 길을 걸어갔다.

---

💻 컴퓨터 혁명의 시작 — Mark I에서 UNIVAC까지

배비지의 꿈이 현실이 되다

19세기 수학자 찰스 배비지가 꿈꾸던 '완전 자동 계산 장치' — 그 꿈이 마침내 현실이 된 것은 1944년이었다. 하버드 대학교와 IBM의 합작으로 탄생한 자동 시퀀스 제어 계산기(ASCC), 훗날 Mark I로 불리게 될 이 기계는 인류 최초의 범용 전자기계식 컴퓨터였다.

 

그 규모는 상상을 초월했다:

• ⚖️ 무게 5톤
• 🔌 배선 길이 500마일(약 800km)
• 📜 미리 구멍을 뚫은 종이테이프로 명령을 입력
• ⏱️ 6개월 걸리는 계산을 하루 만에 처리

그러나 Mark I은 전쟁의 속도를 따라가지 못했다. 더 빠른 계산이 필요했고, 기계식 릴레이 대신 진공관을 사용한 새로운 컴퓨터가 등장했다.

ENIAC — 괴물 같은 계산 기계

1946년, 펜실베이니아 대학교에서 미 육군의 탄도 계산을 위해 설계된 ENIAC(전자식 수치 적분기 및 계산기)이 세상에 모습을 드러냈다.

• ⚖️ 무게 약 30톤
• 📐 바닥 면적 30×50피트(약 9×15m)
• ⚡ 18,000개의 진공관 — 엄청난 전력과 열 발생
• 🚀 Mark I보다 1,000배 빠른 연산 속도
• 🔢 원주율 π를 소수점 이하 2,035자리까지 단 70시간에 계산

💡 지금도 회자되는 전설: ENIAC이 켜질 때마다 서쪽 필라델피아 전체의 전등이 어두워졌다고 한다. 사실 여부는 불분명하지만, 그만큼 전력 소모가 어마어마했다는 방증이다.

UNIVAC — 컴퓨터가 대중 앞에 서다

전시 경험은 민간으로 이어졌다. ENIAC의 직계 후손인 UNIVAC(범용 자동 컴퓨터)은 상업 목적으로 설계된 최초의 컴퓨터였다.

• 진공관 수를 18,000개에서 5,000개로 대폭 감소
• 펀칭 카드 대신 자기 테이프에 데이터 저장
• 1951년 인구조사국에 최초 설치, 이후 12년간 운용

UNIVAC이 세상의 주목을 받은 결정적 사건은 1952년 미국 대통령 선거였다. CBS 방송국이 선거 결과 예측에 UNIVAC을 활용했는데, 정치 전문가들은 기계의 예측을 비웃었다. 그러나 아이젠하워는 UNIVAC이 처음 예측한 득표율과 거의 정확히 일치하는 결과로 당선되었다. 컴퓨터가 인간 전문가의 직관을 이긴 역사적인 순간이었다.

---

👩‍💻 그레이스 호퍼 — 컴퓨터에 언어를 가르친 여성

나방 한 마리와 '버그'의 탄생

예일대에서 수학 박사 학위를 받고 바사르 대학에서 가르치던 *그레이스 머레이 호퍼(Grace Murray Hopper, 1906~1992)는 미 해군 예비역으로 입대했고, 1944년 하버드 컴퓨터 연구소에 배치되어 Mark I의 최초 작동 매뉴얼을 작성했다.

 

그리고 컴퓨터 역사상 가장 유명한 해프닝이 일어났다:

어느 날 기계가 갑자기 작동을 멈췄다. 원인을 추적한 호퍼는 핀셋으로 릴레이 속에 낀 죽은 나방 한 마리를 꺼냈다. 이것이 컴퓨터 역사 최초의 실제 '버그(bug)' 발견 사례다. 그 나방은 지금도 '최초의 실제 버그 발견'이라는 메모와 함께 일지에 플라스틱 테이프로 보존되어 있다.

 

'버그(bug)'와 '디버깅(debugging)'이라는 용어가 프로그래밍 세계에 자리 잡은 것은 이 사건에서 비롯되었다.

컴퓨터에 인간의 언어를 심다

호퍼의 더 큰 업적은 컴파일러(compiler) 개발이었다. 당시 컴퓨터는 오직 기계어, 즉 0과 1의 조합으로만 명령을 받아들였다. 인간이 컴퓨터와 대화하려면 기계의 언어를 배워야 했다.

 

호퍼는 이 관계를 뒤집고 싶었다. 컴퓨터가 인간의 언어를 이해하면 어떨까?

 

그 아이디어는 1957년 최초의 영어 데이터 처리 컴파일러 FLOW-MATIC의 탄생으로 이어졌다. 그리고 FLOW-MATIC의 존재는 1960년대 비즈니스 프로그래밍 언어 COBOL의 개발을 직접적으로 촉진했다. COBOL은 이후 수십 년간 금융, 행정, 기업 시스템의 표준 언어가 되었다.

 

호퍼의 말년도 화려했다:

• 🎖️ 1980년대 중반 — 해군 제독(Rear Admiral) 계급으로 퇴역 — 당시 해군 현역 최고령 장교
• ⛵ 은퇴식 장소 — 현존하는 가장 오래된 미국 군함 USS Constitution(올드 아이언사이드)호
• 🎓 40개 이상의 대학에서 명예 학위 수여

---

🔬 진공관에서 실리콘 칩으로 — 컴퓨터의 진화

호퍼가 활동하는 동안 컴퓨터 기술은 눈부시게 발전했다:

1944년  Mark I        — 기계식 릴레이, 5톤, 방 전체를 채움
    ↓
1946년  ENIAC         — 진공관 18,000개, 30톤, 엄청난 열과 전력
    ↓
1951년  UNIVAC        — 진공관 5,000개, 자기 테이프 도입
    ↓
1950년대 후반         — 진공관 → 트랜지스터 (열 감소, 수명 연장)
    ↓
1960년대             — 트랜지스터 → 집적회로(IC), 100만 개를 칩 하나로
    ↓
현대                  — 손 안의 스마트폰이 Mark I 수천 배를 능가

 

방 하나를 가득 채우던 5톤짜리 기계가, 손안의 스마트폰으로 진화하는 데 채 반세기가 걸리지 않았다. 산업혁명이 인간의 근육을 기계로 대체했다면, 컴퓨터 혁명은 인간의 사고를 보조하고 확장하기 시작했다.

---

🔍 이름이 지워진 자리에 남은 것들

줄리아 로빈슨, 메리 카트라이트, 그레이스 호퍼. 이 세 여성의 공통점은 단순히 '여성 최초'라는 수식어가 아니다. 그들은 각자의 시대가 허락하지 않으려 했던 자리에서, 허락받지 않은 채로, 인류의 지식을 앞으로 밀어붙였다.

 

로빈슨은 20년을 무명으로 버티며 힐베르트의 문제를 풀었고, 카트라이트는 전쟁의 필요에서 동역학 이론의 씨앗을 길러냈으며, 호퍼는 기계에게 인간의 언어를 가르쳤다.

 

제도는 그들을 막으려 했지만, 수학과 과학은 그들의 편이었다. 그리고 결국, 역사도 그들의 편이 되었다.

---

UNIVAC ( Universal Automatic Computer)