이진법과 미적분 - 라이프니츠 > 전해주는 이야기

15세기 르네상스의 출발지인 플로렌스에서 활약한 레오나르도 다빈치는 [모나리자], [최후의 만찬]을 그린 화가로서뿐만 아니라, 건축가, 도시설계, 기계설계, 무대의상, 수학, 철학, 해부학 등 다루지 않은 분야가 없을 정도로 만능 천재였다. 약 200년 후 독일 라이프치히에서 태어난 라이프니츠 역시 철학, 수학, 물리학, 지리학, 생물학, 정보기술, 법률가, 어학, 중국학 등등 수많은 분야에서 ‘처음으로 …을 했다’라는 평을 듣는 다빈치와 동일한 유형의 인간이었다.

물론 다빈치와 라이프니츠와 같은 만능 천재들은 평생 한 우물을 파지는 않았다. 그러나 이들은 어디를 파면 샘이 나올지를 직감과 영감으로 알아차렸다는 점에서 말 그대로 ‘샘솟는’ 아이디어를 주체하지 못한 사람들이다. 이들은 호기심을  아 방랑하는 지적 유목민(nomade)이었지만 동시에 후원자(patron)를 찾아 이곳 저곳을 돌아다녀야만 했다.

 

“일종의 보편언어나 문자는 지금까지의 모든 언어와 무한히 다를 것이다. 왜냐하면 보편언어에서는 기호나 단어가 이성을 지도하게 되며, 사실판단을 제외하면 모든 오류란 단순히 계산상의 착오일 뿐이다. 이러한 언어 혹은 기호를 발명하거나 구성하는 것은 매우 어렵겠지만, 어떤 사전도 없이 매우 쉽게 이해할 수 있게 될 것이다.”

라이프니츠의 독창적인 생각은 그 당시에는 학자들로부터 외면을 받았다. 그러나 라이프니츠의 보편언어 프로젝트에 대하여 알고 있었던 북경에 파견된 예수회 선교사 부베(J. Bouvet) 신부는 1700년 주역의 64괘 그림을 라이프니츠에게 편지로 보내왔다. 주역의 괘를 보고 라이프니츠는 답신에서 그의 이진법 발상에 대하여 자세히 설명하였다.

‘--’과 ‘−’의 두 기호(爻)를 6개 조합하여 만든 주역의 64괘를 0에서 63까지 64개의 수와 대응시키는 것은, 돌이켜 보면, 어려운 작업은 아니다. ‘--’과 ‘−’을 6층 쌓아 올릴 경우 우리는 총 64개의 서로 다른 형태(卦)를 얻게 되므로, 이들을 0에서 63이든 100에서 163이든 64개의 서로 다른 수의 이름(고유명사)으로 간주할 수 있다. 이것은 단지 숫자 표기의 문제일 뿐이다.

라이프니츠의 이진법 발상에서 중요한 점은 ‘--’과 ‘−’이든 ‘0’과 ‘1’이든, 혹은 ‘♀’과 ‘♂’이든 서로 분명히 구별되는 두 개의 기호를 체계적으로 반복할 경우, 지금까지 10진법으로만 표현되었던 모든 수를 완전히 표현할 수 있고, 또 기존의 더하기, 곱하기 등 연산법을 사용할 수 있다는 ‘체계적 발상’에 있다. 우리는 이진법 연산이 현대의 컴퓨터 회로의 ‘off’와 ‘on’으로 물질화·기계화되어 어떤 문명사적 결과를 낳았는지 너무나 잘 알고 있다.

 

그러나 우리의 관심을 끄는 것은, 이진법의 계산적 측면보다 신에 의한 세계의 ‘예정조화설’을 제안한 기독교 사상가 라이프니츠가 중국의 주역과 그의 이진법에 대한 철학적 해석이라고 할 수 있다. 라이프니츠는 주역의 − 또는 1을 神으로, -- 또는 0을 無로 해석하여, 모든 수가 이 두 기호로 표현될 수 있다는 점을 ‘神이 無에서 세계의 모든 존재를 창조하였다’는 기독교의 창세기 설화로 해석하였다. 즉 수학적으로는 수의 표기법에 불과한 이진법이 라이프니츠의 철학에서는 절대적 존재인 神의 창조언어, 일종의 안무(choreography)로 간주되었다. 그에 의하면 이 세계를 이진법의 보편언어로 번역할 수 있을 때에만 가시적 현실세계 저편에 있는 창조의 영상, 즉 완벽한 지식과 아름다움에 접근할 수 있다는 것이다. 신은 계산할 때 창조하였고, 창조할 때 계산하였다.

그렇다면 라이프니츠가 이진법의 철학적 해석에서 도입한 無란 무엇일까? 우리는 뉴턴이 그의 역학에 도입한, 어떤 물체도 존재하지 않는 無로서 ‘절대공간’을 라이프니츠가 부정하였다는 사실을 알고 있다. 라이프니츠에 의하면 공간과 시간이란 “마치 가능자들(possibles)이 존재하는 것처럼 가정할 때의 이들 간의 질서”였다. 다른 한편 라이프니츠는 “신은 존재뿐 아니라 가능성의 원천이고…, 신은 당신에게 좋다고 생각되면 無를 채울 수 있다. 그렇지 않을 경우, 無란 이와는 반대로 구체적 존재를 지각하기 전의 상상에 불과하다”고 보았다([New Essay]). 즉 라이프니츠에 의하면 공간과 시간은 구체적 존재들간의 관계로부터 추상(abstract)되어 가능성의 영역에 속할 뿐이며, 결코 현실의 영역에 속한 것은 아니다. 물리학자 아인슈타인이 1905년 그의 특수상대성이론에서 부정한 절대공간과 절대시간을 라이프니츠는 이미 250년 전에 그의 철학적 사유를 통해 정당화 될 수 없음을 간파하였다. 다른 한편 현실성을 상실한 無란 우리의 상식적 사유방식에 반(反)하는 이중적인 성격을 갖게 되었다.

無의 이중적 성격과 함께 우리의 직관을 당혹스럽게 만드는 것은 라이프니츠가 수학사에 남긴 또 다른 업적인 미적분(calculus)에 도입한 무한소(infinitesimal) 개념이다. 여기서 라이프니츠가 그와 동시대에 살았던 뉴턴의 미적분을 훔쳤다는 주장에 대한 역사적 논쟁을 돌아볼 필요는 없다. 수학사를 연구하는 현대의 학자들은 이미 라이프니츠에게 씌어졌던 표절의 누명을 벗겨주었다.

 

 

물론이다. 그러나 Δx가 무한히 작을 때, 우리가 배운 도함수 f'(x)=2x를 구하기 위해서는 (2x+Δx)에서 Δx를 잘라내기 위해 Δx=0이라고 계산해야 한다.

바로 ‘0이 아니고 0이기도 한 변량 Δx’를 라이프니츠는 그의 미적분에서 무한소 개념을 통해 도입했다. 그러나 이런 괴이한 개념을 앞에 두고 철학자가 이의를 제기하지 않는다면 그것은 논리적 모순을 받아들인다는 것과 다름없다. 특히 철학자의 윤리가 정당성의 확보라는 점을 고려할 때 모순의 수용은 상상하기 어려운 일이다. 아니나 다를까 바로 영국의 철학자 조지 버클리(George Berkeley)는 이 무한소 개념을 사용한 수학자들을 ‘신앙심 없는 수학자(infidel mathematician)’라고 그의 책 [분석자(Analyst)]에서 통렬히 비판하였다.

다른 한편 라이프니츠와 뉴턴의 발명 이후 무한소를 이용한 미적분은 수학을 사용하는 모든 과학과 공학에서 널리 사용되어 왔으며, 그 이유는 현실에 상응하는 정확한 값을 미적분이 계산해 주기 때문이었다. 이런 점에서 미적분은 많은 학문의 연장이 되었으며, 이공계나 경제학을 전공하는 학생이 미적분을 모른다면 그것은 망치나 톱과 같은 기본 연장 없이 목수일을 하겠다는 것이나 다름없다. 따라서 무한소 개념에 내적 모순이 있든 없든, 필요하다면 인간은 반드시 사용한다. 그것은 집합론에 모순이 있음이 러셀(B. Russell)에 의하여 발견되었지만, 수학자 힐버트(D. Hilbert)는 “어느 누구도 수학자를 집합이라는 파라다이스로부터 추방할 수는 없다”고 말한 것과 동일한 맥락이다.

이런 현실적 성과에도 불구하고 수학에는 반드시 탄탄한 기초가 필요하다고 생각하는 수학자와 철학자에게 무한소 문제는 일종의 ‘마음의 빚’을 의미하였다. 수학사에서는 ‘무한소-미적분’이 야기한 이 마음의 빚을 19세기 독일의 수학자 바이어슈트라스(K. Weierstrass)가 ‘(ε, δ)-극한값 정의’를 통해서 갚았다고 알려져 있다. 그러나 바이어슈트라스의 정의에서도 무한소의 개념이 갖고 있던 내적 모순이 사라지는 것은 아니다. 다만 훨씬 더 교묘한 방식으로 은폐되어 드러나지 않을 뿐이다.