수학의 세가지 위기 (2006-09-23)

위기 1 - 0 이라는 개념의 등장.

0 이 서양에 알려진 건 그다지 오래되었다고 할 수 없습니다.

인도에서 유래했는데 처음엔 서양에선 인정하지 않았습니다.

 

위기 2- 피타고라스 학파가 수학계에서 지존자리를 지킬 때 터졌던 무리수의 개념.

이런 의문을 품은 자는 죽였다고 하죠.

 

위기 3 - 현대의 4색 문제.

지도에서 색상을 표현할 때 4가지 색이면 어느 곳이든 구분되게 표시할 수 있다..입니다.

컴퓨터를 이용하여 장시간 돌린 끝에 '구분이 불가능한 경우가 없다' 라고 결론을 내려 컴퓨터의 무한계산능력을 수학의 증명이라 볼 것인가..라는데에서 수학자들의 의견이 분분해서 만약 인정이 된다면 그동안의 미해결 문제들이 증명이란 이름으로 들고 나올 것입니다.

 

 

 

위기 1. 0의 등장과 무한소의 개념

 

영과 무한

수학사상 가장 중요한 발견은 인도에서의 0의 발견이며, 그 발상은 불교의 '공'의 사상과 깊은 관련이 있다. 불교사상은 합리성에 관심을 가졌고 수에 대해서 유별나게 민감했다.

예부터 인도에서는 인간의 상상을 넘는 엄청난 큰 수와 함께 무한이 일상생활의 다반사처럼 이야기거리가 되어왔다. 우파니샤드의 철학에서는 우주의 본체인 브라흐만(梵)과 개체의 본체 아트만은 궁극적으로는 같다고 했다.

 

범아일여설(梵我一如說)이다. 아트만은 쌀알, 보리알보다 작고 조보다 작으며, 조의 눈보다도 작다. 그러면서도 하늘보다, 허공보다 모든 것을 합한 것보다 크다.

 

브라흐만=아트만. 이 사상은 인도적인 무한소와 무한대의 관계를 뜻한다. 이런 발상에서도 다즉일(多卽一), 일즉다(一卽多)의 사상의 싹을 엿볼수가 있다. 그러나 현실적으로 무한소는 유한 속에 무한의 존재를 인정해야 한다. 때문에 엄청난 모순을 가져올 수도 있는 중대한 문제를 야기한다. 바꾸어 말하면 시간이건 공간이건 간에 무한히 분할할 수 있는 것이라면 어떤 대상에 대해서도 크기는 설명할 수 없게 되어 버린다. 가령 무한으로 분할할 수 있는 것이라면 큰 살덩어리도 겨자알도 같은 원소로 구성되어 있고 무한개의 원소의 모임으로 되어 있는 것임으로, 이들의 크기가 같다는 모순된 결론이 나오고 만다.

 

이 논리적 모순을 극복하기 위해서 모든 물질의 기본인 지·수·화·풍(地·水·火·風) 4개의 원소는 그 이상 분할할 수 없는 단위의 양이 있는 것으로 생각했다. 그것을 곧 극미(極微：원자)라고 한다. '설일체유부(說一切有部)'를 비롯한 불교의 여러 종파들은 이 원자론을 기반으로 하는 세계관을 구축했다.

 

한편 무한분할이 가능하면 과거·미래·현재라는 시간의 구분도 무의미해진다. 이 사실은 본지(95년 1, 2, 3월호)에 게제된 대승불교의 철학적 기반을 마련한 용수(龍樹)가 예리하게 지적하고 있다. 즉, 상식적으로는 시간을 폭없는 선으로 끊어 절단점을 현재라고 생각하지만, 이때 시간의 흐름은 두 개 부분으로 나뉘어질 뿐 결코 과거·현재·미래의 세 부분으로 나누어지지 않는다.

 

'현재'라는 시간의 영역은 어디에도 없다. 따라서 현재를 중심으로 생각되는 과거와 미래도 존재할 수 없는 것이다. 이러한 논리적인 난점, 곧 모순은 유한 속에 내재하는 무한이라는 역설적인 대상, 곧 무한소 때문에 발생하는 것이다. 어설픈 지성으로 무한소에 접근하다가는 큰 코 닥칠 일이 생길 것이다.

 

이 세상은 시간적으로는 시작도 끝도 없다. 칸트(Kant)는 「순수이성비판」에서 시간의 시작이 '있다'는 것과 '없다'는 명제는 어느 쪽이나 이율배반이 되며 따라서 이 문제에 대해서는 언급하지 않을 것이라는 선언을 한다. 석가모니 역시 이 문제에 대해서는 아무런 단언을 하지 않았다.

 

『俱舍論』捨置記

존재에 관한 인과관계를 따져나가면 결국에는 그에 관한 제일의 원인이 설정되어야 하고, 또한 그것을 가능케한 맨처음의 것은 호킹 박사의 '빅뱅(Big Bang)설'과도 같은 구조를 지닌다. 결국 시작의 시작의… 시작은 무엇이었는가에 대한 문제에 봉착하는 것이다.

언젠가 로마 법왕은 전세계의 일류 과학자들을 모아 천지창조에 관한 솔직한 토론을 하도록 했다. 과학자들은 수많은 토론 끝에 드디어 하나의 결론을 얻었으며 그 사실을 버왕에게 알렸다. 법왕은 그 결과가 몹시 궁금했다. 그러자 이들 과학자 일행은 몹시 죄송스러운 듯 이 세상은 하나님이 창조하신 것이 아니라 대폭발(Big Bang)에서 시작되었음을 말한다. 그러자 법왕은 즉각 "좋다. 그 빅뱅을 가능헤 한 것은 하나님이다."라고 했다는 말이 전해져 있다.

 

처음에 빅뱅이 있었다. 그리고 하나님이 그것을 하도록 했다. 그렇다면 그 하나님을 존재케 한 것은 무엇인가?라는 물음이 계속 이어진다.

 

시작이 있으면 끝도 있다. 이 자명한 논리 앞에서는 어떤 지성도 맞설 수 없게 된다. 한편 불교철학에 의하면 이 세상에서 숨쉬는 것과 그것이 살고 있는 환경을 포함하는 모든 것은 연기, 또는 업으로 인해 존재한다. 또 모든 생물들은 엇이 원인이 되는 자업자득, 인과응보의 원리로 존재한다. 이 논리에서는 절대적인 의미에서의 출발점을 설정할 수 없게 된다.

 

시간의 시작이 없다면 끝도 없다. 그리하여 세계의 시작에 대한 물음은 무의미해진 것이다. '시작은 무시(無始)로부터 발생했다'는 비논리적인 명제일 수밖에 없다. 이 명제가 의미하는 것은 나의 존재는 자신의 업으로서 결정된다는 것이다. 이런 논리에서 윤회사상도 태어났다. 그러나 원래 윤회사상은 불교 고유의 것이 아니라 원래부터고대의 인도종교에 있었으며 불교의 본질과는 별로 깊은 관계가 없는 것으로 여겨진다. 오히려 불교적인 진면목은 공간적인 다즉일(多卽一)이 그대로 시간에 적응되어 시작도 끝도 없는 것, 따라서 답할 수 없다는 '사치기(捨置記)'의 세계일 것이다.

 

개자성겁과 반석겁(芥子城劫과 盤石劫)

무한소에 관해서 그처럼 고민한 고대인도 철학자들은 무한대에 대해서는 엄청난 상상력을 발휘했다. 항하사(恒河沙, 갠지스 강의 모래알의 개수)만큼의 많은 나무에 또 그만큼 많은 열매가 열리고, 그 열매마다 그만큼 많은 입자가 있다는 식의 사유가 사람의 생각을 압도한다. 그러나 아무리 큰 수일지라도 그것은 유한이다. 그들은 엄청나게 큰 수로써 무한에 접근할 것을 시도한 것이다. 이런 발상법은 역방향으로 전개하면 무한소로서의 영의 접근이다. 특히 시간의 단위를 무한소로 분할해 본다. 과거와 현재 사이를 경계지을 수 있는 시간의 폭은 없다. 아무리 짧은 폭일지라도 분명한 시간의 길이가 있다.

 

인도의 시간단위에 불교에 자주 등장하는 찰나(刹那)라는 말이 있다. 불교에서는 최소의 시간단위이며, 인도의 씨름 장사가 한 탄지(彈指, 엄지 손가락과 중지 손가락을 순간적으로 튕겼을 때 소리나는 시간) 사이에 65찰나가 있다는 것이다. 약 65분의 1초에 해당하는 시간이다. 요즘 올림픽의 육상경기에서도 겨우 10분의 1초 정도만 계산하고 있는 실정으로 보아 이 시간 단위가 얼마나 비현실적인가를 알 수 있다.

 

찰나에 대한 반대의 말은 '겁(劫)'이다. 인도 고대 힌두교의 계산에 의하면 1겁은 43억 2천만 년이다. 그것은 전우주〔梵天〕의 하루의 반이며, 범천의 새벽에 세계가 창조되고 그 해가 질 무렵에 파괴되는 시간이다. 그러나 이러한 시간의 계산은 아무리 자세히 해도 별로 큰 의미는 없다. 인간의 상상력은 이 엄청난 최소·최대의 시간앞에 압도당할 뿐이다. 불교에서는 이 찰나와 겁의 말을 비유로써 설명한다. 그 가운데 잘 알려져 있는 것이 개자성겁(芥子城劫)과 반석겁(盤石劫)이다.

 

개자성겁(芥子城劫)은 '한 변의 길이가 10여 킬로미터의 입방체인 철로 만든 성에 겨자씨가 가득 들어있다. 백 년마다 그 안에서 한 알의 겨자씨를 빼낼 때, 그 많은 겨자씨 전부를 다 버리는데 걸리는 시간은 1겁에도 못 미친다'는 것이다. 또 반석겁(盤石劫)은 '각 변의 길이 10여 킬로미터 입방체의 큰 바위가 있는데 백 년에 한번씩 내려오는 천녀(天女)가 입고 있던 부드러운 치마단에 스친 이 큰 바위덩어리가 모두 닳아 없어지는데 걸리는 시간'을 말한다.

 

이들 무한대와 무한소도 '공(0)'에 수렴되어 간다.

 

 

 

위기 2. 무리수의 등장

 

고대 수학자이며 철학자, 그리고 신비주의자로 알려진 피타고라스(Pythagoras, 기원전 570경-479 경). 그를 신처럼 따르던 추종자들은 비밀 집회를 통해 수학을 비롯한 피타고라스 지식의 정수를 전수 받았다. 현재 알려진 피타고라스의 가장 큰 수학적 업적은 "직각삼각형의 빗변의 제곱은 다른 두 변의 제곱의 합과 같다"는 내용의 '피타고라스 정리'다. 그런데 바로 이 내용 때문에 피타고라스 추종자들의 신념에 커다란 동요가 일고, 급기야 동료 한명을 죽음으로 몰고 간 얘기가 전해진다.

 

피타고라스는 에게해의 사모스섬에서 태어났다. 그는 섬을 지배하던 군주의 폭정을 혐오한 나머지 이탈리아 남부에 있는 크로토네로 이주하고, 여기서 비밀 공동체 조직을 창설했다. 피타고라스는 이미 당대에 신비한 인물로 인식됐다. 아폴로 신의 아들과 동정녀 피타이스 사이에서 태어났다는 소문이 돌았을 뿐 아니라 각종 기적을 행하고 마신들과 대화를 나눈다고 알려졌다. 추종자들은 피타고라스를 신에 가까운 존재로 여겨 그리스의 영적 지주로 추앙했다고 한다.

 

피타고라스 학파는 수(數)를 만물의 근본으로 파악했다. 이들은 자연계의 물질을 삼각형이나 사각형 같은 기하학적 도형으로 표현했을 뿐 아니라 각 수에 윤리적 의미를 부여했다. 예를 들어 홀수는 선하고 짝수는 악하다고 규정했으며, 6은 결혼의 수로서 여성수 2에 남성수 3을 곱한 값이라고 생각했다.

 

문제는 수가 오로지 1,2,3과 같은 자연수만 존재한다고 믿었다는 점이다. 따라서 만일 √2(=1.414 …)와 같은 무리수가 발견된다면 학파를 지탱하는 신념의 기반이 흔들리는 셈이었다. 그런데 바로 그런 일이 발생했다.

 

피타고라스는 직각삼각형에서 빗변을 제외한 두 변의 비율이 3 : 4일 경우 빗변의 값은 5라는 사실을 발견했다(사실 자신의 업적인지 제자들의 업적인지, 아니면 선대의 지식인지 불명확하다). 현 대의 공식으로 표현하면 3(2) + 4(2) = 5(2)이다. 피타고라스 학파는 이 대발견을 기념해 황소 1마리(1백 마리라고도 함)를 신의 제단에 바쳤다고 한다.

 

그러나 기쁨은 잠깐이었다. 만일 빗변을 제외한 두 변의 비율이 1 : 1이라면 빗변의 길이는 √2에 해당한다. 자연수 외에는 존재하지 않는다는 신념에 가득찬 학파로서는 커다란 충격에 사로잡힐 수밖에 없었다.

 

피타고라스 추종자들은 일단 이 사실을 비밀에 부치고 어떻게든 √2를 자연수로 표현해보려 애썼다. 이런 와중에 추종자의 한 사람인 히파수스가 비밀을 외부인에게 누설시켰다. 그러자 분개한 동료들이 히파수스를 바닷물에 던져 사망시켰다고 한다. 신념 때문에 새로운 과학 지식을 유연하게 받아들이지 못하고 무모한 행태를 벌인 일화다.

 

 

 

위기 3. 현대의 사색문제

 

1852년 영국의 대학원생이었던 구드리는 영국 지도를 색칠하다가 "지도상에서 서로 인접한 영역을 서로 다른 색으로 칠하기 위해서 최소한 몇 가지 색이 필요할까"는 의문을 갖게 됐다.

 

구드리는 영국 지도의 경우 네가지 색으로 가능하다는 것을 알았지만, 지도의 모양이 아주 복잡해지면 어떻게 될지에 대해서는 확신이 없었다. 이렇게 시작된 '4색 문제'는 점차 세상에 알려지면서 많은 에피소드를 만들었다.

 

영국의 한 수학자는 이 문제의 해법을 미국 수학 논문집에 발표, 그 공로로 영국 학술회원으로 선출됐고 영국 왕실로부터 작위까지 수여 받았다. 그러나 10여년 후 이 논문에 결정적인 오류가 있음이 밝혀지기도 했다.

 

1922년 프랭클린은 25개 이하의 구역으로 나뉘어진 지도는 네가지 이하의 색으로 칠할 수 있음을 증명, 4색 문제 해결의 실마리를 제공했다. 이어 27, 35, 39개 이하의 구역에 대해서 네가지 이하의 색이면 가능하다는 식으로 확장해 갔으나, 이러한 접근 방식은 원천적으로 한계를 가질 수밖에 없었다.

 

4색 문제를 해결하기 위한 노력은 공간의 추상적인 연결상태를 연구하는 '위상(位相)수학'이라는 새로운 분야를 정립시키는 공헌을 했다. 위상수학은 어떤 대상을 연속적으로 변형시킬 때 불변으로 남아있는 성질을 연구하는 현대수학의 한 분야다.

 

76년 미 일리노이대의 하켄과 아펠은 새로운 방법을 썼다. 이들은 지도의 모양에 따라 나타나는 수많은 경우들을 1천4백76가지로 유형화했다. 인간이 일일이 각 경우를 칠해본다면 한없는 세월이 걸리기 때문에, 컴퓨터를 동원해 분석했다.

 

1천2백시간 동안 컴퓨터를 돌린 결과 인접한 영역을 다른 색으로 칠하기 위해서는 네가지 색이면 충분하다는 결론이 났다. 1백50년 동안 논란이 되어온 4색 문제는 이렇게 일단락돼 컴퓨터만이 해결할 수 있는 최초의 수학 문제가 됐다.