한겨레

수학 예찬
알랭 바디우 지음, 박성훈 옮김 l 길 l 1만8000원

프랑스 철학자 알랭 바디우(85)는 플라톤을 모범으로 삼아 형이상학적 존재론을 구축한, 우리 시대의 거의 마지막을 이루는 고전적 철학자다. 독특한 것은 통상의 철학자들과 달리 바디우가 수학을 토대로 삼아 자신의 존재론을 세웠다는 사실이다. 바디우의 대표작 <존재와 사건>(1988)이 수학, 그중에서도 ‘집합론’에 바탕을 두고 축조된 철학적 구조물이다. 이 존재론에서 바디우는 자신이 ‘진리 사건’이라고 부르는 것을 과학·예술·정치·사랑의 네 영역으로 나누어 살폈는데, 이 영역을 각각 주제로 삼은 대담집을 내놓은 바 있다. <수학 예찬>은 10여년 전 한국어로 출간된 <사랑 예찬>에 이어 두 번째로 번역된 대담집이다. 바디우에게 수학은 자신의 철학을 구성하는 골조이자 과학 영역을 떠받치는 기반이다.

대화의 출발점에서 바디우는 자신이 출생도 하기 전부터 수학과 인연을 맺었다고 이야기한다. 아버지가 수학을 사랑하는 수학교사여서 태중에서부터 수학에 관한 대화를 무수히 듣고 자랐다는 것이다. 바디우는 중학생 시절에 벌써 수학적 증명을 스스로 해낸 뒤 말할 수 없는 기쁨을 느꼈고, 대학에 들어간 뒤에도 수학이 주는 희열을 잊지 않았다. 흥미로운 것은 수학에 대한 사랑이 젊은 시절 사르트르 철학에 대한 사랑과 함께했다는 사실이다. 사르트르의 ‘철학적 낭만주의’는 수학을 전적으로 무시했지만, 바디우에게 사르트르는 ‘철학의 스승’이었다. ‘확신에 찬 사르트르주의자’로서 바디우는 철학이 ‘사회에 참여하는 주체’를 창출해야 한다고 생각함과 동시에 수학의 사도로서 철학과 수학이 통합돼야 한다고 생각했다. ‘수학’과 ‘주체’라는 이 분열된 두 힘을 하나로 결합하는 것이 이후 바디우 철학의 과제가 됐음을 이 대담집은 알려준다.

오늘날 철학은 수학과 거의 무관한 것으로 인식되고 있다. 바디우는 그런 통념을 단호히 부정한다. 서양 사상사를 돌아보면, 수학과 철학이 한몸에서 태어나 친밀한 관계 속에 자랐음을 알 수 있다. 근대 철학의 문을 연 데카르트는 수학자로서 해석기하학을 창시했고, 라이프니츠는 미분방정식을 발명했다. 라이프니츠의 동시대인 스피노자는 주저 <에티카>(윤리학)를 유클리드 기하학의 증명 방식을 모델로 삼아 구성했다. 한 세기 뒤 칸트도 <순수이성비판> 서문에서 ‘비판철학’에 수학이 필수적이라고 확언했다. 철학의 시원으로 거슬러 올라가면 철학과 수학의 밀접한 관계는 더욱 분명해진다. 플라톤은 자신의 학교 입구에 ‘기하학을 모르면 누구도 여기 들어올 수 없다’고 써 붙였다. 이때의 기하학, 곧 수학은 인간의 ‘합리적-이성적 추론 능력’을 가리킨다. 수학의 증명은 어떤 종교적·정치적 권위로도 무효화할 수 없고 오직 이성에 합당한 반증을 통해서만 논박될 수 있다. 신의 계시도 왕의 명령도 수학에서는 통하지 않는다. “수학자는 신화나 종교의 전제에서 풀려나, 증명의 형식을 취하는 보편성을 처음 도입한 사람들이다.” 인간에게 보편적으로 내재하는 이성의 힘을 믿는 수학은 모든 인간은 본디 평등하다는 민주주의 정신과 병행한다.

그렇다면 수학이란 무엇인가? 바디우는 수학이 무엇인지를 놓고 학자들 사이에 크게 두 가지 주장이 대립한다고 말한다. 하나가 실재론적 관점이다. 수학은 우리의 인식 바깥에 실재하는 것들과 관련을 맺고 있다. 수학은 실재하는 모든 것의 보편적 구조에 대한 연구다. 요컨대, 수학에서 말하는 수리나 법칙은 실재한다. 플라톤이 바로 실재론의 대표자다. 수학의 본질에 관한 두 번째 관점은 형식론적 관점이다. 수학의 대상은 실재하는 것이 아니라 실재하는 것들을 설명하려고 논리적으로 고안한 허구적 형식이라는 것이다. 수학을 일종의 ‘언어 게임’으로 본 비트겐슈타인이 형식론의 대표자다. 바디우는 대다수 수학자들과 함께 단호하게 실재론을 옹호하는 쪽에 선다. 수학은 실재의 보편적 구조를 드러내는 학문이다. 우주를 탐구하는 물리학이 수학을 동반자로 삼을 수 있는 것도 수학적 진리가 실재하기 때문이다. 수학은 실재하는 것들의 존재 구조를 설명하는 학문이기에 존재론의 바탕이 된다.

바디우는 이 수학 가운데 특히 19세기 말에 게오르크 칸토어가 창안하고 20세기에 큰 발전을 이룬 ‘집합론’에 입각해 자신의 형이상학적 존재론을 구축했다. 이 집합론에서 주목할 것이 ‘칸토어의 정리’다. 칸토어의 정리는 ‘멱집합의 크기가 원래의 집합의 크기보다 크다’는 명제로 요약된다. 멱집합이란 ‘어떤 집합(S)의 모든 부분집합을 원소로 하는 집합’이다. 이때 이 부분집합에는 개별 원소들의 집합도 포함될 뿐만 아니라 ‘공집합’(∅)과 ‘원래의 집합’(S)도 포함된다. 그러므로 어떤 경우에도 멱집합은 원래의 집합보다 크다. 이 사실에서 바디우는 정치적인 함의를 읽어낸다. 어떤 집합 안의 ‘원소 개수’보다 ‘부분집합의 개수’가 더 많다는 것은 개체보다 집단이 더 풍부하다는 것을 뜻한다. “칸토어의 정리는 추상적인 층위에서 개인주의의 지배를 논박한다.” 개체를 단순히 합산한 것보다 전체가 더 크다는 것, 그러므로 개인주의로는 전체 집단의 문제를 해결할 수 없다는 것이 이 정리에서 도출되는 것이다. 이런 논리 위에 바디우는 자신이 신봉하는 코뮌주의(공산주의)의 철학적 근거를 마련한다.

바디우의 존재론은 과학·예술·정치·사랑이라는 네 영역에서 일어나는 ‘진리 사건’을 조건으로 삼는다. 바디우가 말하는 진리는 어떤 돌발적 우연으로 출현해 지속성을 지니는 것을 뜻한다. 수학에서 난제의 해법은 지난한 탐구 끝에 어느 한순간에 계시처럼 들이닥친다. 예술 작품도 번득이는 영감 속에 빚어진다. 사랑이라는 열정도 두 사람의 우발적인 만남에서 비롯하며, 정치적 진리도 ‘바스티유 함락’처럼 돌연한 사건으로 시작해 돌이킬 수 없는 변화로 이어진다. 더 중요한 것은 이 모든 진리 과정에 인간들이 참여한다는 사실이다. 인간은 사건에 참여함으로써 주체가 되고 그 진리를 향유하는 자가 된다. 그리하여 젊은 바디우에게 분열된 힘으로 다가왔던 수학과 주체가 여기서 마침내 그 이원성을 극복한다. 수학은 진리의 존재론의 바탕이 되며, 주체는 그 진리 과정에 참여함으로써 참된 주체가 되는 것이다.

고명섭 선임기자 michael@hani.co.kr