한겨레

수학의 감각-지극히 인문학적인 수학 이야기
박병하 지음/행성B·1만6000원

많은 이들에게 수학은 대개 학교에서 배우고 시험문제지에서 풀어야 하는 어려운 교과목쯤으로 여겨진다. 수학과 관련한 길로 나아가는 이가 아니라면, 도형과 수식의 세계는 학교 졸업과 함께 작별을 고했으리라. 재야 수학자 박병하 박사가 쓴 <수학의 감각>은 이런 독자들에게 수학으로 생각하기가 뜻밖에 번잡한 세상살이 생각에도 도움을 줄 수 있다고 알려주면서 수학적 사유방식과 친해지기를 권한다. 지은이는 인문학에 익숙한 문과생의 길을 걷다가 수학의 매력에 빠져 수학 박사가 된 자칭 ‘수학 이민자’다. 그에게 “수학은 삶의 지혜를 가르쳐 준 마력을 가진 학문”이라 하니, 그가 수학에서 얻은 지혜가 대체 무엇인지 자못 궁금해진다.

모두 13개 장으로 이뤄진 이 책은 일종의 열세 마당 강연처럼 읽힌다. 숫자 0과 무한, 점과 선으로 시작하는 지상 강연은 마당을 거듭하면서, 겉으론 단순해 보이지만 따질수록 심각해지는 평행선 공리의 문제, ‘쾨니히스베르크의 일곱 개 다리를 한 번씩 모두 건너는 방법’의 문제를 풀다가 발전한 그래프 이론, 그리고 토폴로지(위상기하학)로 나아간다. 좌표와 미지수 x, y의 발명, 미적분의 등장, 페르마 대정리의 수수께끼, 무한의 새로운 성질, 기호논리학의 알쏭달쏭한 체계 등에 관한 수학자들의 도전과 연구에 이르면, 어느덧 긴 수학사에 발자취를 남긴 저명 수학자들을 두루 만난 셈이 된다.

순수한 수학 이야기는 이 책의 절반일 뿐이다. 그는 널리 알려진 시와 소설 작품, 고전의 문구를 수시로 수학 이야기 속으로 끌어들여 버무려내고, 세상살이에서 겪을 복잡한 문제를 대하는 수학적 사유의 방법을 안내한다. ‘지극히 인문학적인 수학 이야기’라는 부제는 이 책이 수학의 세계 안에만 머무르지 않음을 말해준다. 수학에서 얻은 사유방식의 지혜는 이런 것들이다. ‘안 된다고 생각하면 가능성은 멀어진다’, ‘멀리서 보아야 전체가 보인다’, ‘잘 아는 친숙한 것을 문제풀이의 지렛대로 삼으라’, ‘문제가 풀리지 않는다면 문제의 형식을 바꿔보라’, ‘근본만 남기고 말랑말랑 유연하게 사유하라’ 등등.

유클리드 기하학에서 굳건했던 평행선 공리의 절대성이 깨져나가는 수학사의 장면은 패러다임의 전환이 몰고 온 사유방식 혁신의 사례다. 한 직선과 떨어져 평행한 직선은 하나뿐이라는 평행선 공리는 그것을 넘어서려는 수학자들의 도전 대상이 되었는데, 이 공리가 평탄한 공간에서나 통할 뿐 휜 공간에선 다른 공리가 세워져야 마땅함이 증명되기까지는 진지한 도전과 실패가 이어졌다. 마침내 휜 공간에서 평행선은 다르게 해석될 수 있음이 증명되면서 아인슈타인 상대성이론이 태어날 수학적 기초도 마련될 수 있었다고 한다. 이런 수학사는 고정관념처럼 굳어진 시스템 그 자체를 뒤집을 때 패러다임의 전환이 일어날 수 있음을 보여준다고 지은이는 강조한다.

그는 책 뒷부분에서 수학적 사유방식을 ‘생각의 다이어트’라는 말로 요약해 권한다. 복잡한 것을 단순한 문제 형식에 담아내고 생각의 군살을 빼는 수학적 사유는 세상살이에도 때때로 좋은 도구가 되리라는 것이다. 중학교 수학 수준에 익숙한 독자라면 찬찬히 생각하며 읽을 만한 책이다. 수학의 기초 개념과 그 역사, 그리고 이름난 수학자들의 삶과 업적이 궁금한 독자들의 교양지식을 넓혀줄 만하다.

오철우 선임기자 cheolwoo@hani.co.kr