비유클리드 기하학의 탄생- 평행선 공준의 다양한 증명 시도10805 김민재1. 비유클리드 기하학중고등학교 시기에 우리는 대게 지식을 무비판적으로 수용한다. 그런 과정에서 유클리드 기하학도 무비판적으로 받아들인다. 평행선은 하나뿐이고, 삼각형의 내각은 180도이고, 언제나 직사각형은 존재하는 이런 세상이 유클리드 기하학이다. 사실 ‘이런 세상’이라 하기도 어색하다. 너무도 당연한 우리가 사는 세상인 것 같다. 하지만 유클리드 기하학이 아니라면 평행선은 두 개 이상이거나 심지어 없을 수도 있고, 삼각형의 내각은 180도 보다 작을 수도, 클 수도 있으며 직사각형은 존재하지도 않는다. 이런 세계를 떠올리긴 쉽진 않지만 분명 존재한다. 그것이 비유클리드 기하학이다.비유클리드 기하학이란 쌍곡기하학과 리만기하학을 말한다. 비유클리드 기하학은 유클리드 기하학이 아닌 기하학을 총칭하기도 하지만 우리가 관심 가질 기하학은 쌍곡기하학과 리만기하학뿐이다. 이제 각각에 대한 간단한 설명과 이것들이 왜 의미를 갖는지에 대해서 알아보자. 평소에 우주의 구조에 대해서 관심 있는 독자라면 알고 있겠지만 우주의 공간은 휘어있다. 타원처럼 볼록하게 휘어있기도 하며 말안장처럼 오목하게 휘어있기도 하다. 따라서 우주의 구조를 연구하는데 있어서 평면상에서만 성립하는 유클리드 기하학이란 그저 무용지물에 불과하다는 말이다. 그렇다면 휘어진 평면에서는 도대체 어떤 기하학을 적용시켜야 할까. 그 때 필요한 기하학이 쌍곡기하학과 리만기하학이다. 아인슈타인의 상대성이론, 페렐만의 푸앵카레의 추측 증명 과정에서 리만기하학이 중요하게 쓰인 것이 대표적인 예인데 리만기하학을 모르고서 이 두 개를 이해하는 것은 절대 불가능할 정도로 중요하게 쓰인다. 이것이 우리가 쌍곡기하학과 리만기하학을 배워야 하는 이유다.쌍곡기하학과 리만기하학에 대한 자세한 내용은 다음에 알아보도록 하고 지금은 먼저 쌍곡기하학과 리만기하학이 어떻게 탄생되었는지에 대해 알아볼 것이다.2. 평행선 공준과 비유클리드 기하학의 탄생결론부터 말하자면 비정리들에 대한 증명을 전개해 나간다. 공리와 공준이란 어떠한 학문에 있어서 증명을 필요로 하지 않는 기본적인 가정 및 전제다. 공리와 공준의 구분은 명확하게 이해되지도 않을뿐더러 이 글의 주제와도 약간 거리가 있기 때문에 일단 생략하고 무엇인지부터 확인하자.5가지 공준⑴ 한 점에서 또 다른 한 점으로 직선을 그릴 수 있다.⑵ 유한한 직선은 무한히 연장시킬 수 있다.⑶ 주어진 임의의 길이를 반지름으로 갖는 원을 그릴 수 있다.⑷ 모든 직각은 서로 같다.⑸ 한 직선이 두 직선과 만날 때 같은 쪽에서 180°보다 작은 내각을 만든다면, 이들 두 직선을 한없이 연장했을 때, 180°보다 작은 각이 만들어진 쪽에서 만난다. (That, if a straight line falling on two straight lines make the interior angles on the same side less than two right angles, the two straight lines, if produced indefinitely, meet on that side on which are the angles less than the two right angles)5가지 공리⑴ 동일한 것과 같은 것들은 모두 서로 같다.(a = b, a = c → b = c)⑵ 같은 것에 어떤 같은 것을 더하면 그 전체는 서로 같다.(a = a' , b = b' → a + b = a' + b')⑶ 같은 것에서 어떤 같은 것을 빼면 나머지는 서로 같다.(a = a' , b = b' → a - b = a' - b')⑷ 서로 일치하는 것은 서로 같다.⑸ 전체는 부분보다 크다.공리는 딱히 다룰게 없기 때문에 확인만하고 넘어가자. 우리가 눈 여겨 봐야 할 것은 공준 중에서도 특히 5번째 공준이다. 아까 말했던 평행선공준이 바로 이 5번째 공준이다. 보면 알겠지만 유클리드가 정의한 평행선공준은 당최 무슨 말인지 이해가 안 된다(번역에 의문을 품을까봐 위키피디아에 올라온 영어식 표현도 함께 실었다). 한다. 심지어 평행선공준을 정의한 유클리드조차 기하학원론에서 최대한 평행선공준을 쓰지 않고 다른 정리들을 증명하려 노력한 흔적이 보인다. 그래서 기하학원론이 출간된 이래로 무려 2000여 년간 수많은 수학자들이 평행선공준을 증명하고자 했고 그 과정에서 비유클리드 기하학이 탄생했다. 그럼 지금부터 비유클리드 기하학이 구체적으로 어떻게 탄생했는지 알아보기 위해 여러 수학자들의 평행선공준의 증명들을 알아보자.3. 평행선 공준의 다양한 증명 시도⑴ 프톨레마이오스(Claudius Ptolemy, 85-165)프톨레마이오스는 알렉산드리아에서 활동한 그리스의 천문학자이자 천동설의 완성자로 익히 알려져 있다. 그는 기하학에도 관심이 많았는데 기하학원론에서 수많은 정리들이 평행선 공준을 사용하지 않고 증명되어 있는 사실에 주목하여 처음으로 평행선 공준의 증명을 시도하였다. 그러나 그의 증명 속에는 ‘주어진 직선 위에 있지 않은 한 점에서 이 점을 지나 주어진 직선과 만나지 않는 직선을 꼭 한 개 그을 수 있다’ 는 전제 즉, 평행선 공준과 동치인 명제를 묵시적으로 가정하고 있었다. 증명은 생략한다.⑵ 프로클로스(Proclus : 410-485)평행이란 두 직선이 계속해서 연장되어 가도 영원히 만나지 않는 것을 말한다. 즉, 평행이 아니라는 것은 두 직선이 계속해서 연장되어 갔을 때 언젠가는 만나게 됨을 의미한다. 하지만 프로클로스는 “두 직선이 계속해서 연장되어 감에 따라 점점 더 가까워지게 되면 그것들은 언젠간 만나게 될 것이다”라는 문장은 그럴듯하긴 하지만 꼭 만날 필요는 없다고 생각했다. 그러면서 그는 점근선을 따라 점점 가까이 접근해가지만 영원히 만나지 않는 쌍곡선의 예를 제시했다. 다음 그림과 같은 쌍곡선은 주어진 직선과 무한히 가까워지지만 절대 만나지 않는다.그리고 다음과 같은 증명을 남겼다.먼저 두 평행선 l과 m사이에 직선 n이 있어 P에서 m을 자른다고 하자. Q는 P에서 l에 내린 수선의 발이다. 이 때 만일 n이 직선 PQ와 일치하면 n은 Q에서 l과 교차고 그는 다음과 같은 말들을 남겼다. “우리는 이 정리의 증명을 찾아야 하고, 또 그것이 공준의 특별한 성격과도 다르다는 것이 이로부터 명백하다”, “평행선 공준 없이 평행인 두 직선에 대하여 우리가 말 할 수 있는 것은 오직 평행의 정의에 의하여 그들이 공유점을 갖지 않는다는 것뿐이다”, “평행선 공준 없이 공통 수선을 갖는다는 것과 평행선 사이의 거리는 언제나 같다는 명제는 증명될 수 없다”. 또 프로클로스는 “단순히 그럴 듯하다”고 하여 “즉각적인 믿음”으로 받아들이고 또 추론의 근거로 삼는 것은 옳지 못하다고 비판했다.⑶ 월리스(John Wallis, 1616-1703)월리스는 평행선 공준대신 “임의의 삼각형 ABC와 임의의 선분 DE에 대하여 한 변이 DE이고 삼각형 ABC와 닮은 삼각형 DEF가 존재 한다”는 새로운 공준을 제시했다. 그리고 새로 설정한 공준으로 평행선 공준을 증명하였다. 다음이 그에 대한 증명이다.직선 n과 l이 평행하고 직선 PQ가 n과 l에 직교한다. 또 n과 l사이에 점 P를 지나는 직선 n이 있고 n위에 점 R이 있다. 이 때 직선 PQ는 직선 RS와 직교한다. 새로 설정한 공준으로 삼각형 PSR와 닮은인 삼각형 PQT를 잡을 수 있다(이때 T는 PQ에 대하여 R고 같은 쪽에 있다). 각 SPR과 각 QPT이 합동이므로 T는 n위에 있다. 또 각 PSR와 각 PQT는 합동이고, 각 PSR이 직각이므로 각 PQT도 직각이다. 따라서 T는 l위에 있다.∴ n과 l은 T에서 항상 만나며 m은 P를 지나고 l과 평행한 유일한 직선이다.월리스는 평행선공준과 독립된 새로운 공준을 설정하고, 그 공준을 이용하여 평행선공준을 증명하였다. 하지만 이 과정에서 월리스는 큰 오류를 범하였는데 월리스가 새로 제시한 공준이 평행선공준과 동치라는 것이었다. 월리스공준이 평행선공준과 동치라는 것은 아주 간단히 증명될 수 있는데 다음이 그것이다.월리스공준이 평행선공준과 동치라는 것을 보이기 위해서는 월리스공준과 평행선공준이 필요충분조건임을 보이면 된다. 존재함을 보였으며, 이로써 평행선공준이 성립하면 월리스공준이 성립함을 보였다. 따라서 월리스공준과 평행선공준은 서로 동치인 명제다.⑷ 사케리(Girolamo Saccheri : 1667-1733)사케리는 이탈리아의 수학자로 귀류법에 아주 심취해 있었다. 그래서 귀류법으로 유클리드의 평행선 공준을 증명하려 했다. 그 과정에서 그는 두 밑각이 직각이고 두 윗각의 크기는 같고 밑변과 인접하는 두 변이 합동인 사변형을 연구하였는데 이 사각형을 사케리사변형이라고 부른다. AD=BC, 각ADC=각 BCD, 각 DAB=각 CBA=직각그는 사케리사변형의 윗각의 크기에 대해서 다음과 같은 3가지 경우로 나눴다.① 예각가설 : 윗각이 모두 예각이다.② 직각가설 : 윗각이 모두 직각이다.③ 둔각가설 : 윗각이 모두 둔각이다.사케리는 각각의 경우에 대해서 평행선의 개수가 어떻게 달라지는지에 대해 알게 되었는데 다음이 그것이다.어떠한 직선에 대한 평행선이란 그 직선과 만나지 않는 직선을 의미한다. 그런데 위의 그림에서 볼 수 있듯이 아래로 볼록한 직선이 존재하는 예각가설에서는 평행선이 여러 개 존재한다. 반면에 둔각가설에서는 평행선이 존재하지 않는데 그 이유는 둔각가설에서는 직선이 위로 볼록하기 때문에 직선 CD가 위로 얼마나 볼록한지에 상관없이 항상 직선 AB와 만나기 때문이다. 직각가설에서는 평행선의 개수가 1개이고 이는 평행선 공준을 만족시킨다. 따라서 사케리는 평행선공준이 성립하지 않는 예각가설과 둔각가설의 모순을 찾아내서 평행선 공준을 증명하려했다. 그는 둔각 가설에서는 모순점을 발견했지만(하지만 그 과정에서 묵시적인 가정을 사용하여 결과적으로 틀린 증명이었다), 예각 가설에서는 모순점은 나오지 않고 이상한 법칙들만 쏟아졌다. 이 법칙들은 후에 비유클리드 기하학 중 하나인 쌍곡기하학으로 정립된다.사케리가 얻은 내용을 표로 정리하면 다음과 같다.어떤 직선 위에 있지 않은 한 점을 지나는 평행선의 개수예각가설2개 이상직각가설1개둔각가설존재하지 않는다.⑸ 람베르트(Johann