한국의 수학사에 얽힌 이야기

 

서문

우리에게는 최석정, 남병길등 많은 수학자의 역사가 있다.

 

다만 실용적인 데 치우치다 보니 순수 학문적 자취가 잘 보존되어 있지 않아 수학의 역사를 소홀히 해 왔다.

 

한국 수학은 중국 수학의 영향을 많이 받아 온 것이 사실이다. 그러나, 우리가 덮어 놓고 그것을 받아들이기만 하지는 않았다는 사실을 알아두어야 한다.

 

또 한국 수학사를 통해서 중요한 사실을 지적해야 하는 데 그것은 문자의 문제이다.

 

일본 수학은 임진란 이후 우리 나라에서 가지고 간 수학책을 기초로 해서 이른바 '화산(和算)'이라는 독특한 일본 수학을 체계화시켰는데, 그 가장 큰 이유는 일본인들은 우리 나라에서 재빨리 가지고 간 한자로만 된 수학책을 그들의 글로 고쳐썼기 때문이다.

 

한편, 우리 나라는 조선시대 말까지도 한자 수학책을 엮어내고 있었다.

 

계에서 가장 우수하다는 문자 한글을 가지고 있으면서도 우리의 글로 엮어 내지 못했다. 한자를 통해서 읽은 수학은 아무래도 한국인에게는 이중의 정신적인 부담을 준 것으로 보인다.

 

그것은 한자라는 체계가 유럽적인 논리를 전개하기에는 아무래도 자유스럽지 못 할 뿐만 아니라, 한국인에게는 어디까지나 외국어를 위하는 문자였기 때문이다.

 

통일신라시대

신라에서 산학을 가르쳤다는 기록이 삼국사기에 짧게 언급되어 있습니다.

 

통일신라의 산학제도는 형식에 치우친 일본의 그것에 비교하여 훨씬 현실적인 면이 두드러졌습니다. 통일신라 초기에는 산학제도과 활발했지만 중기를 넘어서 차차 침체하기 시작하여 말기에는 제도 자체가 소멸해 버린 것으로 추측되고 있습니다.

 

당시의 상황을 고려해 보면 수학은 극히 제한된 관료사회 내부에서만 존재하였기 때문에 제도상의 뒷받침이 사라진 이후에는 산사(직업수학자)들이 개인적으로 연구를 했을지는 모르지만 하나의 흐름을 형성할 만한 공동체를 형성하지는 못했습니다.

고려시대

고려시대 산학 교육과정이 무엇이었는지는 문헌에 밝혀진바가 없습니다.

 

그러나 수학의 과거인 '명산과'의 시험이 이틀에 걸쳐 시행되었으며 첫날은 '구장산술', 다음날은 '철술', '산개', '사가' 중에서 출제가 되었다는 내용은 고려사에 남아있습니다.

 

고려시대에는 수도와 대도시에만 산사를 배치하였기 때문에 군,현 등 지방에는 수학책에 실린 고도의 계산지식이 전파되지 않았을 것이다.

 

세금계산뿐만 아니라 역법에도 수학은 많이 이용이 되었는데 초기에는 신라 이래의 선명력을 그대로 썼으나 말기에는 원나라에서 들여온 수시력으로 바뀌었다.

 

구장산술(九章算術)

동양 수학의 기본은 「구장산술(九章算術)」인데, 그 중심 개념은 음과 양인 '-, +' 이며, 일종의 대수학이다.

 

이것이 신라의 산학 算學제도에는 「구장(九章)」이라는 이름으로 반영되어 있다.

 

우리나라 역사책 중에서도 삼국사기가 가장 오래된 것이다. 김부식이 신라, 고구려, 백제 세 나라의 역사책을 중심으로 해서 중국의 전통적인 연대기의 수법(이른바 기전체) 으로 고려대에 엮은 것이다.

 

그 내용은, 비록 후세의 편찬이긴 하지만 어떤 부분은 놀라우리 만큼 자세하게 기록되어 있다.

 

이것이 한국그이 수학사 연구에 있어서도 중요하나 역할을 한다. 그것은 산학(算學) 관계에도 퍽 구체적인 기록이 있기 때문이다.

 

그 중 가장 오래된 것은 신라 점해왕(제12대) 5년 (A.D.251년) 때에 관한 기록이다.

 

'한기부 사람 부도夫道는 집안이 가난하지만 남에게 아첨함이 없고, 공工, 서書, 산算을 잘하여 이름이 났으므로 왕은 그에게 벼슬을 주고 물장고의 사무를 맡겼다.

-신라본기 新羅本紀

 

과연 부도가 가진 수학 지식이 어느정도 였는지는 확실히 알 수 없지만 아마도 궁중의 회계 일을 맡아보는 데 적합한 지식이었을 것으로 추축될 뿐이다. '물장고의 사무'란 요즘말로는 재무장관 직이다.

 

그 후 500년이나 지나 서기 746년 신라 경덕왕 대에는 정식으로 국학제도, 그러니까 오늘날의 국립대학 제도가 확립되었다.

 

고구려는 신라보다 훨씬 앞선 선진국이었으며, 국학제도는 신라보다 거의 400여년이나 먼저 서기 372년에 성립되었다.

 

백제에서는 서기 260년(고이왕 26년)에 재산을 다루는 고장사庫藏事 제도가 확립되었다.

 

이러한 사실로 미루어 보면, 옛 한국의 산술제도가 문헌에 남아있는 신라의 것보다도 실제로는 훨씬 고대로 거슬러 올라간다는 것을 수 있다.

 

『구장산술』에 수록된 문제

수학은 그 시대의 사회를 반영하고 있다. 옛날 수학은 실용 과학으로 그 사회의 모습을 나타낸다고 할 수 있다.

 

그러면 『구장산술』을 통해 고대 사회의 모습을 살펴보는 것도 가능하다.

 

고대 사회는 농업 중심의 사회였다. 그래서 가장 중요한 것이 토지였고, 토지에서 나오는 생산물의 정확한 측정과 또 그것을 통해 세금을 부과하는 문제가 중요시 되었다. 그래서 토지 측량은 고대 사회에서 가장 기본이 되는 일이었으며, 정확한 토지 측량을 위한 지침이 있어야 했다.

 

토지 측량과 관련해서 『구장산술』에 나오는 몇 가지 문제를 보면 다음과 같다.

 

< 문 제>

지금 원형의 밭이 있다.

주위의 길이는 30보. 직경이 10보라고 할 때 밭의 넓이는 얼마인가?

(『구장산술』제1장 방전)

답 : 75보

< 문제>

폭이 1보 반인 밭의 넓이를 1무(240보)로 만들고 싶다. 길이는 얼마로 하면 좋을까?

(『구장산술』 제4장 소광)

답 : 160보

삼국시대 때 산사가 맡은 가장 중요한 업무도 토지를 정확히 측정하고 세금을 공평하게 받아들이는 일이었다. 경지 면적이 곧 수확량과 연결되고 또 세금과 결부되므로 토지 측량은 농업 사회의 가장 기본이 되는 일이다. 그래서 역대 왕들은 토지 제도 정비에 온 힘을 기울였고 따라서 『구장산술』에서도 토지 측량을 제1장에서 가장 먼저 다루게 된다.

 

그래서 『구장산술』을 보면 그 사회가 어떤 사회이고, 사회의 중요한 문제들이 무엇인가를 알 수 있다.

 

고려 시대의 수학 시험

 

고려 시대 때 수학 시험을 보는 시험장이다.

 

수학을 정식으로 공부하자면 이 시험에 붙어야만 한다. 요즘 대학의 수학과 선발 시험장이라고 할 수 있다.

 

여섯 명의 시험관 앞에 소년이 앉아 있다. 한 시험관이 말했다.

 

"『구장산술』의 제9장 10조를 외워 보시오."

 

소년은 자신 있는 목소리로 외우기 시작했다.

 

암송이 끝나자 다른 시험관이 문제를 냈다.

 

"잘 했네. 그럼 다음 문제를 풀어 보게.

 

금 9꾸러미와 은 12꾸러미의 무게가 같은데 금 1꾸러미와 은 1꾸러미를 바꾸어 넣었더니 금의 무게가 30냥 가벼워졌네.

 

금과 은 1꾸러미의 무게는 각각 얼마가 되겠는가?"

 

이 문제는 우리 나라의 수학 기본 교과서라고 할 수 있는 『구장산술』의 제8장에 있는 문제이다.

 

바로 연립 방정식문제인데, 우리가 요즘 푼다고 하더라도 좀 까다로운 문제라고 할 수 있다.

 

『구장산술』은 옛날에 가장 기본이 되는 수학책으로 앞서도 서술한 바와 같이 수학을 공부하려면 꼭 보아야 했다.

 

산사(算士, 수학자)를 뽑는 시험에서 『구장산술』 내용이 그대로 나왔으니까 특히 수학 시험을 치르기 위해서는 암기하다시피 공부해야 했다.

 

그래서 산서(算書)들은 산경(算經)이라고 불릴 만큼 중요했다.

 

그러다 보니 경전 외우듯 암기하는 것은 당연한 일이었다.

 

조선 시대 때 정인지, 김종서 등이 지은 고려 왕조의 기전체 역사책 『고려사』를 보면 산학 시험에 대한 기록이 나와있다.

 

"3일 동안 산경을 접어서 시험을 본다.

 

첫날에는 『구장산술』의 제9장 10조를 접어서 암기 시험을 보고, 다음 날은 제6장을 접어 그 일부를 암송시킨다.

 

그 다음날은 여섯 문제를 푸는데 네 문제를 통과해야 한다."

 

이 기록만 보더라도 『구장산술』이 얼마나 중요한 수학책이었는지 알 수 있다.

 

 

조선시대의 수학

고려왕조가 망한 중요한 원인의 하나는 조세 부과에 따르는 농지측량의 문란이었다. 따라서 세종은 과거의 잘못을 거울삼아 전제평정소를 설치하고 농지제도의 확립을 꾀하였다. 여기서 필연적으로 통일신라나 고려시대와 마찬가지로 정치 기술상의 필요 때문에 수학지식에 대한 수요가 늘어나게 되었다.

 

세종은 산술적 기초에 주목하여 산사의 양성과 임용을 꾀하였고 왕 스스로 당시 부제학이었던 정인지로부터 '산학계몽'에 관한 강의를 받았다.

 

세종 20년에 제정된 '잡과십학'에 관한 교육과정 중에서, 산학의 내용은 상명산, 양휘산, 계몽산, 오조산, 지산의 5교과로 되어 있다. 세조시대에 착수되고 성종 16년에 완성된 '경국대전'에는 산학의 제도가 더욱 정비되었으며 산학박사대신 산학교수 1명, 별제 2명, 산사 1명, 계사 2명, 산학훈도 1명을 두었다.

 

세종때 '오조산'을 교과서로 채택한 것은 눈길을 끄는데 오조는 전조, 병조, 집조, 창조, 금조의 5대 관서를 뜻하며 이러한 부처에서 필교한 계산술을 정리한 책이 '오조산경'이다. 각 항목별 내용을 간략하게 살펴보면 다음과 같다.

 

전조 (田曺)

농지 면적의 계산법에 관한 문제.

예) 환전(環田, 두개의 동심원 사이의 농지)이 있다. 외주가 30보, 내주가 10보, 경이 3보일 때 그 면적은 얼마인가?

병조(兵曺)

병사의 징집, 양곡이나 의복의 급여, 소나 말의 사료 등에 관한 문제

예) 장정 23,692명 중에서 5,923명을 징집하려고 한다. 몇 사람 중 하나 꼴로 뽑으면 되는가?

집조(集曺)

음식에 관한 문제

예) 조 560섬이 있다. 조 8말에 대하여 보리 5말의 비율로 교환한다고 하면, 모두 보리 몇섬에 해당하는가?

창조(倉曺)

곡물의 수확, 농지면적, 곡식창고의 용적 등에 관한 문제

예) 900무의 관전이 있다. 1보마다 조 3되 2홉의 수확이 있다고 하면, 모두 얼마나 되는가?

금조(金曺)

주로 물가에 관한 문제

예) 생사 1근에 대하여 연사 12량의 비율로 교환된다고 한다. 연사 1,587량이면, 생사 얼마에 해당하는가?

'상명산법'은 고려말에 명나라에서 들여온 책을 세종시대에 복각한 것으로 짐작되고 있다. 상업적인 시대상을 반영하고 서민생활에서 많은 소재를 얻은 계몽적인 수학서의 특징으로, 각 장마다 노래의 형식을 빌어 공식을 내세우고 있는 점이 눈에 뛴다. 이러한 스타일은 '양휘산법', '산학계몽'의 경우도 거의 마찬가지이다. 이 책에서 쓰이고 있는 계산 수단은 오로지 '산목'뿐이고 '주산'에 대해서는 한마디의 언급이 없는데, '산목'에 대한 사용법은 일체 생략하고 있는 걸로 보아 산목계산은 너무나 상식적이었던 것 같다.

 

조선시대에는 중국에서는 없어졌던 '천원술'이 계승되고 있었다. 수시력의 계산에는 고차방정식이 다루어지는데 천원술이 그 열쇠가 된다. 어림잡아 늦어도 세종대에 천원술의 방법을 충분히 터득할 수 있었던 것 같다.

 

한국의 전통과학은 수학사의 면에서만 보더라도 단지 중국의 옛 수학책을 충실히 보관하는 정도에 그치는 소극적인 구실이 아니라 훨씬 적극적인 면이 있었다는 것을 넘겨보아서는 안된다.

 

임진왜란과 정유재란은 우리나라 수학분야에도 큰 손실을 끼쳤다. 많은 서적이 불에 탔거나 약탈당해 왕실의 서고에서 자취를 감추어 버렸다. 중국 수학사의 황금기 시대인 송,원나라 시대의 수학을 흡수하여 세종대를 거쳐 이런한 동란이 일어나기까지 약 150년동안에 한국인의 손에 의해 수학책도 출간되었을 터이고,그런대로 독자적인으로 다음어진 학국 수학이 싹트고있었을 터인데 유감스럽게도 이러한 사실을 증명하는 문헌은 일체 소멸해 버리고 말았다.

 

실학이 들어오면서 산학의 규모가 커지기 시작하였다. 특히 영조는 많은 개혁과 국정의 정상화에 큼 힘을 쏟았는데 이 때 산학제도도 정비되었다. '속대전'에서는 산생의 정원이 15명에서 61명으로 대폭적인 증가를 보이고 있다.

 

실학 후기에 접어들면서는 수학의 내용이 계몽적인 단계를 뛰어넘어 전문적인 연구쪽으로 심화되어 갔다.

 

 

조선시대 수학자 홍정하 ― 우리 수학과 중국 수학

우리는 한번쯤 우리 나라에도 수학자가 있었을까? 하는 의문을 가진다. 수학책에 나오는 정리나 공식들은 모두 피타고라스니 오일러니 파스칼이니 하는 외국 수학자들이다.

 

그러나 우리 나라에도 수학하는 사람들이 많았다.

 

우선 조선시대 수학자이자 실학자인 '홍정하'라는 중인 수학자가 중국의 유명한 수학자와 수학에 관한 대결을 벌인 이야기를 보자.

 

흥미로운 이야기는 홍정하가 지은 『구일집』이라는 책에 전해오고 있다. 수학책 『구일집』은 천, 지, 인 등의 8권과 부록을 구성되어 있다.

 

수학자 홍정하의 집안

 

1684년에 태어난 홍정하는 조선시대 숙종과 영조 때의 수학자이다.

홍정하는 대대로 수학을 하는 수학자 집안에서 자랐다.

수학자 집안이니 수학 공부를 더 쉽게 할 수 있었다.

요즘 같으면 집안이 대대로 수학을 했으니 학자 집안이었겠지만 그 당시 수학자들은 산학자로 불린 중인 계급으로 양반은 아니었다.

조선시대에는 산학 시험이라는 것이 있어서 이 시험에 합격해야 산학자가 되는 공인 수학자 제도가 있었다.

그 당시 유럽에서도 상인들이 셈을 전문으로 하는 '셈사'를 고용했는데, 셈사들은 그것이 직업이 되었다.

 

중국의 대수학자 하국주와의 만남

 

1713년 5월 29일 홍정하는 같은 수학자인 유수석과 함께 조선에 온 중국의 사력 하국주를 만나 수학에 대해서 이야기를 나누었다.

 

사력은 중국 천문대의 관직으로, 하국주는 천문과 역산에 밝았고 산학에도 뛰어난 실력자였다.

 

홍정하는 수학 공부를 위해서라면 누구라도 찾아가서 가르침을 받으려고 했다.

 

하국주와 홍정하의 만남은 요즘처럼 공식을 암기하거나 문제 풀이나 하는 수학 공부와는 달리 대화를 하는 식이었다.

 

옛날에는 공부를 대화하는 식으로 했다.

 

그렇게 대화와 토론을 통해 생각의 부족함을 채우고 새로운 것을 발견하며 어려운 문제를 풀어 나가려 했다.

 

홍정하가 쓴 수학책 『구일집』에는 수학의 대화가 소개 되어 있다.

 

홍정하는 하국주를 만나 공손히 "아무것도 모르니 산학을 가르쳐 주십시오." 하고 말했다.

 

하국주는 문화 대국의 일류 학자인 양 어깨를 우쭐대며 '이런 문제를 알겠는가.' 하는 얕보는 마음으로 문제를 냈다.

 

① "360명이 한 사람마다 은1냥 8전을 낸 합계는 얼마나 되겠소?

그리고 은 351냥이 있소. 한 섬의 값이 1냥 5전한다면 몇 섬을 구입할 수 있겠소?"

어릴 적부터 산학 문제를 풀면서 실력을 갈고 닦은 홍정하는 금세 답이 나왔다.

 

"앞 문제의 답은 648냥이고, 다음 문제의 답은 234섬이 되옵니다."

 

홍정하가 금방 문제를 풀자 하국주는 다음으로 도형 문제를 냈다.

 

"제곱한 넓이가 225평방자일 때 한 변의 길이는 얼마요?"

 

이 문제는 여러분도 모두 풀 수 있을 것이다. 제곱해서 225일 수는 15가 되니까 답은 15자가 되지요. 홍정하는 이 문제도 맞추었다.

 

하국주는 또 문제를 냈습니다.

 

 

② "크고 작은 두 개의 정사각형이 있소.

두 정사각형의 넓이의 합은 486평방자이고, 큰 정사각형의 한 번은 작은 쪽의 한 변보다 6자만큼 길지요.

두 정사각형의 각 변의 길이는 얼마가 되겠소?"

 

물론 이 문제도 홍정하, 유수석 두 수학자들은 모두 풀었다.

 

하국주의 참패

 

이렇게 모두 정답을 맞추자 옆에서 지켜 보고 있던 한 중국 사신이 홍정하의 실력을 얕잡아 보고 하국주의 체면을 살리려는 듯 말참견을 했다.

 

"사력은 계산에 대해서는 천하의 실력자요.

 

사력의 수학의 조예는 깊기가 한량이 없소.

 

여러분 따위는 도저히 견줄 바가 못 되오.

 

사력은 많은 질문을 했는데 여러분도 그에게 문제를 내야 하지 않겠소?

 

③ "지금 여기에 공 모양의 옥이 있습니다.

이것에 내접한 정육면체의 옥을 빼놓은 껍질의 무게는 265근이고 껍질의 두께는 4치 5푼입니다.

옥의 지름과 내접하는 정육면체의 한 변의 길이는 각각 얼마입니까?"

 

이 문제를 듣고 하국주는 함참 고민하더니 이렇게 말했다.

 

"이것은 아주 어려운 문제요. 당장에는 풀지 못하지만 내일은 반드시 답을 주겠소."

 

그러나 하국주는 다음날에도 끝내 정답을 내놓지 못했다.

 

하국주의 참패였다.

 

홍정하는 정육면체의 한 변의 길이는 약 5치이고 옥의 지름은 약 14치라고 말해주었다.

 

그리고 답 풀이를 해 주었다.

 

옥의 지름을 구하려면 구의 부피를 내는 공식을 알아야 하는데, 홍정하는 구의 부피를 으로

하여 구했다.

 

오늘날 우리가 중학교 1학년 수학 시간에 배운 구의 부피를 내는 공식은 (r: 구의 반지름)이다.

 

따라서 홍정하는 구의 부피를 내는 공식에서 차질이 생겨 답이 약간 달라지게 된 것이다.

 

그리고 의 값을 3으로 했다.

 

어찌 되었건 홍정하는 구의 부피를 내는 공식을 생각했고 하국주는 전혀 생각을 못했다.

 

새로운 지식을 얻어내려는 홍정하의 노력

 

이번에는 하국주가 어려울 것이라는 표정으로 문제를 냈다.

 

"지름이 10자인 원에 내접하는 정오각형의 한 변의 길이와 넓이는 각각 얼마요?"

그러자 유수석이 말했다.

 

"조선에는 아직 이런 학문이 없습니다.

어떤 방법으로 하는 것입니까?"

 

이에 대해 하국주는 보충 설명을 해 주었다.

 

"원은 360도이고 정오각형의 꼭지각의 하나는 72도가 되는데 그 반인 36도에서 정현수(sine)의 값을 구하게 되오."

 

하국주의 설명을 듣고 유수석은 다시 물었다.

 

"정현수는 어떤 방법으로 얻은 것입니까?"

 

"8선표가 있으면 그것으로 곧 값을 구할 수 있지만 일일이 계산하자면 매우 어렵기 때문에 여기서는 대답하기가 어렵소."

 

여기서 8선표는 삼각함수표를 말한다.

 

홍정하는 하국주의 대답에 만족하지 않고 꼬치꼬치 캐물었다.

 

"이치가 아무리 심오하고 어려울지라도 배울 수 있습니다. 그 길을 알려 주십시오."

 

홍정하의 열의에 하국주는 "『기하원본』과 『측량전의』 두 책을 읽으면 이해할 수 있소."라고 대답했다.

 

유수석도 적극적으로 물었다.

 

"어떻게 하면 볼 수 있습니까?"

 

"중국에서 출발할 때 봉화성에 두고 왔소. 귀국하면 보내 드리겠소."

 

잠시 뒤 홍정하가 말했다.

 

"우리 두 사람의 수학 실력은 어느 정도입니까?"

 

"두 사람의 실력은 상당하오.

 

17~18문제 중 풀지 못한 것은 불과 두셋에 불과하지 않소?"

 

하국주는 자신이 쓴 『구고도설』이라는 책을 보여 주었다.

 

이 책은 서양의 피타고라스 정리와 같은 구고현의 정리를 이용한 문제들이었다.

 

하국주가 내놓은 문제 가운데에서 고차 방정식의 문제가 있었는데 조선의 두 수학자는 그것을 '산목셈'으로 척척 풀었다.

 

산목셈이란 대나무 가지 같은 것으로 계산하는 계산기의 일종이었다.

 

하국주는 중국에는 이러한 것이 없으니 가지고 돌아가서 모두에게 보이고 싶다고 했다.

 

하국주가 살았던 때의 중국에서는 이미 사라져 버렸고 조선에는 그대로 보존되어 있었다.

 

중국에서는 뒷날, 조선의 수학이 없었다면 이 부분에서 동양 수학의 명맥이 끊어졌을지 모른다고 말하기도 했다.