2007년 수학 교과서의 오류

고등학교 수학 교육과정에서 미분법을 공부하는 가장 큰 목적 가운데 하나는 도함수를 구함으로써 함수의 증가, 감소를 파악하고 그래프의 개형을 파악하는 것이다. 그러나 2007년 개정 고등학교 수학 교육과정에서는 이를 설명함에 있어 아주 큰 오류가 있었다. 이번 글에서는 그 당시 교과서의 오류와 빈약한 설명들을 찾아볼 것이다. 글의 대부분은 다음 논문을 따른다:
https://scienceon.kisti.re.kr/srch/selectPORSrchArticle.do?cn=JAKO201029335102378

당시 모든 교과서에서 함수 $f(x)$ 가 어떤 구간의 임의의 두 수 $x_1$, $x_2$ 에 대하여 $x_1<x_2$ 일 때, $f(x_1)<f(x_2)$ 을 만족하면 이 구간에서 증가함수라고 정의하고 있으며, 아래와 같이 열린 구간에서 도함수가 양이면 그 구간에서 증가함수라는 것을 설명하고 있다.

정리 1: 함수 $f(x)$ 가 열린 구간에서 미분가능하고 $f'(x)>0$ 이면 그 구간에서 증가함수이다.

정리 1은 '평균값의 정리'를 이용하면 쉽게 증명할 수 있지만, 2007년 당시 문과 수학에 해당하는 '미적분과 통계 기본' 과정에서는 평균값의 정리를 다루지 않으므로 직관적으로 설명할 수 밖에 없고, 고등학교 교육과정해설(교육과학기술부, 2008)에서도 정리 1의 내용을 "··· 알고, 이를 이용하여 여러 가지 다항함수의 증가, 감소를 조사해 보도록 한다"고 서술하고 있다. 2007년 개정 교육과정 이전의 교과서 대부분과 2007년 개정 고등학교 미적분과 통계 기본 교과서 13종 모두 증가상태, 감소상태란 개념을 이용하여 함수의 증감을 설명하는 것도 이러한 이유에서 기인한 것으로 생각된다.

그렇다면 증가상태, 감소상태란 개념은 무엇일까? 2009학년도 5종의 수학II 교과서(계승혁 · 김홍종 · 하길찬 · 박복현 · 장성욱 · 박장순, 2009; 윤재한 외, 2009; 이준열 외, 2009b; 정상권 외, 2009; 황석근 외, 2009b)를 제외한 모든 교과서에는 정리 1을 설명하는 과정에서 ‘증가상태’라는 개념이 나오는데, 이들 중 황석근 외(2009a)의 미적분과 통계 기본 교과서를 제외한 모든 교과서는 충분히 작은 양수 $h$ 에 대하여 $f(a-h)<f(a)<f(a+h)$ 가 성립하면 함수 $f(x)$ 는 $x=a$ 에서 증가상태에 있다고 정의하고 있다. 다른 교과서와 달리 황석근 외(2009a)의 미적분과 통계 기본 교과서는 "$a$ 를 포함하는 어떤 열린 구간에서 $f(x)$ 가 증가할 때, $f(x)$ 는 $x=a$ 에서 증가상태에 있다"고 정의하고 있다.

먼저 증가상태라는 정의가 과연 상식에 부합되는지, 잘 정의된 개념인지 생각해보자. 신기하게도 함수 $f(x)$ 가 $x=a$ 에서 증가상태에 있지만 $x=a$ 를 포함하는 구간을 아무리 작게 잡아도 그 구간 위에서 증가함수가 아닐 수 있다. 하지만 대학에 입학한 많은 학생들은 증가상태라는 용어의 어감으로 인하여 $x=a$ 를 포함하는 어떤 구간에서 증가함수가 되는 것으로 오해하고 있으며, 현직 교사들도 같은 오해를 하고 있다. 이러한 예시로써 함수 $g(x)$ 가 $$ g(x) = \begin{cases} x^2\sin\frac 1 x + \frac 1 2 x, & x\neq 0 \\ 0, & x = 0 \end{cases}$$ 을 정의하자. $g'(0)>0$ 이므로 황석근 외(2009a)를 제외한 교과서의 정의에 따르면 $x=0$ 에서 증가상태에 있음을 보일 수 있지만(황석근 외(2009a)를 제외한 교과서에서는 $f'(a)>0$ 이면 $x=a$ 에서 증가상태에 있음을 증명하고 있다), $0$ 으로 수렴하는 수열 $x_n=\frac 1 {n\pi}$ 에 대하여 $g'(x_{2n})<0$ 이고 $g'(x_{2n+1})>0$ 이므로 $x=0$ 을 포함하는 어떤 구간을 잡더라도 증가함수나 감소함수가 되지 않음을 알 수 있다. 다른 교과서와 달리 황석근 외(2009a)의 미적분과 통계 기본 교과서는 "$a$ 를 포함하는 어떤 열린 구간에서 $f(x)$ 가 증가할 때, $f(x)$ 는 $x=a$ 에서 증가상태에 있다"고 정의하고, 증명은 없지만 $f'(a)>0$ 이면 함수 $f(x)$ 는 $x=a$ 에서 증가상태에 있다고 설명하고 있다. 하지만 이러한 설명은 $f'(a)>0$ 이면 $x=a$ 를 포함하는 어떤 열린 구간에서 증가함수라는 설명이 되고, 위에서 예로 든 함수 $g(x)$ 는 $g'(0)>0$ 이지만, $x=0$ 을 포함하는 어떤 구간을 잡더라도 증가함수가 되지 않으므로 오류임을 알 수 있다.

정리 1을 설명하기 위하여 부적절한 개념인 증가상태, 감소상태를 정의한 문제에 이어, 이 개념을 이용하여 함수의 증가, 감소를 설명하는 방식 또한 부적절하다. 먼저, 황석근 외(2009a)를 제외한 모든 교과서는, 먼저 "$x=a$ 에서 미분가능하고 $f'(a)>0$ 이면 $x=a$ 에서 증가상태" 임을 증명하고 있다. 여기까지는 별 문제가 없다. 그런데, 모든 교과서는 이 단계에서 "함수 $f(x)$ 의 도함수 $f'(x)$ 가 어떤 구간에서 $f'(x)>0$ 이면, $f(x)$ 는 이 구간의 모든 점에서 증가상태에 있으므로 $f(x)$ 는 이 구간에서 증가한다"고 서술하고 있다. 황석근 외(2009a)의 미적분과 통계 기본 교과서 또한 위와 같이 서술하고 있지만, 증가상태의 정의가 다르므로 다른 내용을 서술하고 있는 경우이다. 결국 황석근 외(2009a)의 미적분과 통계 기본을 제외하면, 교과서마다 약간씩의 표현의 차이는 있지만 본질적으로 다음 정리를 당연한 것처럼 서술하고 있다.

정리 2: 함수 $f(x)$ 가 모든 점에서 증가상태이면 이 함수는 증가함수이다.

이 정리의 내용은 수사학적인 측면에서 보자면 당연한 것처럼 보이지만 정의에 입각하여 따져보면 그리 간단한 문제가 아니다. 이 정리는 하이네-보렐 정리를 이용하면 증명할 수 있지만, 이는 실수의 완비성에 의존하는 것이며 고등학교의 수준을 넘는 내용이다. 귀류법을 사용하여 증명할 수도 있는데, 이 경우에도 최댓값을 잡는 과정에서 실수의 완비성 공리가 필요하다. 따라서 고등학생들은 실수의 완비성에 의존하지 않고 정리 2를 증명하는 방법을 알지 못한다. 따라서 정리 2에 대하여 증명을 건너뛰고 있다는 것을 암시하기 위하여 '잘 알려져 있다'는 등의 서술 방식을 사용하지 않고, 당연한 것처럼 서술하는 것은 큰 잘못이다. 특히, 교사나 학생들이 $f'(a)>0$ 이면 $x=a$ 를 포함하는 어떤 열린 구간에서 $f(x)$ 는 증가함수이다'는 오해를 하는 것은 이와 같은 서술 방식에서 기인하였을 가능성이 크다. 또한, 함수의 증가, 감소를 직관적으로 설명하는 과정에서 증가상태나 감소상태라는 개념은 도움을 주지 못하므로 이러한 개념을 사용하는 것은 심각하게 재고될 필요가 있다.

위 논의에서 수학적인 부분을 보다 명확하게 하기 위하여, 열린 구간에서 정의된 함수의 정의역의 한 점 $a$에서 다음 명제들을 생각하여 보자.

(i) 충분히 작은 양수 $h$ 에 대하여 $f(a-h)<f(a)<f(a+h)$ 가 성립한다.
(ii) $a$ 를 포함하는 어떤 열린 구간에서 $f(x)$ 가 증가한다.
(iii) $f'(a)>0$ 이다.

이 때, (ii) → (i)은 성립하지만, 지금까지 살펴본 바와 같이 그 역은 성립하지 않는다. 또한, (iii) → (i)은 대부분의 교과서에서 증명하였듯이 성립하지만, (iii) → (ii)는 성립하지 않는다. 그런데, 정의역의 모든 점에 대하여 (i)이 성립하는 것과 정의역의 모든 점에 대하여 (ii)가 성립하는 것은 동치이며, 이는 또한 정의역 위에서 함수가 증가함수라는 것과도 동치이다. 물론 정의역의 모든 점에 대하여 (iii)이 성립하면 그 함수는 증가함수이다. 교사와 학생들이 증가상태라는 용어의 의미에 대하여 혼란을 일으키는 주된 원인은 한 점에서 일어나는 국소적인 성질과 정의역 전체에서 일어나는 대역적인 성질을 혼동한 데에서 기인한 것이 아닌가 여겨진다. 모든 점에서 (i)이나 (ii)가 성립할 때 증가함수가 된다는 것을 증명하는 것은 국소적인 성질로부터 대역적인 성질을 이끌어 내는 과정인데, 고교 수준에서 불가능한 것으로 보인다. 결국 이 부분에서 핵심 정리라고 할 수 있는 정리 1의 증명이 불완전함에도 불구하고 마치 증명이 이루어진 것처럼 기술하는 방식은 개선되어야 할 것이다.

4. ‘수학II’ 교과서에서 함수의 증감을 설명하는 방식에 관하여

7차 교육과정에서는 평균값의 정리가 수학II 영역에 포함되지 않고 ‘미분과 적분’영역에 포함되어 있었다. 이로 인해 7차 고등학교 수학II 교과서는 함수의 증가와 감소를 직관적으로 다룰 수밖에 없었고, 함수의 증감을 증가상태, 감소상태란 개념을 이용하여 설명함으로써 II장 2절에서 설명하였던 문제점을 고스란히 내포하고 있었다. 다행히도 2007년 개정 교육과정에서는 평균값의 정리가 수학II 영역에 포함됨에 따라 증가상태나 감소상태란 개념을 도입하지 않고 도함수를 이용하여 함수의 증가와 감소를 간단하게 설명하는 것이 가능해졌다. 대부분의 교과서에서는 증가상태, 감소상태란 개념의 도입 여부와 상관없이 평균값의 정리를 이용하여 함수의 증가와 감소를 설명하고 있다. 하지만, 3종의 교과서(양승갑 외,2009b; 유희찬 외, 2009b; 황선욱 외, 2009b)에서는 평균값의 정리를 설명해 놓고도 이를 이용하지 않고, 미적분과 통계 기본에서처럼 ‘어떤 구간에서 ′이면, 는 이 구간의 모든 점에서 증가상태에 있으므로 는 이 구간에서 증가한다’고 서술하고 있다. 고등학교 수준에서 평균값의 정리를 배우는 가장 큰 이유는 정리 1의 증명과 ‘상수차를 무시하면 부정적분이 유일하게 존재한다’는 것의 증명에 각각 이용하기 위한 것이다. 따라서 함수의 증가,감소를 설명할 때,이미 공부한 평균값의 정리를 이용하지 않고 증가상태와 감소상태 같은 개념을 이용하는 것은 교육과정의 내용을 온전히 전달하지 못하는 것이다.

물론 평균값의 정리를 증명할 때 사용하는 ‘최대̦·최소 의 정리’는 실수의 완비성 공리를 사용하여 증명하는데, 그 증명은 고등학교 수준을 넘는다. 그러나 대부분의 교 과서에서 최대̦·최소의 정리를 서술할 때는 그 증명을 하 지 않는다는 것을 어떤 방식으로라도 알려주고 있다. 이 에 반해서, ‘모든 점에서 증가상태에 있으므로 증가함수가 된다’는 정리 2의 경우에는 아무런 언급을 하지 않고 당연한 것처럼 서술하고 있으므로 교사나 학생이 오해할 우려가 있다.