함수 $f(x)$가 닫힌구간 $[a, b]$에서 연속이고 열린구간 $(a, b)$에서 미분가능하면,
$$f'(c) = \frac{f(b) - f(a)}{b - a}$$
를 만족시키는 $c$가 열린구간 $(a, b)$ 안에 적어도 하나 존재한다. 이를 평균값 정리(mean value theorem)라 한다.
특별히 $f(a) = f(b)$인 경우에는 $f'(c) = 0$을 만족하는 $c$가 존재하는데, 이를 롤의 정리(Rolle's theorem)라 하며 평균값 정리의 특수한 경우다.
$\dfrac{f(b)-f(a)}{b-a}$는 두 점 $(a, f(a))$, $(b, f(b))$를 잇는 직선(할선)의 기울기, 즉 구간 $[a,b]$에서의 평균변화율이다. 평균값 정리는 "곡선이 끊어지지 않고 매끄럽게 이어져 있다면, 그 사이 어딘가에서는 순간변화율(접선의 기울기)이 평균변화율과 정확히 같아지는 순간이 반드시 존재한다"는 뜻이다.
자동차 여행을 생각하면 쉽다. 100 km를 2시간에 갔다면 평균 속력은 시속 50 km다. 출발할 때는 느리고 도중에 빨랐다 해도, 운행 기록이 끊기지 않는 한(연속) 어느 순간에는 속도계가 정확히 시속 50 km를 가리키는 순간이 있어야 한다는 것이 평균값 정리의 의미다.
이미 알고 있는 롤의 정리(위 정의에서 $f(a)=f(b)$인 특수한 경우)에서 출발해 보자. 롤의 정리는 "양 끝의 함숫값이 같으면, 그 사이 어딘가에서 접선이 수평($f'(c)=0$)이 된다"는 뜻이다. 이는 직관적으로 당연하다 — 출발점과 도착점의 높이가 같은 매끄러운 곡선이라면, 올라갔다가 반드시 다시 내려와야 하므로 그 사이에 꼭대기(또는 바닥)가 생기고, 함수의 극대와 극소에서 배운 대로 극값에서는 접선의 기울기가 $0$이기 때문이다.
문제는 일반적인 경우 $f(a) \ne f(b)$일 때는 이 논리를 바로 쓸 수 없다는 점이다. 그래서 끝점의 높이가 같도록 곡선을 "기울여서" 보는 방법을 쓴다. 두 점 $(a, f(a))$, $(b, f(b))$를 지나는 직선의 방정식은
$$y = f(a) + \frac{f(b)-f(a)}{b-a}(x-a)$$
이고, 이제 $f(x)$에서 이 직선을 뺀 새 함수를 만든다.
$$h(x) = f(x) - \left[ f(a) + \frac{f(b)-f(a)}{b-a}(x-a) \right]$$
$h(x)$는 $f(x)$에서 일차함수를 뺀 것이므로, $f$가 $[a,b]$에서 연속이고 $(a,b)$에서 미분가능하면 $h$도 마찬가지로 연속이고 미분가능하다. 그리고
$$h(a) = f(a) - [f(a) + 0] = 0, \qquad h(b) = f(b) - \left[f(a) + \frac{f(b)-f(a)}{b-a}(b-a)\right] = f(b) - f(b) = 0$$
이므로 $h(a) = h(b) = 0$이다. 즉 $h$는 롤의 정리의 조건을 그대로 만족한다! 따라서 $h'(c) = 0$인 $c$가 $(a,b)$ 안에 적어도 하나 존재한다.
이제 $h'(x)$를 직접 계산하면, 상수와 일차함수의 미분법에 의해
$$h'(x) = f'(x) - \frac{f(b)-f(a)}{b-a}$$
이므로 $h'(c) = 0$이라는 것은 곧
$$f'(c) - \frac{f(b)-f(a)}{b-a} = 0 \;\;\Longrightarrow\;\; f'(c) = \frac{f(b)-f(a)}{b-a}$$
를 뜻한다. 이렇게 해서 $f(a) \ne f(b)$인 일반적인 경우에도, 평균변화율과 같은 순간변화율을 갖는 점 $c$가 존재함이 롤의 정리로부터 그대로 따라 나온다. 결국 평균값 정리는 "기울어진 곡선을 수평으로 만들어 놓고 롤의 정리를 적용한 것"이다.
$f(x) = x^3 - 3x$, 구간 $[0, 2]$를 생각하자.
$f(x)$는 다항함수이므로 모든 실수에서 연속이고 미분가능하여 평균값 정리의 조건을 만족한다.
평균변화율: $\dfrac{f(2)-f(0)}{2-0} = \dfrac{(8-6) - 0}{2} = 1$
$f'(x) = 3x^2 - 3$이므로 $f'(c) = 1$에서 $3c^2 - 3 = 1$, $c^2 = \dfrac{4}{3}$, $c = \dfrac{2}{\sqrt{3}} \approx 1.15$
이 값은 열린구간 $(0, 2)$ 안에 있으므로 조건을 만족하는 $c$를 실제로 찾은 것이다.
과속 단속에서 구간단속(평균속도 단속)이 바로 이 정리를 이용한다. 톨게이트 A와 B 사이의 거리를 이동 시간으로 나눈 평균 속력이 제한 속도를 넘으면, 위치 함수가 연속이고 미분가능하다고 볼 때 그 구간 어딘가에서 순간 속력(속도계 값)도 평균 속력과 같아지는 순간이 존재했다는 것이 수학적으로 보장된다. 즉 평균 속력이 초과라면 실제로 순간적으로 그 속력 이상을 낸 순간이 있었다는 논리다.
잘못된 생각: 아무 함수, 아무 구간에나 평균값 정리를 적용할 수 있다. 왜 틀렸는가: 조건(닫힌구간에서 연속, 열린구간에서 미분가능)을 확인하지 않으면 성립하지 않는다. 예를 들어 $f(x) = |x|$는 $[-1, 1]$에서 연속이지만 $x=0$에서 미분가능하지 않다. 평균변화율은 $\dfrac{1-1}{2}=0$이지만 $f'(x)$는 $1$ 또는 $-1$뿐이라 $0$이 되는 $c$가 존재하지 않는다.
잘못된 생각: 평균값 정리로 찾은 $c$는 항상 유일하다. 왜 틀렸는가: 정리는 "적어도 하나 존재한다"고만 말한다. 곡선이 여러 번 오르내리면 평균변화율과 같은 접선 기울기를 갖는 점이 두 개 이상 나올 수도 있다.
잘못된 생각: 평균값 정리는 항상 $f'(c) = 0$인 $c$의 존재를 보장한다. 왜 틀렸는가: $f'(c) = 0$이 보장되는 것은 $f(a) = f(b)$인 특수한 경우(롤의 정리)뿐이다. 일반적으로는 $f'(c)$가 평균변화율 $\dfrac{f(b)-f(a)}{b-a}$와 같아짐을 보장할 뿐이다.
롤의 정리는 프랑스의 미셸 롤이 1691년에 발표했는데, 흥미롭게도 당시 그는 방정식의 실근 사이 위치를 찾는 대수적 방법으로 이를 제시했을 뿐, 미분이라는 개념을 명시적으로 쓴 것은 아니었다. 이후 미분법이 정교해지면서 조제프루이 라그랑주가 함수를 다항식으로 근사할 때 생기는 오차(잉여항)를 다루는 과정에서 평균값 정리에 해당하는 결과를 사용했고, 그의 이름을 따 이 정리를 라그랑주 평균값 정리라 부르기도 한다. 이후 오귀스탱루이 코시가 19세기 초 자신의 해석학 강의에서 이를 엄밀하게 정식화하고 증명하면서, 오늘날과 같은 형태의 평균값 정리가 자리 잡았다.