이 개념은 함수 $f(x)$에서 $x$가 특정한 값에 한없이 가까워질 때 $f(x)$의 값이 어떻게 변화하는지를 다룬다.
함수 $f(x)$에서 $x$가 $a$가 아니면서 $a$에 한없이 가까워질 때, $f(x)$의 값이 일정한 값 $L$에 한없이 가까워지면
$$\lim_{x \to a} f(x) = L$$
($\lim$은 "리미트", $x \to a$는 "엑스가 에이로 간다"라고 읽는다) 이라 하고, $L$을 $x=a$에서의 함수 $f(x)$의 극한값이라 한다.
$x$가 $a$보다 작은 값에서 $a$로 가까워지는 것을 좌극한 $\displaystyle\lim_{x \to a^-} f(x)$, $a$보다 큰 값에서 가까워지는 것을 우극한 $\displaystyle\lim_{x \to a^+} f(x)$이라 한다. 극한값이 존재하기 위한 필요충분조건은
$$\lim_{x \to a^-} f(x) = \lim_{x \to a^+} f(x)$$
즉 좌극한과 우극한이 값이 같아야 하며, 이때 그 공통값이 극한값이 된다.
극한은 "$x=a$에서의 함숫값"을 묻는 게 아니라 "$x$가 $a$에 다가갈 때 $f(x)$가 어디로 향하는가"를 묻는 개념이다. 예를 들어 $f(a)$ 자체가 정의되어 있지 않아도(분모가 0이 되는 등), $a$ 근처의 값들을 계속 대입해 보면 $f(x)$가 한 값으로 수렴하는 경향을 관찰할 수 있다. 마치 목적지 근처까지만 갈 수 있는 길에서, 실제로 도착하지는 못해도 "이 방향으로 가면 결국 어디에 이르는지"를 예측하는 것과 같다.
극한을 정의하기 전에 이미 알고 있는 것은 "함수에 특정 $x$값을 대입해서 함숫값을 구하는" 방법뿐이다. 그런데 $f(x) = \dfrac{x^2-4}{x-2}$에 $x=2$를 대입하면 분모가 $0$이 되어 $\dfrac{0}{0}$, 즉 정의되지 않은 값이 나온다. 이 함수는 $x=2$에서 아예 값을 가지지 않는데, 그렇다고 $x=2$ 근처에서 이 함수가 아무 규칙도 없이 움직이는 것은 아니다.
그렇다면 $x=2$에서의 함숫값 대신, $x$를 $2$에 아주 가깝게(하지만 $2$는 아니게) 대입해 보면 어떨까. 표로 나타내면:
| $x$ | $1.9$ | $1.99$ | $1.999$ | $\cdots$ | $2.001$ | $2.01$ | $2.1$ |
|---|---|---|---|---|---|---|---|
| $f(x)$ | $3.9$ | $3.99$ | $3.999$ | $\cdots$ | $4.001$ | $4.01$ | $4.1$ |
($f(x) = \dfrac{(x-2)(x+2)}{x-2} = x+2$이므로 $x\neq2$인 곳에서는 항상 $f(x)=x+2$이다.) $x$가 $2$보다 작은 쪽에서 다가가도, 큰 쪽에서 다가가도 $f(x)$는 똑같이 $4$에 한없이 가까워진다. 즉 "$x=2$에서의 함숫값"은 존재하지 않아도 "$x$가 $2$로 다가갈 때 $f(x)$가 다가가는 값"은 $4$로 뚜렷하게 정해진다. 이 값을 $x=2$에서의 함수의 극한값이라 부르기로 하는 것이다.
그런데 이 "다가가는 값"이 항상 하나로 정해지는 것은 아니다. 예를 들어 $g(x) = \dfrac{|x|}{x}$는 $x$가 $0$보다 작은 쪽에서 다가가면 $g(x)$가 계속 $-1$이고, $0$보다 큰 쪽에서 다가가면 계속 $1$이다. 왼쪽에서 다가갈 때와 오른쪽에서 다가갈 때 향하는 값이 다르므로, 이 경우에는 "$x$가 $0$으로 다가갈 때 $g(x)$가 다가가는 값"을 하나로 정할 수 없다. 그래서 극한을 정의할 때는 왼쪽에서 다가가는 좌극한 $\displaystyle\lim_{x\to a^-}f(x)$과 오른쪽에서 다가가는 우극한 $\displaystyle\lim_{x\to a^+}f(x)$을 따로 두고, 이 둘이 일치할 때만 그 공통값을 극한값 $\displaystyle\lim_{x\to a}f(x)$으로 인정하도록 정의하게 된 것이다.
$\displaystyle\lim_{x \to a} f(x) = L$, $\displaystyle\lim_{x \to a} g(x) = M$ ($L, M$은 실수)일 때 다음이 성립한다.
이 성질은 각 극한값 $L, M$이 모두 존재할 때만 성립한다는 점에 유의해야 한다. $\frac{0}{0}$ 꼴처럼 극한값을 바로 알 수 없는 부정형은 인수분해나 분모(분자)의 유리화를 이용해 식을 변형한 뒤 성질을 적용한다.
예시 1. $\displaystyle\lim_{x \to 2} \dfrac{x^2-4}{x-2}$를 구하면, $x \neq 2$이므로 약분하여
$$\lim_{x \to 2} \frac{(x-2)(x+2)}{x-2} = \lim_{x \to 2} (x+2) = 4$$
예시 2. $\displaystyle\lim_{x \to 0} \dfrac{\sqrt{x+4}-2}{x}$는 분자를 유리화하면
$$\frac{(\sqrt{x+4}-2)(\sqrt{x+4}+2)}{x(\sqrt{x+4}+2)} = \frac{x}{x(\sqrt{x+4}+2)} = \frac{1}{\sqrt{x+4}+2} \to \frac{1}{4}$$
위 그래프는 예시 1에서 약분 후 남는 함수 $y=x+2$이다. 원래 함수는 $x=2$에서 정의되지 않아 이 직선에 구멍이 뚫린 그래프이지만, 극한값은 그 구멍의 높이인 $4$로 결정된다.
자동차 계기판에 표시되는 순간 속도가 대표적인 예다. 속도계는 실제로는 아주 짧은 시간 $\Delta t$ 동안 자동차가 이동한 거리를 측정해 평균 속도 $\dfrac{\Delta x}{\Delta t}$를 계산하는데, $\Delta t$를 점점 $0$에 가깝게 줄여 갈 때 이 평균 속도가 다가가는 값이 바로 그 순간의 속도다. 즉 "$\Delta t = 0$일 때의 속도"는 $\dfrac{0}{0}$이 되어 직접 구할 수 없지만, $\Delta t \to 0$일 때 평균 속도의 극한을 구하면 실제로 계기판에 뜨는 순간 속도값을 얻을 수 있다. 이는 속도와 가속도나 미분계수에서 다루는 순간변화율의 핵심 아이디어이기도 하다.
17세기 뉴턴과 라이프니츠가 미적분을 만들 때는 "무한히 작은 양(무한소)"이라는 다소 모호한 개념에 의존했는데, 이는 어떤 때는 $0$처럼 취급되고 어떤 때는 $0$이 아닌 것처럼 나눗셈에 쓰이는 등 논리적으로 일관되지 않았다. 철학자 조지 버클리는 이 무한소를 "사라진 양의 유령"이라 비판하며 미적분의 기초가 엄밀하지 않다는 문제를 제기했다. 이 문제를 해결하기 위해 19세기 초 오귀스탱 루이 코시는 무한소 대신 "$x$가 한없이 가까워질 때 함숫값이 한없이 가까워지는 값"이라는 극한 개념을 이용해 미적분의 기초를 다시 세웠다. 이후 카를 바이어슈트라스가 이 "한없이 가까워진다"는 표현을 엡실론-델타 정의로 완전히 수식화하면서, 오늘날 교과서에서 쓰는 극한의 정의가 자리 잡게 되었다.