이 개념은 함수 $f(x)$에서 $x$가 특정한 값에 한없이 가까워질 때 $f(x)$의 값이 어떻게 변화하는지를 다룬다.
함수 $f(x)$에서 $x$가 $a$가 아니면서 $a$에 한없이 가까워질 때, $f(x)$의 값이 일정한 값 $L$에 한없이 가까워지면
$$\lim_{x \to a} f(x) = L$$
($\lim$은 "리미트", $x \to a$는 "엑스가 에이로 간다"라고 읽는다) 이라 하고, $L$을 $x=a$에서의 함수 $f(x)$의 극한값이라 한다.
$x$가 $a$보다 작은 값에서 $a$로 가까워지는 것을 좌극한 $\displaystyle\lim_{x \to a^-} f(x)$, $a$보다 큰 값에서 가까워지는 것을 우극한 $\displaystyle\lim_{x \to a^+} f(x)$이라 한다. 극한값이 존재하기 위한 필요충분조건은
$$\lim_{x \to a^-} f(x) = \lim_{x \to a^+} f(x)$$
즉 좌극한과 우극한이 값이 같아야 하며, 이때 그 공통값이 극한값이 된다.
극한은 "$x=a$에서의 함숫값"을 묻는 게 아니라 "$x$가 $a$에 다가갈 때 $f(x)$가 어디로 향하는가"를 묻는 개념이다. 예를 들어 $f(a)$ 자체가 정의되어 있지 않아도(분모가 0이 되는 등), $a$ 근처의 값들을 계속 대입해 보면 $f(x)$가 한 값으로 수렴하는 경향을 관찰할 수 있다. 마치 목적지 근처까지만 갈 수 있는 길에서, 실제로 도착하지는 못해도 "이 방향으로 가면 결국 어디에 이르는지"를 예측하는 것과 같다.
$\displaystyle\lim_{x \to a} f(x) = L$, $\displaystyle\lim_{x \to a} g(x) = M$ ($L, M$은 실수)일 때 다음이 성립한다.
이 성질은 각 극한값 $L, M$이 모두 존재할 때만 성립한다는 점에 유의해야 한다. $\frac{0}{0}$ 꼴처럼 극한값을 바로 알 수 없는 부정형은 인수분해나 분모(분자)의 유리화를 이용해 식을 변형한 뒤 성질을 적용한다.
예시 1. $\displaystyle\lim_{x \to 2} \dfrac{x^2-4}{x-2}$를 구하면, $x \neq 2$이므로 약분하여
$$\lim_{x \to 2} \frac{(x-2)(x+2)}{x-2} = \lim_{x \to 2} (x+2) = 4$$
예시 2. $\displaystyle\lim_{x \to 0} \dfrac{\sqrt{x+4}-2}{x}$는 분자를 유리화하면
$$\frac{(\sqrt{x+4}-2)(\sqrt{x+4}+2)}{x(\sqrt{x+4}+2)} = \frac{x}{x(\sqrt{x+4}+2)} = \frac{1}{\sqrt{x+4}+2} \to \frac{1}{4}$$
위 그래프는 예시 1에서 약분 후 남는 함수 $y=x+2$이다. 원래 함수는 $x=2$에서 정의되지 않아 이 직선에 구멍이 뚫린 그래프이지만, 극한값은 그 구멍의 높이인 $4$로 결정된다.