이 개념은 정규 교육과정 외의 내용으로, 고교에서 "가까이 간다"는 말로 설명했던 극한을 부등식으로 바꿔 쓴 엄밀한 정의이며, 고교의 직관적 극한과 대학 해석학을 잇는다.
함수 $f$가 점 $a$를 포함하는 어떤 구간에서 정의되어 있다고 하자(단 $a$ 자신에서는 정의되지 않아도 된다). 다음이 성립할 때 $\lim_{x\to a} f(x) = L$이라 한다.
$$\forall \varepsilon > 0,\ \exists \delta > 0 \text{ such that } 0 < |x-a| < \delta \implies |f(x)-L| < \varepsilon$$
$\varepsilon$(엡실론, 임의로 작게 잡을 수 있는 양수 오차 한계)을 아무리 작게 잡아도, 그에 맞춰 $\delta$(델타, $x$가 $a$에 얼마나 가까워야 하는지의 기준)를 적절히 찾아서, $x$가 $a$와 거리 $\delta$ 이내(단 $x\neq a$)에 있기만 하면 $f(x)$가 $L$과 거리 $\varepsilon$ 이내에 들어오게 만들 수 있다는 뜻이다. $\forall$(모든)와 $\exists$(존재한다)의 순서가 핵심이다 — $\varepsilon$을 먼저 받고 $\delta$는 그 뒤에 ($\varepsilon$에 의존해서) 정한다.
이 정의는 두 사람이 벌이는 게임으로 이해하면 쉽다. 도전자가 "오차를 $\varepsilon$ 이하로 맞춰봐"라고 요구하면, 응답자는 "그럼 $x$를 $a$에서 $\delta$만큼 안쪽으로만 잡아줘"라고 대응한다. 극한이 정말로 $L$이라면, 도전자가 $\varepsilon$을 얼마나 작게 부르든 응답자는 항상 이길 수 있는 $\delta$를 내놓을 수 있어야 한다. 고교에서 "가까워진다"고 말로만 설명했던 것을 "오차 목표를 주면 그에 맞는 근접 범위를 준다"는 구체적 절차로 바꾼 것이 이 정의다.
고교에서는 $\lim_{x\to a} f(x) = L$을 "$x$가 $a$에 가까이 갈수록 $f(x)$가 $L$에 가까이 간다"고 배웠다. 그런데 이 말에는 "가까이"가 정량화되어 있지 않다. 얼마나 가까워야 가까운 걸까? 이 모호함 때문에 어떤 함수의 극한이 정말로 존재하는지 논리적으로 증명할 방법이 없다.
이 막힘을 풀려면 "가깝다"를 숫자로 바꿔야 한다. $f(x)$가 $L$에 가깝다는 것은 $|f(x)-L|$이 작다는 뜻이고, $x$가 $a$에 가깝다는 것은 $|x-a|$가 작다는 뜻이다. 그런데 "작다"도 여전히 상대적이므로, 아예 도전자가 원하는 만큼 작은 양수 $\varepsilon$을 마음대로 지정하게 하고, 그 어떤 $\varepsilon$에 대해서도 대응하는 허용 범위 $\delta$를 찾을 수 있으면 극한이 $L$이라고 정하자.
이 절차를 구체적인 계산으로 확인해 보자. $f(x)=2x+1$, $a=3$일 때 $L=7$임을 증명하고 싶다. 목표는 $|f(x)-7|<\varepsilon$이다.
$$|f(x)-7| = |2x+1-7| = |2x-6| = 2|x-3|$$
$2|x-3| < \varepsilon$이 되려면 $|x-3| < \dfrac{\varepsilon}{2}$이면 충분하다. 따라서 $\delta = \dfrac{\varepsilon}{2}$로 잡으면, $0<|x-3|<\delta$일 때 $|f(x)-7| = 2|x-3| < 2\delta = \varepsilon$이 항상 성립한다. 어떤 $\varepsilon$을 주더라도 이렇게 $\delta$를 구성할 수 있으므로 극한이 $7$임이 증명된다. 이 "$\varepsilon$을 받아 $\delta$를 만들어내는" 절차를 논리식으로 그대로 옮긴 것이 바로 위 정의다.
$\lim_{x\to 2} x^2 = 4$를 증명해 보자. $|x^2-4| = |x-2||x+2|$이므로, 먼저 $\delta \le 1$로 제한하면 $|x-2|<1$에서 $1<x<3$, 즉 $|x+2|<5$. 이제 $\delta = \min\left(1, \dfrac{\varepsilon}{5}\right)$로 잡으면 $0<|x-2|<\delta$일 때
$$|x^2-4| = |x-2||x+2| < \delta \cdot 5 \le \frac{\varepsilon}{5}\cdot 5 = \varepsilon$$
가 성립하여 증명이 끝난다. ($\delta \le 1$을 먼저 거는 것은 $|x+2|$에 상한을 걸기 위한 기법이다.)
제조업의 치수 허용오차(tolerance)가 대표적인 예다. 부품의 완성 치수 오차를 $\varepsilon$ 이하로 맞춰야 한다면, 가공 기계는 원료를 목표 치수에서 $\delta$ 이내로만 절삭하도록 설정된다. 요구 정밀도($\varepsilon$)가 더 엄격해질수록 필요한 가공 정밀도($\delta$)도 더 좁아져야 하는데, 이 "목표 오차 → 허용 입력 범위"의 관계가 엡실론-델타 논법의 구조와 정확히 같다.
18세기 뉴턴과 라이프니츠의 미적분학은 "무한히 작은 양"이라는 직관적이지만 논리적으로 모호한 개념에 기대고 있었고, 이는 조지 버클리 주교 등으로부터 논리적 엄밀성이 부족하다는 비판을 받았다. 19세기 초 오귀스탱 루이 코시가 극한을 "임의로 원하는 만큼 작게 만들 수 있는 양"이라는 언어로 서술하며 엄밀화의 방향을 제시했고, 이후 카를 바이어슈트라스가 이를 현재 형태의 $\varepsilon$-$\delta$ 논법으로 완전히 형식화했다. 이로써 극한, 연속, 미분 같은 개념들이 부등식만으로 정의되는 현대 해석학의 기초가 마련되었다.