함수 $f: X \to Y$가 일대일 대응(서로 다른 입력은 서로 다른 출력, 공역 전체가 치역)일 때, 대응을 거꾸로 뒤집은 함수를 역함수라 하고 $f^{-1}: Y \to X$로 쓴다:
$$y = f(x) \iff x = f^{-1}(y)$$
정의에서 바로 $(f^{-1} \circ f)(x) = x$, $(f \circ f^{-1})(y) = y$가 성립한다.
함수가 "입력 → 출력" 기계라면 역함수는 출력에서 입력을 복원하는 기계다. 복원이 가능하려면 출력만 보고 입력을 유일하게 알아낼 수 있어야 한다 — 그래서 일대일 대응이 필요하다. $f(x) = x^2$은 $f(2) = f(-2) = 4$라 복원이 안 되므로 역함수가 없다 (정의역을 $x \ge 0$으로 좁히면 생긴다 — 무리함수 $\sqrt{x}$가 그 역함수).
역함수에서 가장 흔한 착각은 기호 $f^{-1}$을 "$f$분의 1", 즉 $\frac{1}{f}$로 읽는 것이다. 둘은 전혀 다르다. $\frac{1}{f(x)}$는 함숫값을 뒤집은 수(예: $f(x)=2$면 $\frac{1}{2}$)지만, $f^{-1}$은 대응을 거꾸로 돌리는 함수다. $f$가 $3$을 $7$로 보냈다면 $f^{-1}$은 $7$을 다시 $3$으로 되돌린다. 위 첨자 $-1$은 "역수"가 아니라 "거꾸로"라는 표시로 받아들여야 한다.
역함수를 구할 때 $y=f(x)$를 $x$에 대해 푼 다음 $x$와 $y$를 맞바꿔 쓰는 절차도 처음엔 어색하다. 이건 "입력과 출력의 역할을 통째로 맞바꾼다"는 정의를 그대로 실행한 것이다. 역할을 맞바꾸기 때문에 $y=f(x)$와 $y=f^{-1}(x)$의 그래프가 직선 $y=x$에 대해 대칭으로 나타난다 — 점 $(a,b)$가 원래 그래프 위에 있으면 역할을 바꾼 점 $(b,a)$가 역함수 그래프 위에 오고, 두 점은 $y=x$를 기준으로 거울처럼 마주 본다.
마지막으로, 역함수가 아무 함수에나 있는 게 아니라는 점을 기억하자. 출력만 보고 입력을 되찾으려면 출력 하나에 입력이 딱 하나여야 한다. 그래서 서로 다른 입력이 같은 출력을 갖는 함수에는 역함수가 없다.
$f(x) = 2x + 1$의 역함수: $y = 2x + 1$을 $x$에 대해 풀면 $x = \frac{y-1}{2}$, 변수를 바꿔 쓰면 $f^{-1}(x) = \frac{x-1}{2}$.
확인: $f^{-1}(f(3)) = f^{-1}(7) = 3$ ✓