이 개념은 3차~2007 개정 교육과정의 일반계 고교 과정에 있었고, 2009 개정에서 삭제되었다.
정사각행렬 $A$에 대해 $AX = XA = E$ (단위행렬)를 만족하는 행렬 $X$가 존재하면, $X$를 $A$의 역행렬이라 하고 $A^{-1}$로 쓴다.
$2 \times 2$ 행렬 $A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}$는 $ad - bc \neq 0$일 때만 역행렬을 가지며:
$$A^{-1} = \frac{1}{ad-bc}\begin{pmatrix} d & -b \\ -c & a \end{pmatrix}$$
수에서 $3$의 역수 $\frac{1}{3}$이 "3을 곱한 것을 되돌리는 수"이듯, 역행렬은 "$A$라는 변환을 되돌리는 변환"이다 (일차변환 관점). 판별량 $ad - bc$가 $0$이라는 것은 변환이 평면을 직선이나 점으로 짜부라뜨린다는 뜻이고, 짜부라진 정보는 복원할 수 없으므로 역행렬이 없다. $ad-bc$는 변환이 넓이를 몇 배로 만드는지를 나타내는 양이기도 하다 (대학 과정의 행렬식).
역행렬을 처음 만나면 "왜 이런 게 필요하지?" 싶을 수 있다. 답은 행렬에는 나눗셈이 없기 때문이다. 수에서는 $3x=6$을 양변을 $3$으로 나눠 풀지만, 행렬 방정식 $AX=B$에서는 "$A$로 나눈다"는 연산이 아예 없다. 대신 곱해서 원래대로 되돌려 주는 행렬, 즉 역행렬 $A^{-1}$을 곱해 $A$를 지운다. 수의 나눗셈이 사실 "역수를 곱하기"였던 것과 똑같은 발상이다.
여기서 주의할 게 순서다. 행렬 곱은 순서를 바꾸면 결과가 달라지므로($AB \neq BA$), 역행렬을 왼쪽에 곱하는지 오른쪽에 곱하는지가 중요하다. $AX=B$에서는 $A$가 $X$의 왼쪽에 있으니 역행렬도 양변 왼쪽에 곱해 $A^{-1}AX = A^{-1}B$, 곧 $X = A^{-1}B$가 된다. 성질 $(AB)^{-1} = B^{-1}A^{-1}$에서 순서가 뒤집히는 것도 같은 맥락이다. 옷을 "양말 $\to$ 신발" 순으로 신었다면 벗을 땐 "신발 $\to$ 양말" 순으로 되짚어야 하듯, 되돌릴 때는 나중에 한 것부터 푼다.
그리고 $2 \times 2$ 행렬에서 $ad-bc$가 $0$이면 역행렬이 없다. 공식 $\frac{1}{ad-bc}(\cdots)$에서 이 값으로 나누는데 $0$으로는 나눌 수 없기 때문이다. 계산 전에 $ad-bc$부터 확인하는 습관을 들이면 헛계산을 줄일 수 있다.
$\begin{cases} x + 2y = 5 \\ 3x + 4y = 11 \end{cases}$ 은 행렬로 $\begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}\begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 5 \\ 11 \end{pmatrix}$ 이고, 양변에 역행렬을 곱하면:
$$\begin{pmatrix} x \\ y \end{pmatrix} = \frac{1}{1 \cdot 4 - 2 \cdot 3}\begin{pmatrix} 4 & -2 \\ -3 & 1 \end{pmatrix}\begin{pmatrix} 5 \\ 11 \end{pmatrix} = \begin{pmatrix} 1 \\ 2 \end{pmatrix}$$
$ad - bc = 0$인 경우가 바로 연립일차방정식이 해가 없거나(불능) 무수히 많은(부정) 경우에 대응한다.