이 개념은 정사각행렬에 대응하는 하나의 수로, 2×2 행렬에서는 $ad-bc$이며 역행렬의 존재 여부와 도형의 넓이 확대율을 동시에 결정한다.
행렬 $A=\begin{pmatrix}a&b\\c&d\end{pmatrix}$(2×2 정사각행렬, 즉 행과 열의 수가 같은 행렬)에 대해 $ad-bc$ 값을 $A$의 행렬식이라 하고, 기호로 $\det(A)$(디터미넌트 A라 읽는다) 또는 $|A|$로 나타낸다.
$$\det(A)=|A|=\begin{vmatrix}a&b\\c&d\end{vmatrix}=ad-bc$$
행렬식은 정사각행렬에만 정의되며, 그 결과는 행렬이 아니라 하나의 실수이다. 특히 $\det(A)\neq 0$일 때에만 역행렬 $A^{-1}$이 존재한다.
$A$를 좌표평면을 바꾸는 변환으로 보면, $A$는 기본 벡터 $(1,0)$을 $(a,c)$로, $(0,1)$을 $(b,d)$로 옮긴다. 이 두 벡터가 만드는 평행사변형의 넓이가 정확히 $|ad-bc|$이다. 즉 행렬식은 "이 변환이 도형의 넓이를 몇 배로 늘리는가"를 나타내는 확대율이다. 만약 $ad-bc=0$이면 두 벡터가 한 직선 위에 놓여(평행하여) 평행사변형이 찌그러져 넓이가 0이 된다 — 평면 전체가 한 직선(또는 점)으로 눌려버리므로 되돌릴 방법이 없고, 그래서 역행렬도 존재하지 않는다.
이미 연립일차방정식을 가감법(소거법)으로 푸는 법을 안다고 하자.
$$ax+by=p \quad\cdots(1)\qquad cx+dy=q \quad\cdots(2)$$
이 시스템을 행렬로 쓰면 $\begin{pmatrix}a&b\\c&d\end{pmatrix}\begin{pmatrix}x\\y\end{pmatrix}=\begin{pmatrix}p\\q\end{pmatrix}$인데, 이걸 풀려면 $x,y$를 직접 소거법으로 구해봐야 한다.
(1)의 양변에 $d$를, (2)의 양변에 $b$를 곱하면
$$adx+bdy=pd \qquad bcx+bdy=bq$$
두 식을 빼면 $y$항이 사라진다.
$$(ad-bc)x = pd-bq$$
여기서 막히는 지점이 생긴다: $ad-bc=0$이면 양변을 나눌 수 없어 $x$를 하나로 정할 수 없다(해가 없거나 무수히 많다). 반대로 $ad-bc\neq0$이면
$$x=\frac{pd-bq}{ad-bc},\qquad y=\frac{aq-cp}{ad-bc}$$
로 $x,y$가 유일하게 정해진다. 즉 시스템이 유일한 해를 갖는지, 다시 말해 $A$의 역행렬이 존재해서 양변에 $A^{-1}$을 곱할 수 있는지를 결정하는 값이 바로 $ad-bc$이다. 이 값에 이름을 붙인 것이 행렬식이다.
$A=\begin{pmatrix}2&3\\1&4\end{pmatrix}$이면 $\det(A)=2\times4-3\times1=8-3=5\neq0$이므로 역행렬이 존재하고 $A^{-1}=\dfrac{1}{5}\begin{pmatrix}4&-3\\-1&2\end{pmatrix}$이다.
$B=\begin{pmatrix}1&2\\2&4\end{pmatrix}$이면 $\det(B)=1\times4-2\times2=0$이므로 역행렬이 존재하지 않는다. 실제로 $B$의 두 열 $(1,2)$와 $(2,4)$는 방향이 같은(평행한) 벡터라서 평행사변형이 만들어지지 않는다.
컴퓨터 그래픽에서 2차원 이미지를 회전·확대·기울이기 위해 행렬을 곱하는데, 이때 변환 행렬의 행렬식을 확인해 문제를 미리 걸러낸다. 행렬식이 0이면 그 변환은 이미지를 한 줄이나 한 점으로 짜부라뜨리는 것이라 되돌릴 수 없고, 부호가 음수이면 이미지가 좌우로 뒤집힌다는 뜻이다.
연립방정식을 풀 때 계수들만으로 해의 존재 여부를 판단하려는 시도에서 행렬식의 아이디어가 나왔다. 일본의 세키 다카카즈(關孝和)가 1683년경, 유럽에서는 라이프니츠가 1693년경 각자 독립적으로 오늘날 행렬식과 같은 계산을 다루었다. 이후 스위스의 가브리엘 크라메르가 1750년 연립방정식의 해를 행렬식들의 비로 나타내는 크라메르 공식을 발표하면서 널리 쓰이기 시작했다. "행렬식(determinant)"이라는 이름과 현대적인 이론 정리는 19세기 초 오귀스탱 루이 코시의 연구를 통해 자리 잡았다.