이 개념은 3차~2007 개정 교육과정의 일반계 고교 과정에 있었고, 2009 개정에서 삭제되었다가 2022 개정에서 일부 부활했다.
행렬(matrix)은 수를 직사각형 모양으로 배열한 것이다. 가로줄을 행(row), 세로줄을 열(column)이라 하고, $m$개의 행과 $n$개의 열로 이루어진 행렬을 $m \times n$ 행렬이라 한다.
$$A = \begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix} \quad (2 \times 2\ 행렬)$$
$i$행 $j$열의 수를 $(i,j)$ 성분이라 하고 $a_{ij}$로 쓴다.
행렬은 "여러 수를 한 덩어리로 묶어 하나의 대상처럼 계산하는" 도구다. 흩어져 있으면 여러 개의 식이 필요한 정보 — 연립일차방정식의 계수들, 좌표평면 변환의 규칙 — 가 행렬 하나로 묶이고, 덧셈·곱셈이라는 대수 규칙까지 갖춘다. "수 체계를 확장해서 방정식·변환 자체를 계산 대상으로 만든다"는 것이 행렬 단원의 핵심이다.
행렬을 처음 배우면 "결국 숫자를 네모나게 적어 둔 표 아닌가?" 싶다. 맞지만, 핵심은 이 표 전체를 낱개 숫자가 아니라 하나의 새로운 대상으로 다룬다는 데 있다. 수 $5$를 하나로 취급하듯 행렬 $A$도 하나로 취급해서 $A+B$, $AB$처럼 덧셈·곱셈을 하고 방정식 $AX=B$까지 세운다. "여러 숫자 뭉치를 마치 하나의 수처럼 굴린다"는 시선의 전환이 행렬 단원의 문턱이다.
익숙해져야 할 약속도 몇 가지 있다. 행렬의 크기는 늘 "행 먼저, 열 나중"으로 $m \times n$이라 쓰고($2 \times 3$은 가로줄 $2$개·세로줄 $3$개), 성분 $a_{ij}$의 아래첨자도 "$i$행 $j$열" 순서다. 순서를 바꿔 읽으면 위치가 어긋나니, 항상 "행 $\to$ 열"로 읽는다고 못 박아 두면 편하다.
두 행렬이 같다는 것도 "크기가 같고 같은 자리의 성분이 모두 같다"는 꽤 엄격한 조건이다. 성분 하나라도 다르거나 크기가 다르면 다른 행렬이다. 곱셈에서 수 $1$의 역할을 하는 단위행렬 $E$($AE=EA=A$)를 눈여겨 두면, 뒤에 나올 역행렬을 이해할 때 발판이 된다.
$$E = \begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}, \qquad AE = EA = A$$
두 가게의 품목별 판매량을 행렬로 두면, 월별 합계는 행렬 덧셈, 단가를 곱한 매출 계산은 행렬 곱셈이 된다 — "표 데이터의 일괄 계산"이 행렬 연산의 원형이다.