복소수는 실수 $a,b$와 허수단위 $i$($i^2=-1$)를 사용하여
$$z=a+bi\quad(a,b\in\mathbb{R})$$
꼴로 나타낸 수이다. $a$를 $z$의 실수부, $b$를 허수부라 하고 각각 $\operatorname{Re}(z)=a$, $\operatorname{Im}(z)=b$로 쓴다. $b=0$이면 $z$는 실수이고, $b\neq 0$이면 허수, 특히 $a=0,\ b\neq 0$이면 순허수라 한다.
두 복소수 $a+bi$와 $c+di$가 서로 같다는 것은 $a=c$이고 $b=d$인 것으로 정의한다. 복소수 전체의 집합을 보통 $\mathbb{C}$로 나타내며, 실수는 $\mathbb{C}$의 부분집합이다.
수직선 위의 실수만으로는 모든 이차방정식을 풀 수 없다. 예를 들어 $x^2+1=0$은 실수 범위에서 해가 없는데, 이는 "제곱해서 음수가 되는 수"가 실수 안에 존재하지 않기 때문이다. 복소수는 이 문제를 해결하기 위해 $i^2=-1$을 만족하는 새로운 수 $i$를 도입하고, 실수를 확장하여 만든 수 체계이다.
직관적으로는 수직선(1차원)을 평면(2차원)으로 넓힌다고 생각하면 된다. 실수부 $a$는 가로 방향, 허수부 $b$는 세로 방향의 크기로 대응시키면 복소수 $a+bi$는 평면 위의 점 또는 벡터처럼 다룰 수 있다. 이 그림을 구체화한 것이 복소평면이다.
이차방정식 $x^2+2x+5=0$을 근의 공식이 아니라 완전제곱식으로 직접 풀어 보자. 좌변을 정리하면
$$x^2+2x+5=(x+1)^2+4$$
이므로 방정식은 $(x+1)^2+4=0$, 즉
$$(x+1)^2=-4$$
가 된다. 그런데 실수는 제곱하면 항상 $0$ 이상이므로, 제곱해서 $-4$가 되는 실수는 존재하지 않는다. 여기서 막힌다.
이 막힘을 뚫으려면 "제곱해서 $-1$이 되는 수" $i$를 새로 도입하면 된다. $i^2=-1$로 약속하면 $(2i)^2=4i^2=-4$이므로, $(x+1)^2=-4$는
$$x+1=\pm 2i \quad\Longrightarrow\quad x=-1\pm 2i$$
로 풀린다. 즉 $i$ 하나만 새로 정의해도 지금까지 풀 수 없었던 방정식의 해를 "실수 $-1$"과 "실수 $2$의 $i$배"를 더한 꼴 $a+bi$로 나타낼 수 있게 된다.
이 과정을 일반적인 이차방정식 $ax^2+bx+c=0\ (a\neq 0)$에 그대로 적용해 보자. 판별식 $D=b^2-4ac$가 음수인 경우, 근의 공식
$$x=\frac{-b\pm\sqrt{D}}{2a}$$
에서 $\sqrt{D}=\sqrt{b^2-4ac}$의 속의 수가 음수이다. $D<0$이면 $-D>0$이므로 $D=-(-D)$이고, 앞서 도입한 $i$를 이용하면
$$\sqrt{D}=\sqrt{-(-D)}=\sqrt{-D}\,i$$
로 쓸 수 있다(단, $-D>0$이므로 $\sqrt{-D}$는 보통의 실수 제곱근). 이를 대입하면
$$x=\frac{-b\pm\sqrt{-D}\,i}{2a}=\underbrace{\frac{-b}{2a}}_{a\text{에 대응}}\;\pm\;\underbrace{\frac{\sqrt{-D}}{2a}}_{b\text{에 대응}}i$$
이 되어, 판별식이 음수인 모든 이차방정식의 해가 정확히 $a+bi\ (a,b\in\mathbb{R})$ 꼴로 나온다. 이것이 복소수를 "실수 두 개와 $i$로 이루어진 $a+bi$ 꼴의 수"로 정의하는 이유이다.
두 복소수 $a+bi$, $c+di$에 대해 사칙연산은 다음과 같다.
$$(a+bi)+(c+di)=(a+c)+(b+d)i$$ $$(a+bi)-(c+di)=(a-c)+(b-d)i$$ $$(a+bi)(c+di)=(ac-bd)+(ad+bc)i$$
나눗셈은 켤레복소수 $\overline{z}=a-bi$를 이용한다. $z=a+bi\ (z\neq 0)$일 때
$$\frac{1}{z}=\frac{\overline{z}}{z\overline{z}}=\frac{a-bi}{a^2+b^2}$$
이며, $z\overline{z}=a^2+b^2$는 항상 음이 아닌 실수이다. 복소수의 절댓값은 $|z|=\sqrt{a^2+b^2}$로 정의하며, 복소평면에서 원점으로부터 점 $z$까지의 거리를 나타낸다.
$z_1=2+3i,\ z_2=1-4i$일 때
이차방정식 $x^2+x+1=0$은 판별식 $D=1^2-4\cdot1\cdot1=-3<0$이므로 실근이 없지만, 근의 공식으로
$$x=\frac{-1\pm\sqrt{-3}}{2}=\frac{-1\pm\sqrt{3}i}{2}$$
와 같이 복소수 범위에서 두 허근을 갖는다.
전기공학에서 교류(AC) 회로를 해석할 때 복소수가 핵심 도구로 쓰인다. 저항, 코일, 축전기가 섞인 회로에서는 전압과 전류 사이에 위상 차이가 생기는데, 이를 실수만으로 표현하면 미분방정식을 매번 풀어야 해서 복잡하다. 대신 저항을 실수부, 코일·축전기의 작용(리액턴스)을 허수부로 갖는 복소수 "임피던스" $Z=R+jX$로 나타내면(공학에서는 $i$ 대신 $j$를 흔히 쓴다), 옴의 법칙 $V=IZ$를 실수 회로에서와 똑같은 곱셈·덧셈만으로 계산할 수 있다. 이 덕분에 회로 설계자는 전압과 전류의 크기뿐 아니라 위상 차이까지 복소수 하나로 한꺼번에 다룬다.
잘못된 생각: $\sqrt{-4}\cdot\sqrt{-9}$를 계산할 때 $\sqrt{a}\sqrt{b}=\sqrt{ab}$ 공식을 그대로 써서 $\sqrt{(-4)(-9)}=\sqrt{36}=6$이라고 답한다. 왜 틀렸는지: $\sqrt{a}\sqrt{b}=\sqrt{ab}$는 $a,b\geq 0$일 때만 성립하는 규칙이다. 음수의 제곱근은 먼저 $\sqrt{-4}=2i$, $\sqrt{-9}=3i$로 각각 바꾼 뒤 곱해야 하며, 그 결과는 $2i\cdot3i=6i^2=-6$으로 부호가 반대이다.
잘못된 생각: $z=a+bi$에서 허수부가 $bi$라고 생각한다. 왜 틀렸는지: 허수부 $\operatorname{Im}(z)$는 실수 $b$이지 $bi$가 아니다. 예를 들어 $z=3-2i$의 허수부는 $-2i$가 아니라 $-2$이다.
잘못된 생각: 두 복소수의 크기를 비교하려고 $2+i > 1+3i$ 처럼 부등호를 쓴다. 왜 틀렸는지: 복소수 전체에는 실수처럼 대소 관계를 일관되게 정의할 수 있는 순서가 없다. 절댓값끼리는 비교할 수 있지만, 복소수 자체를 $>$, $<$로 비교하는 것은 정의되지 않은 연산이다.
복소수는 16세기 이탈리아에서 삼차방정식의 근의 공식(카르다노의 공식)을 사용하던 중 발견되었다. 방정식이 서로 다른 세 실근을 가지는 경우조차 공식을 적용하면 계산 도중에 음수의 제곱근이 나타났는데, 봄벨리는 이 "쓸모없어 보이는" 수를 형식적인 규칙에 따라 계속 계산하면 결국 올바른 실근으로 귀결됨을 보이며 복소수의 사칙연산 규칙을 처음으로 체계화했다. 이후 오랫동안 이 수는 "허수(imaginary number)"라는 이름 그대로 실재하지 않는 수처럼 취급되었지만, 오일러가 $i$ 기호를 도입해 계산을 단순화했고, 가우스 등이 복소수를 평면 위의 점으로 나타내는 방법을 제시하면서 기하학적 실체를 가진 수로 받아들여지게 되었다.