$0$ 이상인 어떤 수 $a$에 대하여, 제곱하여 $a$가 되는 수, 즉 $x^2=a$를 만족시키는 $x$를 $a$의 제곱근이라 한다.
무리수는 분수로, 즉 두 정수 $m$, $n$($n\neq0$)의 비 $\dfrac{m}{n}$ 꼴로 나타낼 수 없는 수를 말한다. 소수로 쓰면 순환하지 않는 무한소수가 된다. 유리수와 무리수를 합친 수 전체를 실수라고 부른다.
정사각형의 넓이가 $2$일 때 한 변의 길이는 얼마일까? $1\times1=1$이고 $2\times2=4$이므로 한 변의 길이는 $1$과 $2$ 사이의 어떤 수인데, 아무리 소수 자리를 늘려도 딱 떨어지는 분수로는 표현되지 않는다. 이 수가 바로 $\sqrt2$다. 즉 제곱근은 "제곱해서 원래 수가 되돌아오는 수를 거꾸로 찾는 것"이고, 그 답 중에는 유리수(분수)로 딱 떨어지지 않는 무리수가 섞여 있다는 사실이 이 단원의 핵심이다.
앞서 넓이가 $2$인 정사각형의 한 변의 길이 $x$를 생각했다. $x^2=2$를 만족하는 이 수 $x$가 정말로 분수로 나타낼 수 없는지, 짐작이 아니라 논리적으로 확인해 보자.
1단계. 만약 $x$가 유리수라면, $x$는 어떤 기약분수(더 이상 약분되지 않는 분수) $\dfrac{m}{n}$으로 나타낼 수 있다고 가정하자. 여기서 $m,n$은 $1$을 제외한 공약수가 없는(서로소인) 자연수다.
2단계. $x^2=2$이므로 $\left(\dfrac{m}{n}\right)^2=2$, 즉 $m^2=2n^2$이다.
3단계. $m^2=2n^2$의 우변이 $2$의 배수이므로 $m^2$은 짝수다. 홀수를 제곱하면 항상 홀수가 나오므로, $m^2$이 짝수라면 $m$도 짝수여야 한다. 따라서 $m=2k$($k$는 자연수)로 쓸 수 있다.
4단계. 이것을 $m^2=2n^2$에 대입하면 $(2k)^2=2n^2$, 즉 $4k^2=2n^2$이므로 $n^2=2k^2$이다. 같은 이유로 $n^2$도 짝수이고, 그러면 $n$도 짝수다.
5단계. 그런데 $m$과 $n$이 둘 다 짝수라면 둘 다 $2$로 나누어지므로, 처음에 세운 "$m,n$은 서로소"라는 가정과 모순이다.
6단계. 모순이 생겼다는 것은 1단계의 가정, 즉 "$x$를 기약분수로 나타낼 수 있다"는 가정이 틀렸다는 뜻이다. 따라서 $x=\sqrt2$는 어떤 분수로도 나타낼 수 없고, 이런 수를 유리수와 구별해 무리수라고 부르게 된 것이다.
우리가 흔히 쓰는 A4 용지는 국제표준(ISO 216)에 따라 가로와 세로의 비율이 $1:\sqrt2$로 정해져 있다. 이 비율 덕분에 A4 용지를 반으로 접어 만든 A5 용지도 가로세로 비율이 그대로 $1:\sqrt2$로 유지된다 — 가로 $1$, 세로 $\sqrt2$인 종이의 긴 변을 반으로 자르면 새 종이의 가로세로는 $1$과 $\dfrac{\sqrt2}{2}$가 되는데, 그 비율을 다시 계산하면 $1:\dfrac{\sqrt2}{2} = \sqrt2:1$로 처음과 똑같은 모양이 나오기 때문이다. 만약 이 비율에 무리수 $\sqrt2$를 쓰지 않았다면, 종이를 반으로 접을 때마다 모양이 조금씩 달라져서 표준 규격을 유지하기 어려웠을 것이다.
잘못된 생각: $\sqrt{a^2}=a$이다. 왜 틀렸는지: $a=-3$이면 $\sqrt{a^2}=\sqrt9=3$이지 $-3$이 아니다. 근호 안에서 나온 값은 항상 $0$ 이상이어야 하므로 정답은 $\sqrt{a^2}=|a|$다.
잘못된 생각: "$4$의 제곱근을 구하라"는 문제에 $\sqrt4=2$만 답한다. 왜 틀렸는지: "$a$의 제곱근"은 $x^2=a$의 해 전체를 뜻하므로 양의 제곱근과 음의 제곱근을 모두 써야 한다. $4$의 제곱근은 $2$와 $-2$ 둘 다이며, $\sqrt4$는 그중 양의 제곱근만 가리키는 표기다.
잘못된 생각: 근호가 붙어 있으면 무조건 무리수다. 왜 틀렸는지: $\sqrt9=3$, $\sqrt{100}=10$처럼 근호 안의 수가 어떤 정수의 제곱이면 근호가 사라지고 유리수가 된다. 근호 안의 수가 제곱수가 아닐 때만 무리수가 된다.
고대 그리스의 피타고라스학파는 "모든 양은 정수의 비로 나타낼 수 있다"고 믿었다. 그런데 한 변의 길이가 $1$인 정사각형의 대각선의 길이, 즉 $\sqrt2$가 어떤 정수의 비로도 나타낼 수 없다는 사실이 밝혀지면서 이 믿음은 무너졌고, 이는 당시 그리스 수학에 큰 충격을 주었다. 그리스인들은 이런 수를 "말로 표현할 수 없는 것"이라는 뜻의 그리스어 낱말로 불렀고, 이 말이 라틴어를 거쳐 오늘날의 "무리수(無理數)"라는 이름으로 자리 잡았다. 근호 기호 $\sqrt{\ }$는 16세기 유럽에서 "뿌리"를 뜻하는 라틴어 radix의 머리글자 r을 변형해 만든 표기로, 이후 제곱근을 다루는 계산과 표기가 훨씬 간결해졌다.