이 개념은 교육과정 메모가 없어 표준적인 중등 수준 정의를 따른다.
인수분해란 하나의 다항식을 두 개 이상의 다항식(또는 단항식)의 곱으로 나타내는 것을 말한다. 이때 곱을 이루는 각각의 식을 그 다항식의 인수라고 한다.
예를 들어 $x^2+5x+6$ 이라는 다항식은
$$x^2+5x+6=(x+2)(x+3)$$
와 같이 $(x+2)$와 $(x+3)$의 곱으로 나타낼 수 있는데, 이렇게 곱의 꼴로 바꾸는 과정 전체를 인수분해라고 한다.
인수분해는 곱셈 공식을 이용해 여러 개의 항을 하나의 곱으로 펼치는 전개와 정반대의 과정이다. 즉 전개가 "곱 → 합"이라면, 인수분해는 "합 → 곱"이다.
숫자를 소인수의 곱으로 나타내는 소인수분해를 떠올려 보자. $12=2\times2\times3$ 처럼 하나의 수를 더 이상 쪼갤 수 없는 곱으로 나누면 그 수의 성질(약수, 배수 등)을 쉽게 파악할 수 있다.
다항식도 마찬가지다. $x^2+5x+6$은 덧셈으로 이루어져 있어서 그 값이 언제 $0$이 되는지 바로 알기 어렵지만, $(x+2)(x+3)$으로 인수분해하면 두 인수 중 하나만 $0$이 되어도 전체 값이 $0$이 된다는 사실이 눈에 보인다. 즉 인수분해는 복잡한 덧셈식을 곱셈식으로 바꿔서 구조를 드러내는 작업이라고 이해하면 된다. 이 성질은 이후 이차방정식의 해를 구할 때 핵심적으로 쓰인다.
인수분해 공식이 어떻게 나오는지, 이미 아는 곱셈 공식(전개)에서 거꾸로 출발해서 확인해보자.
먼저 두 일차식 $(x+a)$와 $(x+b)$를 곱해 전개하면
$$(x+a)(x+b) = x^2+ax+bx+ab = x^2+(a+b)x+ab$$
이 된다는 것은 이미 배운 사실이다.
이제 이 식을 반대 방향에서 보자. 만약 어떤 이차식 $x^2+px+q$ 가 주어졌을 때, 이 식이 위 전개식과 같은 모양이 되려면
$$p=a+b,\qquad q=ab$$
를 만족하는 두 수 $a,b$가 존재해야 한다. 즉 합이 $p$, 곱이 $q$인 두 수 $a,b$를 찾을 수 있다면, 그 두 수를 그대로 이용해
$$x^2+px+q=(x+a)(x+b)$$
로 되돌릴 수 있다는 뜻이다.
예를 들어 $x^2-5x+6$을 인수분해한다고 하면, 합이 $-5$, 곱이 $6$인 두 수를 찾아야 한다. $-2+(-3)=-5$이고 $(-2)\times(-3)=6$이므로 $a=-2,\,b=-3$이 답이 되고, 따라서
$$x^2-5x+6=(x-2)(x-3)$$
이다. 이렇게 전개 공식을 거꾸로 읽는 것이 이차식 인수분해의 원리이며, 합차 공식이나 완전제곱식 공식도 같은 방식으로 $(a+b)^2$, $(a-b)^2$, $a^2-b^2$의 전개식을 거꾸로 읽어서 얻은 것이다.
곱셈 공식을 거꾸로 읽으면 다음과 같은 기본 인수분해 공식을 얻는다. 여기서 $a,\,b$는 임의의 수나 문자를 나타낸다.
예시 1 (공통인수): $6x^2+9x = 3x(2x+3)$ — 모든 항에 공통으로 들어 있는 $3x$를 밖으로 묶어냈다.
예시 2 (합차 공식): $x^2-16 = x^2-4^2 = (x+4)(x-4)$
예시 3 (이차식): $x^2-5x+6$을 인수분해하려면 곱해서 $6$, 더해서 $-5$가 되는 두 수를 찾는다. $-2$와 $-3$이 이를 만족하므로
$$x^2-5x+6=(x-2)(x-3)$$
이 인수분해를 이용하면 이차방정식 $x^2-5x+6=0$의 해가 $x=2$ 또는 $x=3$임을 바로 알 수 있다. 실제로 함수 $y=x^2-5x+6$의 그래프는 아래처럼 $x=2,\,3$에서 $x$축과 만난다.
물체를 위로 던졌을 때 시간 $t$초 후의 높이가 $h=-5t^2+20t$ (단위: m)로 주어진다고 하자. 이 물체가 땅에 떨어지는 시각을 구하려면 $h=0$, 즉 $-5t^2+20t=0$을 풀어야 하는데, 이 식을 인수분해하면
$$-5t^2+20t=-5t(t-4)$$
이므로 $t=0$ 또는 $t=4$를 얻는다. $t=0$은 던진 순간이므로, 물체는 $4$초 후에 땅에 떨어진다는 것을 알 수 있다. 이처럼 인수분해는 방정식을 복잡한 계산 없이 눈으로 풀 수 있게 해 주기 때문에, 물리 문제나 도형의 넓이 문제에서 자주 활용된다.
잘못된 생각: $x^2+x-6$을 인수분해할 때 곱해서 $6$이 되는 두 수, 즉 $2$와 $3$을 그대로 사용해 $(x+2)(x+3)$이라고 쓴다. 왜 틀렸는지: 조건은 "곱이 $-6$, 합이 $1$"인 두 수를 찾는 것이다. 곱이 음수이므로 두 수의 부호는 서로 달라야 하며, $3$과 $-2$가 이 조건($3+(-2)=1$, $3\times(-2)=-6$)을 만족한다. 곱과 합의 부호를 같이 확인하지 않으면 엉뚱한 인수가 나온다.
잘못된 생각: $2x^2+8x+6$을 바로 $x^2+(a+b)x+ab$ 꼴의 공식에 대입해 인수분해하려 한다. 왜 틀렸는지: $x^2+(a+b)x+ab=(x+a)(x+b)$ 공식은 $x^2$의 계수가 $1$일 때의 형태다. 계수가 $1$이 아니면 먼저 공통인수 $2$를 묶어 $2(x^2+4x+3)$으로 만든 뒤에야 이 공식을 적용해 $2(x+1)(x+3)$을 얻을 수 있다. 공통인수를 묶는 단계를 건너뛰면 계산이 맞지 않거나 더 복잡해진다.
잘못된 생각: $x^4-1$을 $(x^2+1)(x^2-1)$로 인수분해한 뒤 다 끝났다고 생각한다. 왜 틀렸는지: 인수 중 $x^2-1$은 합차 공식으로 $(x+1)(x-1)$로 더 쪼갤 수 있다. 인수분해는 더 이상 분해할 수 없는 상태(더 이상 공통인수나 공식이 적용되지 않는 상태)까지 진행해야 끝난 것이다.
인수분해라는 조작 자체는 고대부터 쓰였지만, 오늘날처럼 문자를 사용해 일반적인 다항식을 다루는 방식은 16세기 말 프랑스의 수학자 프랑수아 비에트가 미지수와 계수를 문자로 표기하는 대수 기호법을 정리하면서 가능해졌다. 그전까지는 방정식을 말이나 특정한 숫자로만 다뤘기 때문에, $x^2+px+q$처럼 일반적인 형태의 식을 인수분해하는 방법을 체계적으로 서술하기 어려웠다. 문자를 이용한 대수 표기가 자리 잡은 뒤에야 $a^2-b^2=(a+b)(a-b)$와 같은 공식을 특정 숫자가 아닌 일반적인 식으로 증명하고 교과서에 정리할 수 있게 되었고, 이후 대수학 교재들을 통해 지금과 같은 인수분해 공식과 풀이 절차가 표준화되었다.