Pour factoriser un polynôme, il faut chercher ses racines. Il n'y a pas de méthode générale et systématique pour cela sauf équations particulières (cf. équation du second degré ou $x^{\rm n}-1=0$ dans ${\Bbb C}$).
a) La méthode consiste à chercher une racine évidente $\rm a$ puis à factoriser le polynôme $\rm P$ par $\rm X-a$ à l'aide de la division euclidienne.
Exemple : $\rm P(X) = X^3-1$ a une racine évidente qui est $1$. Donc un théorème du cours nous dit qu'il existe un polynôme $\rm Q$ tel que $\rm P(X) = (X-1)Q(X)$.
On détermine le polynôme $\rm Q$ par division euclidienne :
Ensuite, on cherche une racine évidente $\rm b$ de $\rm Q$ donc $\rm Q(X)=(X-b)S(X)$ et donc $\rm P(X) = (X-a)(X-b)S(X)$. Puis on cherche une racine évidente de $\rm S$ etc...
b) Penser aux identités remarquables.
Exemple :
$\rm X^4-1 = (X^2)^2-1$ $\rm = (X^2-1)(X^2+1)$ $\rm = (X-1)(X+1)(X^2+1)$ dans $\rm {\Bbb R}[X]$.
Dans $\rm {\Bbb C}[X]$, $\rm X^2+1$ est une identité remarquable car $\rm X^2+1 = X^2 - i^2 = (X-i)(X+i)$ donc$\rm X^4-1 = (X-1)(X+1)(X-i)(X+i)$ .
Autre exemple : $\rm X^4+1$ se factorise dans $\rm {\Bbb R}[X]$ d'après le théorème cité plus haut ! Il se factorise forcément en un produit de deux facteurs de degré $2$ car il n'a pas de racine dans ${\Bbb R}$.
On va écrire le polynôme comme le début d'une identité remarquable.
$\rm X^4+1 = (X^2)^2 + 1$ $\rm = (X^2+1)^2 - 2X^2$ $\rm = (X^2+1)^2 - (\sqrt{2}X)^2 $ $\rm = (X^2+1 - \sqrt{2}X)(X^2+1 + \sqrt{2}X)$. On vérifie facilement (calcul du discriminant) que ces deux trinômes ne sont pas plus factorisables dans $\rm {\Bbb R}[X]$.
c) Pour factoriser un polynômede $\rm {\Bbb R}[X]$, on peut le factoriser dans $\rm {\Bbb C}[X]$ puis rassembler les facteurs conjugués. En effet, un théorème affirme que si $\rm a \in {\Bbb C}$ est une racine de $\rm P \in {\Bbb R}[X]$ alors $\rm \overline{a}$ est aussi une racine de $\rm P$. On va donc rassembler les facteurs$\rm (X-a)(X-\overline{a})$ en utilisant la formule :$\rm (X-a)(X-\overline{a}) = X^2 - 2Re(a) X + |a|^2$.
Exemple : Factorisons le polynôme $\rm X^4+1$ d'abord dans $\rm {\Bbb C}[X]$. Il faut donc chercher les racines de ce polynôme c'est-à-dire résoudre l'équation $z^4=-1$. Cela revient à chercher les racines $4$-ème de $-1$.
On a $\rm -1 = e^{i\pi}$. Une racine $4$-ème possible est donc $z_0 = \rm e^{i\pi/4}$. On obtient les autres en multipliant $z_0$ par les racines $4$-ème de l'unité : $1$, $\rm i = e^{i\pi/2}$, $\rm -1=e^{i\pi}$ et $\rm -i=e^{-i\frac{\pi}{2}}$.
On trouve $z_1 = z_0 \times \rm e^{i\pi/2} = e^{3i\pi/4}$, $z_2 = z_0 \times \rm e^{i\pi} = e^{5i\pi/4} = e^{-3i\pi/4}$ $=\overline{z_1}$ et $z_3 = z_0 \times \rm e^{-i\pi/2} = e^{-i\pi/4}$ $=\overline{z_0}$.
La factorisation dans $\rm {\Bbb C}[X]$ est $\rm X^4+1$ $= (\mathrm X-z_0)(\mathrm X-z_1)(\mathrm X-z_2)(X-z_3)$ $= (\mathrm X-z_0)(\mathrm X-\overline{z_0})(\mathrm X-z_1)(\mathrm X-\overline{z_1})$.
Or $(\mathrm X-z_0)(\mathrm X-\overline{z_0})$ $= \mathrm X^2-2\mathrm{Re}(z_0)\mathrm X + |z_0|^2$ $\rm = X^2-\sqrt{2}X+1$ et $(\mathrm X-z_1)(\mathrm X-\overline{z_1})$ $= \mathrm X^2-2\mathrm{Re}(z_1)\mathrm X + |z_1|^2 = \rm X^2+\sqrt{2}X+1$.
Donc la décomposition de $\rm X^4+1$ dans $\rm {\Bbb R}[X]$ est $\rm X^4+1$ $\rm = (X^2-\sqrt{2}X+1)(X^2+\sqrt{2}X+1)$.