On note $\mathcal{M}_{n}({\Bbb R})$ l'ensemble des matrice carrée d'ordre $n$ ($n$ est un entier $\ge 1$) à coefficients réels.
On note $\mathcal{M}_{n,1}({\Bbb R})$ l'ensemble des matrice colonnes $n$ lignes et $1$ colonne à coefficients réels à coefficients réels.
Dans la suite, $\mathrm A$ désigne une matrice de $\mathcal{M}_{n}({\Bbb R})$ et $\mathrm X$ une matrice colonne de $\mathcal{M}_{n,1}({\Bbb R})$.
1) Valeur et vecteur propre d'une matrice $\mathcal{M}_{n}({\Bbb R})$
Définition :
Soit $\lambda$ un réel. On dit que $\lambda$ est une valeur propre de la matrice s'il existe une matrice colonne $\mathrm X$ de $\mathcal{M}_{n,1}({\Bbb R})$ NON NULLE telle que $\rm AX = \lambda X$.
L'ensemble des valeurs propres de la matrice $\mathrm A$ s'appelle le spectre de $\mathrm A$ et se note $\rm Sp(A)$.
Dans ce cas, on dit que $\mathrm X$ est un vecteur propre associé à la valeur propre $\lambda$.
Remarque 1 :
Chercher les valeurs propres de la matrice $\mathrm A$ cela revient à déterminer tous les réels $\lambda$ pour lesquels le système linéaire $\rm AX = \lambda X$ d'inconnue $\mathrm X \in \mathcal{M}_{n,1}({\Bbb R})$ admet au moins une solution non nulle.
Remarque 2 :
On a $\rm AX = \lambda X \iff AX - \lambda X = 0_{\mathcal{M}_{n,1}({\Bbb R})}$ $\iff (\mathrm A-\lambda \mathrm I_n)\mathrm X= 0_{\mathcal{M}_{n,1}({\Bbb R})}$ $\iff \mathrm X \in \ker(\mathrm A-\lambda \mathrm I_n)$.
Définition :
Le sous-espace vectoriel $\ker(\mathrm A-\lambda \mathrm I_n)$ s'appelle le sous-espace propre de la valeur propre $\lambda$. On le note $\rm E_A(\lambda)$.
2) Exemple
Déterminons les valeurs propres de la matrice $\mathrm A = \left( \begin{array}{ccc} 3 & 1 & 1 \\ -8 & -3 & -4 \\ 6 & 3 & 4 \end{array}\right)$.
On effectue la méthode du pivot de Gauss sur la matrice $\mathrm A- \lambda I_3 = \left( \begin{array}{ccc} 3-\lambda & 1 & 1 \\ -8 & -3-\lambda & -4 \\ 6 & 3 & 4-\lambda \end{array}\right)$.
On échange les lignes $1$ et 3, $\rm L_1 \leftrightarrow L_3$ :
\[\left( \begin{array}{ccc} 6 & 3 & 4-\lambda \\ -8 & -3-\lambda & -4 \\ 3-\lambda & 1 & 1 \end{array}\right).\]
On effectue $\rm L_2 \leftarrow 3L_2+4L_1$ et $\rm L_3 \leftarrow 6L_3-(3-\lambda)L_1$. On obtient après factorisation :
\[\left( \begin{array}{ccc} 6 & 3 & 4-\lambda \\ 0 & 3(1-\lambda) & 4(1-\lambda) \\ 0 & 3(\lambda-1) & (1-\lambda)(\lambda-6) \end{array}\right).\]
On effectue $\rm L_3 \leftarrow L_3+L_2$ :
\[\left(\begin{array}{ccc} 6 & 3 & 4-\lambda \\ 0 & 3(1-\lambda) & 4(1-\lambda) \\ 0 & 0 & (1-\lambda)(\lambda-2) \end{array}\right).\]
On revient au système $(\rm A-\lambda I_3)X= 0_{\mathcal{M}_{3,1}({\Bbb R})}$ en posant $\mathrm X = \left(\begin{array}{ccc} x \\ y \\ z \end{array}\right)$.
On obtient le système triangulaire :
\[\left\{\begin{array}{lll} 6x + 3y + (4-\lambda)z = 0\\ 3(1-\lambda)y + 4(1-\lambda)z = 0\\ (1-\lambda)(\lambda-2)z = 0 \end{array}\right.\]
Si $\lambda \in {\Bbb R}\backslash \{1,2\}$ alors $z=0$ puis $y=0$ puis $x=0$ autrement dit la seule solution du système $\rm AX=\lambda X$ est la solution nulle donc $\lambda$ n'est pas valeur propre.
Si $\lambda=1$ alors le système se réduit à une seule équation : $6x+3y+3z=0$ soit après simplification par $3$ : $2x+y+z=0$.
On en déduit que le système $\rm AX=X$ admet des solutions non nulles donc $1$ est une valeur propre de $\mathrm A$.
De plus le sous-espace propre associé à la valeur propre $1$ est le plan vectoriel d'équation $2x+y+z=0$.
On peut chercher une base de ce plan. Comme $z=-2x-y$, on a $(x,y,z) = (x,y,-2x-y) = x(1,0,-2) + y(0,1,-1)$. On a donc $\rm E_A(1) = {\rm vect}((1,0,-2);(0,1,-1))$.
Si $\lambda=2$ alors le système devient :
$\scriptstyle\left\{\begin{array}{lll} 6x + 3y + 2z = 0\\ -3y -4z = 0\\ \end{array}\right. \iff \left\{\begin{array}{lll} x = \frac{1}{3}z\\ y = -\frac{4}{3}z\\ z = z \end{array}\right.$
Comme le système $\rm AX=2X$ admet des solutions non nulles, $2$ est une valeur propre et de plus $\rm E_A(2)$ est la droite vectorielle engendrée par le vecteur $(1,-4,3)$.
Le spectre de $\mathrm A$ est donc $\rm Sp(A) = \{1,2\}$.