Soit $\rm E$ un espace euclidien (= espace préhilbertien réel de dimension finie) de dimension $n\in\mathbb N^*$.

Définition : Une isométrie vectorielle (aussi appelée automorphisme orthogonal d’un espace euclidien) de $\rm E$ est un endomorphisme $u$ conservant la norme c’est-à-dire pour tout $x\in \rm E$, $ \|u(x)\|=\|x\|$.

L’ensemble des automorphismes orthogonaux de $\rm E$ est un groupe, appelé groupe orthogonal de $\rm E$ et noté $\rm O(E)$.

Théorème : Soit $u$ endomorphisme de $\rm E$. Il y a équivalence entre les propositions suivantes :

  1. $u$ est orthogonal
  2. $u$ conserve le produit scalaire : pour tous $x,y \in \rm E$, $(u(x)|u(y))=(x|y)$.

Théorème : Soient $u$ endomorphisme de $\rm E$ et $\rm e=(e_1,\ldots,e_n)$ une base orthonormale de $\rm E$. Il y a équivalence entre les propositions suivantes :

  1. $u$ est orthogonal
  2. La famille $(u(\mathrm e_1),\ldots,u(\rm e_n))$ est une base orthonormale
  3. $\mathrm{Mat_e} u \in \rm O_n(\mathbb R)$

Remarque : L’ensemble des matrices orthogonales de taille $\rm n$ forme un groupe appelé groupe orthogonal et noté $\rm O_n(\mathbb R)$.

Une matrice orthogonale de taille $\rm n$ est une matrice de $\rm M_n(\mathbb R)$ vérifiant $\rm M^tM=I_n$.

Une matrice est orthogonale si et seulement si ses lignes forment une base orthonormale de $\rm \mathbb R^n$.

Le déterminant d’une matrice orthogonale vaut $1$ ou $-1$. Une matrice orthogonale est positive si son déterminant est égal à $1$ et négative si son déterminant est égal à $-1$. L’ensemble des matrices orthogonales positives forme un groupe appelé le groupe spécial orthogonal et noté $\rm SO_n(\mathbb R)$.

Définition : On suppose que $\rm E$ est orienté.
Une isométrie directe (ou positive) est une isométrie vectorielle de déterminant $1$. Dans le cas contraire (déterminant $= -1$), on parle d’isométrie indirecte (ou négative).

Théorème de réduction :  Une isométrie directe (différente de l’identité) peut être représentée dans une base orthonormale $(\vec u,\vec v,\vec w)$ par la matrice $\left(\begin{matrix}
1 & 0 & 0\\
0 & \cos \theta & -\sin \theta\\
0 & \sin \theta & \cos \theta\\
\end{matrix}\right)$

L’isométrie correspond à la rotation d’axe dirigé et orienté par $\vec u$ et d’angle $\theta$.