Pour n un entier, on note:

• \mathrm{GL}_n(\mathbb{R}) le groupe linéaire d’ordre n.
• \mathrm{O}_n(\mathbb{R}) le sous-groupe orthogonal d’ordre n.

On sait que \mathrm{O}_n(\mathbb{R} est un groupe compact (car fermé et bornée dans l’espace vectoriel des matrices).

Le théorème

Théorème:
Soit n un entier.
Soit K \subset \mathrm{GL}_n(\mathbb{R}) un sous-groupe compact.
Alors: il existe P \in \mathrm{GL}_n(\mathbb{R}) tel que

P \cdot K \cdot P^{-1} \subset \mathrm{O}_n(\mathbb{R}).

Le théorème s’énonce de manière plus concise: tout sous-groupe compact de K \subset \mathrm{GL}_n(\mathbb{R}) est conjugué à un sous-groupe \mathrm{O}_n(\mathbb{R}.

Le fait que K soit conjugué à un sous-groupe de \mathrm{O}_n(\mathbb{R} s’interprète par le fait qu’il existe un produit scalaire de \mathbb{R}|^n invariant par tout élément de K.

Preuve du théorème

On note Q l’espace vectoriel des formes quadratiques sur \mathbb{R}^n.

On définit le morphisme de groupe continue \phi : \mathrm{GL}_n(\mathbb{R}) \rightarrow \mathrm{GL}(Q) par

\phi(g)(q) = q \circ g^{-1}

Le but est de montrer qu’il existe q_0 \in Q définie positive telle que:

\forall g \in K, \phi(g)(q_0) = q_0[./katex]</p> <p>On note [katex]K' \subset \mathrm{GL}(Q) l'image de K par \phi.
Comme K est compact et \phi est continue, G est compact.

On se fixe q_0 \in Q définie positive.
On note X \subset Q le sous-ensemble:

X := \{ g \cdot q_0 ~,~ g \in G \}

Alors:

• X est compact, car c'est l'image du compact G par l'application continue g \mapsto g \cdot q_0.
• Tout élément de X est définie positive.
• X est stable par l'action de G

On note C l'enveloppe convexe de X dans Q.
Alors:

• C est compact d'après le théorème de Carathéodorie.
• Tout élément de C est définie positive (car un barycentre à coefficients positifs de formes quadratiques définies positives reste définie positive).
• C est stable par l'action de G.

Le lemme suivant montre qu'il existe q \in C fixe par G.
CQFD.

Un lemme de point fixe

Soit V un \mathbb{R}-espace vectoriel de dimension finie.

Lemme:
Soit G \subset \mathrm{GL}(V) un sous-groupe compact.
Soit C \subset V un convexe compact stable par G, i.e G \cdot C \subset C.
Alors il existe c_0 \in C fixe par G, i.e.

\forall g \in G, \quad g(c_0) = c_0

Preuve du lemme

Etape 1

Soit g \in \mathrm{End}(V) tel que g(C).
Montrons que:

\exists v \in C, \forall g \in G, \quad g(v) = v.

On se fixe c_0.
Pour tout n \in \mathbb{N} on note:

• c_n := g^n(u_0) = g \circ g \circ \cdots \circ g(u_0).
• u_n := \tfrac{1}{n} \sum_{i=0}^{n-1} c_i (c'est la moyenne de Cesaro de (c_n)).

Comme C est convexe et stable par g,
les c_n et u_n sont dans C.

Comme C est compact, il existe une extraction \phi,
tel que (u_{\phi(n)})_n converge dans C.
On note v \in C sa limite.

Pour tout n on a:

g(u_n) - u_n = \tfrac{1}{n} \sum_{i=0}^{n-1} u_{i+1} - u_i = \tfrac{1}{n}(u_n - u_0)

Comme C est borné, on a: \lim_{n \to \infty} \|g(u_n) - u_n\| = 0.

En passant à la limite sur (\phi(n))_n, on en déduit que: g(v) = v.

Etape 2

On se fixe \| \cdot \|_2 une norme euclidienne quelconque sur V.
On définit le norme suivante sur V

\forall x \in V, N(x) := \max_{g \in G}(\| g(x)\|_2).

Comme G est compact, le \maxest bien défini.

Montrons que

• N est invariant par G, i.e.:

\forall x \in V, \forall g \in G, \quad N(g(x)) = N(x)

• N est strictement convexe, i.e.:

\forall x,y \in V, N(x+y) = N(x) + N(y) \longrightarrow (\exists \lambda \geq 0, x = \lambda ~ y)

Le premier point, vient du fait que g \dot G = G, car G est un sous-groupe

Pour le deuxième point: soit x,y \in V tel que N(x+y) = N(x) + N(y).
Soit g_0 \in G tel que N(x+y) = \| g_0(x+y) \|_2.
On a alors

N(x+y) = \|g_0(x) + g_0(y) \|_2 \leq \|g_0(x) \|_2 + \|g_0(y) \|_2 \leq N(x) + N(y)

Comme N(x+y) = N(x) + N(y), on a donc \|g_0(x) + g_0(y) \|_2 = \|g_0(x) \|_2 + \|g_0(y) \|_2 .

Comme \| \cdot \|_2 est strictement convexe,
il existe \lambda \geq 0 tel que g_0(x) = \lambda ~ g_0(y).

Comme g_0 est linéaire injectif, on a x = \lambda ~ y.

Etape 3

Soit g_1, g_2, \dots, g_p \in G une famille finie de G.
Montrons que

\exists v \in C, \forall i=1 \dots p, \quad g_i(v) = v.

On pose g := \tfrac{1}{p}(g_1 + \cdots + g_p) \in \mathrm{End}(V) la moyenne des g_i.

Comme C est convexe, C est stable par g.

D'après l'étape 1, il existe v \in C tel que g(v) = v.

On a

N(g(v)) =\frac{1}{p} N(g_1(v) + \cdots g_p(v)) \leq \tfrac{1}{p}(N(g_1(v)) + \cdots + N(g_p(v)))

Comme N est invariant par G, N(g_i(v)) = N(v), et le membre de droite vaut donc N(v).
Comme g(v) = v, le membre de gauche vaut N(v).
Donc on a égalité au milieu.

Comme N est strictement convexe, les (g_i(v))_{i=1 \cdots p} sont positivement liés.
Comme ils sont aussi de même norme, ils sont tous égaux à leur moyenne qui vaut g(v) = v.

Fin de la preuve du lemme

Pour tout g \in G on note:

F_g := \{ c \in C ~|~ g(c) = c \}.

Comme c \mapsto g(c)-c est continue,
F_g est un fermé de C.

Montrons que \bigcap_{g \in G} F_g est non vide.

On raisonne par l'absurde.
Supposons que l'intersection est vide.
Comme C est compact,
il existe une famille finie g_1, \dots, g_p,
telle que \bigcap_{i=1 \dots p} F_{g_i} = \empty.
Ce qui contredit l'étape 3.

Donc il existe v \in \bigcap_{g \in G} F_g, qui est donc un point fixe par G.
CQFD.

Leçons concernées

• 106 - Groupe linéaire d'un espace vectoriel de dimension finie E, sous-groupes de GL(E). Applications.
• 119 - Exemples d'actions de groupes sur les espaces de matrices.
• 121 - Matrices équivalentes. Matrices semblables. Applications.
• 131 - Formes quadratiques sur un espace vectoriel de dimension finie. Orthogonalitée, isotropie. Applications.
• 135 - Isométries d'un espace affine euclidien de dimension finie. Forme réduite. Applications en dimensions 2 et 3.
• 137 - Barycentres dans un espace afine réel de dimension finie; convexité. Applications.
• 141 - Utilisation des groupes en géométrie.
• 203 - Utilisation de la notion de compacité.
• 206 - Théorèmes de point fixe, exemples et applications.

Si tu as des remarques ou des questions, alors n'hésite pas à écrire en commentaire.