Aller au contenu
ELECTRONICS ENGINEERINGelectronics-engineering.com
Géométrie et algèbre

Produit scalaire et orthogonalité : projections, Gram-Schmidt et théorème spectral

Produit scalaire et norme, Pythagore, projection orthogonale et moindres carrés, bases orthonormées, procédé de Gram-Schmidt, matrices orthogonales et théorème spectral.

https://www.electronics-engineering.com/fr/produit-scalaire-orthogonalite-theoreme-spectral/

Pas encore de vote : soyez le premier à noter cette page.

Les espaces vectoriels abstraits n’ont ni longueurs ni angles. Pour en avoir, il faut une structure de plus, le produit scalaire. Avec lui viennent l’orthogonalité, les projections, les bases orthonormées et l’un des plus beaux théorèmes du cours, le théorème spectral. Ce sont les outils derrière les moindres carrés, les séries de Fourier et la compression JPEG.

Produit scalaire et norme

Un produit scalaire sur un espace réel V est une opération \langle\mathbf u, \mathbf v\rangle qui donne un nombre et qui est symétrique, linéaire en chaque argument et définie positive : \langle\mathbf v, \mathbf v\rangle \gt  0 pour tout \mathbf v \ne \mathbf 0. Le produit usuel sur \mathbb R^n est \mathbf u\cdot\mathbf v = \sum u_i v_i. Sur les fonctions continues sur [a, b], un produit scalaire est \langle f, g\rangle = \int_a^b f(x)g(x)\,dx.

La norme est \|\mathbf v\| = \sqrt{\langle\mathbf v, \mathbf v\rangle}, et les inégalités de Cauchy-Schwarz et triangulaire sont valables (démontrées dans la leçon sur les vecteurs, avec un raisonnement qui n’utilise que ces propriétés). Deux vecteurs sont orthogonaux si \langle\mathbf u, \mathbf v\rangle = 0.

Le théorème de Pythagore

Si \mathbf u\perp\mathbf v, alors \|\mathbf u + \mathbf v\|^2 = \langle\mathbf u + \mathbf v, \mathbf u + \mathbf v\rangle = \|\mathbf u\|^2 + 2\langle\mathbf u, \mathbf v\rangle + \|\mathbf v\|^2 = \|\mathbf u\|^2 + \|\mathbf v\|^2. Dans tout espace muni d’un produit scalaire, même un espace de fonctions.

Des vecteurs non nuls orthogonaux deux à deux sont indépendants. Si \sum\lambda_i\mathbf v_i = \mathbf 0, en prenant le produit scalaire avec \mathbf v_j il ne reste que \lambda_j\|\mathbf v_j\|^2 = 0, donc \lambda_j = 0.

Projection orthogonale

Projection orthogonale d'un vecteur v sur la droite engendrée par u
La projection de \mathbf v sur la direction de \mathbf u est le vecteur de cette droite le plus proche de \mathbf v. La différence \mathbf v - \operatorname{proj}_{\mathbf u}\mathbf v est perpendiculaire à \mathbf u.

Démonstration de la formule

On cherche le multiple c\,\mathbf u tel que \mathbf v - c\,\mathbf u soit orthogonal à \mathbf u :

    \[ \langle\mathbf v - c\,\mathbf u, \mathbf u\rangle = 0 \quad\Rightarrow\quad c = \frac{\langle\mathbf v, \mathbf u\rangle}{\langle\mathbf u, \mathbf u\rangle},\qquad \operatorname{proj}_{\mathbf u}\mathbf v = \frac{\langle\mathbf v, \mathbf u\rangle}{\langle\mathbf u, \mathbf u\rangle}\,\mathbf u \]

C’est aussi le point le plus proche : pour tout autre multiple d\,\mathbf u, le vecteur \mathbf v - d\,\mathbf u est la somme de \mathbf v - c\,\mathbf u et de (c - d)\,\mathbf u, qui sont orthogonaux, et par Pythagore \|\mathbf v - d\,\mathbf u\|^2 = \|\mathbf v - c\,\mathbf u\|^2 + (c - d)^2\|\mathbf u\|^2 \ge \|\mathbf v - c\,\mathbf u\|^2.

Il en va de même pour la projection sur un sous-espace W : le point de W le plus proche de \mathbf v est celui pour lequel la différence est orthogonale à tout W. C’est le principe des moindres carrés : quand un système A\mathbf x = \mathbf b n’a pas de solution (trop d’équations, données bruitées), on cherche \mathbf x tel que A\mathbf x soit la projection de \mathbf b sur l’espace des colonnes. La condition d’orthogonalité donne les équations normales A^TA\,\mathbf x = A^T\mathbf b. C’est ainsi que l’on calcule une droite de régression à travers des données expérimentales.

Bases orthonormées

Une base est orthonormée si ses vecteurs sont de norme 1 et orthogonaux deux à deux. L’avantage est énorme : les coordonnées se calculent avec un produit scalaire, sans résoudre de systèmes.

    \[ \mathbf v = \sum_i\langle\mathbf v, \mathbf e_i\rangle\,\mathbf e_i \]

En effet, en prenant le produit scalaire de \mathbf v = \sum c_i\mathbf e_i avec \mathbf e_j, il ne reste que c_j. Une série de Fourier est exactement cela, dans un espace de fonctions : sinus et cosinus forment une base orthogonale pour \int f g, et les coefficients de Fourier sont des produits scalaires.

Le procédé de Gram-Schmidt

À partir de n’importe quelle base \mathbf v_1, \dots, \mathbf v_n, on construit une base orthonormée du même espace en retranchant de chaque vecteur ses projections sur les précédents :

    \[ \mathbf u_1 = \mathbf v_1,\qquad \mathbf u_k = \mathbf v_k - \sum_{j \lt k}\frac{\langle\mathbf v_k, \mathbf u_j\rangle}{\langle\mathbf u_j, \mathbf u_j\rangle}\,\mathbf u_j,\qquad \mathbf e_k = \frac{\mathbf u_k}{\|\mathbf u_k\|} \]

Exemple. \mathbf v_1 = (1, 1, 0), \mathbf v_2 = (1, 0, 1). \mathbf u_1 = (1, 1, 0). \langle\mathbf v_2, \mathbf u_1\rangle = 1, \langle\mathbf u_1, \mathbf u_1\rangle = 2, donc \mathbf u_2 = (1, 0, 1) - \tfrac12(1, 1, 0) = (\tfrac12, -\tfrac12, 1). Vérification : \mathbf u_1\cdot\mathbf u_2 = \tfrac12 - \tfrac12 + 0 = 0. En normalisant : \mathbf e_1 = \tfrac{1}{\sqrt2}(1, 1, 0), \mathbf e_2 = \tfrac{1}{\sqrt6}(1, -1, 2).

Matrices orthogonales

Une matrice carrée Q est orthogonale si ses colonnes forment une base orthonormée, c’est-à-dire si Q^TQ = I. Alors Q^{-1} = Q^T : l’inverse coûte autant qu’une transposition. Les matrices orthogonales conservent les produits scalaires, les longueurs et les angles, \langle Q\mathbf u, Q\mathbf v\rangle = \mathbf u^TQ^TQ\mathbf v = \langle\mathbf u, \mathbf v\rangle : ce sont les rotations (\det Q = 1) et les symétries (\det Q = -1).

Le théorème spectral

Théorème. Toute matrice réelle symétrique a des valeurs propres réelles et peut être diagonalisée avec une base orthonormée de vecteurs propres : il existe une matrice orthogonale Q telle que

    \[ Q^TAQ = D \]

Une étape clé de la démonstration est facile à voir : les vecteurs propres de valeurs propres distinctes sont orthogonaux. Si A\mathbf u = \lambda\mathbf u et A\mathbf v = \mu\mathbf v, en utilisant A = A^T :

    \[ \lambda\langle\mathbf u, \mathbf v\rangle = \langle A\mathbf u, \mathbf v\rangle = \langle\mathbf u, A\mathbf v\rangle = \mu\langle\mathbf u, \mathbf v\rangle \]

donc (\lambda - \mu)\langle\mathbf u, \mathbf v\rangle = 0 et, si \lambda \ne \mu, \langle\mathbf u, \mathbf v\rangle = 0. On le voit dans la matrice \begin{pmatrix}2 & 1\\ 1 & 2\end{pmatrix} de la leçon sur les valeurs propres : ses vecteurs propres (1, 1) et (1, -1) sont perpendiculaires.

Le théorème spectral a des conséquences partout : les directions principales des contraintes dans une poutre, les axes principaux d’inertie d’un solide, l’analyse en composantes principales (ACP), qui réduit les données aux directions de plus grande variance, et la classification des coniques et des quadriques que nous verrons dans la leçon sur la géométrie plane.

S’abonner
Notifier de
guest
1 commentaire
Le plus ancien
Plus récent Les plus votés
1
0
Vous avez apprécié cet article ? Merci de laisser un commentaire.x