Voici une notion mathématique bien utile pour comprendre le fonctionnement des  analyses factorielles et notamment l’ACP sur variables. Mais pas seulement. Les applications statistiques sont nombreuses puisque le modèle linéaire général est fondé là-dessus. La régression multiple consiste à déterminer le vecteur sur lequel se situent tous les projetés et tel que les distances des projections soient minimales (dès lors que les valeurs sont centrées). Voyons d’abord ce qu’est un produit scalaire dans le plan, puis dans l’espace.

Dans le plan

Il s’agit d’un produit de deux vecteurs.

Le produit scalaire est égal au produit des normes euclidiennes multiplié par le cosinus de l’angle que forment les deux vecteurs.

Si ce produit est égal à zéro, c’est que les vecteurs sont orthogonaux (à moins qu’un vecteur n’ait la mauvaise idée d’être nul).

Si les deux vecteurs ont pour coordonnées (x ; y) et (x’ ; y’),  leur produit est égal à xx’ + yy’ (et ainsi de suite si l’on se situe dans l’espace).

Un vecteur est normal à une droite s’il lui est orthogonal. Dans un repère orthonormé, les coordonnées du vecteur normal à la droite d’équation ax + by + c = 0 sont (a ; b).

Un vecteur multiplié par lui-même est un carré scalaire.

Dans l’espace

Le produit de vecteur s’obtient par multiplication de matrices.

Le projeté orthogonal d’un point A sur un plan est l’intersection de ce plan avec la droite qui lui est perpendiculaire et qui contient A. Idem si c’est sur une droite qu’on projette sur un plan.

Une équation d’expression ax + by + cz + d = 0 est celle d’un plan dont le vecteur normal a pour coordonnées (a ; b ; c). On continue l’alphabet lorsqu’on augmente le nombre de dimensions.

La distance entre un point A et son projeté (sur une droite ou sur un plan) est égale à la valeur absolue du vecteur normal multiplié par la distance entre A et n’importe quel point de la droite (ou du plan), le tout rapporté à la norme :

Dans un espace à trois dimensions, la distance d’un point A(x_A ; y_A ; z_A) au plan est :

... et ainsi de suite dans un hyperespace où les dimensions pullulent...

Exemple.

Prenons un plan dans un espace à trois dimensions, dont l’équation cartésienne est x + 2y – 2z + 7 = 0 et un point de coordonnées (1 ; 1 ; 2). La distance qui sépare le point du plan est de :

C’est donc la distance qui existe entre ce point et son projeté orthogonal.

Nommons P ce projeté. Où peut-on le trouver ?

Nous avons vu qu’on détermine facilement un vecteur normal d’un plan. En l’occurrence, on a ici (1 ; 2 ; -2). Si l’on part du point A (1 ; 1 ; 2), on va suivre ce vecteur sur une certaine distance pour finir notre course contre le plan. Cette distance k est une « proportion » du vecteur, ce n’est pas la distance d déterminée plus haut. Donc, les coordonnées de H se trouvent en résolvant un petit système :

Comme H se situe sur le plan, il suffit de remplacer x, y et z dans l’équation cartésienne du plan :

(1 + k) + 2(1 + 2k) – 2(2 – 2k) + 7 = 0, donc k = -⅔.

On obtient :

Ce sont les coordonnées de H. Vérifions à présent que la distance euclidienne est bien égale à d.

Super...