La linéarité est au cœur des techniques statistiques les plus employées. Certes, ces dernières sont loin de suivre un long fleuve linéaire, mais elles l’utilisent comme représentation d’une réalité lorsque cette dernière veut bien s’y prêter. Et les propriétés mathématiques de la linéarité constituent une boîte à outils volumineuse. Alors si vous êtes d’attaque pour supporter une petite introduction là-dessus...

La linéarité en mathématiques

Une application est linéaire si elle conserve une stricte proportionnalité.

Soyons plus précis. Soit une application d’un espace vectoriel dans un autre, sur un même corps. Si les combinaisons linéaires de l’ensemble de départ sont maintenues dans l’ensemble d’arrivée, il y a linéarité.

Exemple : f(aX + bY + cZ) = af(X) + bf(Y) + cf(Z).

Lorsqu’on reste dans le même ensemble (par exemple Rⁿ), on parle d’endomorphisme et s’il y a bijection entre deux ensembles, on parle d’isomorphisme. Un endomorphisme bijectif est un automorphisme. Je reconnais que ces mots sont peu pratiques à placer lors d’un dîner en ville mais s’il n’y a que des couples à être présents, il y a bien isomorphisme entre le sous-ensemble des hommes et celui des femmes, du moins dans les situations les plus courantes.

Dans les cas où f(0) est différente du vecteur nul l’application n’est pas linéaire mais si elle le devient grâce à une simple translation, elle est affine. Par exemple, la « règle de trois » f(x) = 5x est une fonction linéaire tandis que f(x) + 1 est une fonction affine. Dans les deux cas, ce sont des équations de droites dans le plan.

La dérivation est une opération linéaire puisque (af)’ = af’ et (f + g)’ = f’ + g’. Et on voit bien que notre petite vérification fonctionne si a = 0.

Autre exemple : f(x , y) = (xy , x + y). Certes, f(0 , 0) est égal au vecteur nul mais f(ax , ay) = (a²xy , ax + ay), c’est-à-dire a(axy , x + y) ≠ a[f(x , y)]. Cette application n’est pas linéaire.

Une composée d’applications linéaires est linéaire.

Les suites et les équations différentielles peuvent ou non montrer une structure linéaire.

Illustrations statistiques

Une projection de points sur une droite vectorielle parallèlement à une même direction est linéaire. Songez à une droite de régression (projections par rapport à l’axe des ordonnées) ou à une ACP (projections orthogonales à un axe).

Moins visuelle, l'ANOVA est aussi une technique linéaire.

Une application rencontrée dans le cadre d'une régression multiple est une fonction linéaire de Rⁿ sur R :

F(x₁, x₂, …, x_n) = a₁x₁ + a₂x₂ + … + a_nx_n.

Les applications linéaires de Rⁿ dans R^m font intervenir le calcul matriciel. D'une manière générale, les techniques de data mining traitant des tableaux utilisent pour la plupart le calcul matriciel, donc l'algèbre linéaire.

Les techniques de prévision les plus usitées l'emploient également, en particulier les processus autorégressifs (voir opérateur retard). Le lissage exponentiel ou les processus ARMA sont fondés sur la linéarité.