Moments ordinaires et centrés
En statistiques probabilistes, il est important de connaître la notion de moment, issue de la physique.
Nous balayerons les formules des moments qui caractérisent une loi de probabilité puis nous établirons le lien entre moments ordinaires et centrés.
Nous emploierons les notations habituelles (\(X\) pour la variable aléatoire, \(p\) pour la probabilité, etc.).
Moments ordinaires (non centrés)
Cas discret
Le moment d’ordre 1 est l’espérance et le moment d’ordre 2 est la moyenne des carrés.
\(\displaystyle{m_1 = E(X) = \sum\limits_{i} p_ix_i}.\) Voir les propriétés de l’espérance.
\(\displaystyle{m_2 = E(X^2) = \sum\limits_{i} p_ix^2_i}\)
\(\displaystyle{m_k = E(X^k) = \sum\limits_{i} p_ix^k_i}\)
Cas continu
\(m_1 = E(X) = \displaystyle{\int_{-\infty}^{+ \infty} {xf(x)dx}}.\)
Le lien avec la formule du cas discret est assez évident (voir la page sur la densité).
Ce moment n’existe pas toujours (Cf. la loi de Cauchy). À ce propos, si un moment d’ordre \(k\) n’existe pas pour une loi donnée, les moments supérieurs à \(k\) n’existent pas non plus.
\(m_2 = E(X^2) = \displaystyle{\int_{-\infty}^{+ \infty} {x^2 f(x)dx}}\)
\(m_k = E(X^k) = \displaystyle{\int_{-\infty}^{+ \infty} {x^k f(x)dx}}\)
Moments centrés (sur la moyenne)
Le moment centré d’ordre 1 n’a aucun intérêt puisque c’est 0.
\(\mu_1 = E[X – E(X)] = 0\)
Le moment centré d’ordre 2 est la variance.
\(\mu_2 = E[X – E(X)]^2\) ou dit autrement \(m_2 - m_1^2\) (démonstration en bas de page).
Dans le cas discret : \(\displaystyle{\mu_2 = \sum\limits_{i} p_i(x_i-m)^2}\)
Dans le cas continu : \(\mu_2 = \displaystyle{\int_{-\infty}^{+ \infty} {(x-m)^2 f(x)dx}}\)
Enfin, les moments centrés d‘ordre \(k\) sont :
Dans le cas discret : \(\displaystyle{\mu_k = \sum\limits_{i} p_i(x_i-m)^k}\)
Dans le cas continu : \(\mu_k = \displaystyle{\int_{-\infty}^{+ \infty} {(x-m)^k f(x)dx}}\)
Le moment centré d’ordre 3 sert à construire le coefficient d’asymétrie et celui d’ordre 4 le coefficient d’aplatissement (ce sont les coefficients centrés et réduits). Si la loi est symétrique, ses moments d’ordre impair sont nuls.
Méthode des moments
L’une des méthodes permettant de construire un estimateur est celle des moments. Le principe est le suivant...
Pour une loi à \(p\) paramètres, on retient les \(p\) premiers moments. Hormis le cas trivial du moment centré d’ordre 1, on peut choisir des moments centrés ou non centrés, voire un mélange des deux (Cf. A. Monfort, Cours de statistique mathématique, Economica, 1997, p.114).
On retient les \(p\) premiers moments empiriques et on pose pour chaque ordre \(k\) leur égalité avec le moment du vrai paramètre. Ceci conduit à un système de \(k\) équations. Généralement, il n’est pas linéaire.
Relation entre moments ordinaires et centrés
\(\mu_k = \sum\limits_{i=0}^{k} {\left( {\begin{array}{*{20}{c}} k\\ i \end{array}} \right)} m_{k-i} (-m_1)^{i}\)
Démonstration.
\(\mu_k = E[(X – m_1)^k]\) par définition du moment centré d’ordre \(k\)
\(\Leftrightarrow \mu_k\) \(=\) \(E \left[\sum {\left( {\begin{array}{*{20}{c}}
k\\
i
\end{array}} \right)} \times X^{k-i} \times (-m_1) ^i \right]\) (voir le binôme de Newton).
\(\Leftrightarrow \mu_k\) \(=\) \(\sum {\left( {\begin{array}{*{20}{c}}
k\\
i
\end{array}} \right)} E(X)^ {k-i} (-m_1)^ i\)
\(\Leftrightarrow \mu_k\) \(=\) \(\sum {\left( {\begin{array}{*{20}{c}}
k\\
i
\end{array}} \right)} m_{k-i} (-m_1)^ i\) d’après la formule de \(\mu_k\) vue plus haut.
CQFD.
Prenons l’exemple de \(k = 2\)
\(\mu_2\) \(=\) \(\sum\limits_{i=0}^2 {\left( {\begin{array}{*{20}{c}}
2\\
i
\end{array}} \right)} m_{2-i} (-m_1)^{i}\)
Décomposons.
\(\mu_2\) \(=\) \({\left( {\begin{array}{*{20}{c}}
2\\
0
\end{array}} \right)} m_{2} (-m_1)^{0}\) \(+\) \({\left( {\begin{array}{*{20}{c}}
2\\
1
\end{array}} \right)} m_{1} (-m_1)^{1}\) \(+\) \({\left( {\begin{array}{*{20}{c}}
2\\
2
\end{array}} \right)} m_{0} (-m_1)^{2}\)
Sachant que \(m_0 = 1\) nous obtenons :
\(\mu_2\) \(=\) \((1 \times m_2 \times 1)\) \(+\) \([2 \times m_1 \times (-m_1)]\) \(+\) \((1 \times 1 \times m_1^2)\)
Simplifions.
\(\mu_2 = m_2 - 2m_1^2 + m_1^2\)
Et nous arrivons à \(\mu_2 = m_2 - m_1^2,\) c'est-à-dire la moyenne des carrés moins le carré de la moyenne. Nous avons démontré le théorème de König.
