Moments  (Estimation par la méthode des)

Estimation des moments d'une distribution

Soit X une variable aléatoire (discrète ou continue) de distribution de probabilité p(x), et x = {x₁, x₂, ..., x_n} un échantillon de taille n tiré de cette distribution. Alors les moments de l'échantillon sont des estimateurs convergents des moments de p(x).

Autrement dit :

    * Soit µ_i le moment d'ordre i de la distribution :

µ_i = E[X ⁱ]

    * Soit m_i⁽ⁿ⁾  le moment d'ordre i d'un échantillon de taille n :

Les m_i⁽ⁿ⁾ sont des réalisations des variables aléatoires M_i⁽ⁿ⁾ :

Alors pour tout i, la suite de v.a. {M_i⁽ⁿ⁾} converge en probabilité vers µ_i quand n tend vers l'infini.

Nous esquissons ici une démonstration de ce résultat comme application d'une généralisation de la Loi Faible des Grands Nombres.

En termes pratiques, ceci veut dire que plus un échantillon est grand, plus on peut accorder de confiance aux valeurs de ses moments comme estimations des moments correspondants de la distribution.

Estimation des paramètres d'une distribution

Mais les moments de l'échantillon peuvent faire plus que d'estimer les moments de la distribution : ils peuvent également servir à estimer un ou plusieurs paramètres de cette distribution.

Soit f(x | θ₁, ..., θ_k) une distribution continue ou discrète et dépendant de k paramètres.

• D'un côté, nous avons les k premiers moments m₁, m₂ , ..., m_k     de l'échantillon :

              i = 1, 2, ..., k

• D'un autre côté, nous avons les k premiers moments µ₁, µ₂ , ..., µ_k de la distribution :

µ_i = E[xⁱ]                       i = 1, 2, ..., k

Ce moments sont des fonctions des paramètres (θ₁, ..., θ_k) de la distribution.

-----

Estimer les paramètres (θ₁, ..., θ_k) par la méthode des moments consiste à égaler les moments (connus) de l'échantillon et les moments correspondants (inconnus) de la distribution :

Si ce système de k équations peut être résolu :

θ_i* = g_i(m₁, m₂ , ..., m_k)               i = 1, 2, ..., k

alors chaque θ_i* est un estimateur convergent du paramètre θ_i correspondant.

Nous illustrons ici la méthode des moments en estimant simultanément les paramètres (n, p) de la distribution binomiale B(n, p).

-----

La méthode des moments est conceptuellement plus simple que la méthode du Maximum de Vraisemblance, mais les estimateurs ainsi produits n'ont pas les bonnes propriétés asymptotiques des estimateurs du Maximum de Vraisemblance, et la méthode des moments est maintenant peu utilisée.

 ____________________________________________

Voir aussi :