Erreur standard

Soit p(x, θ) une distribution de probabilité dont le paramètre θ doit être estimé, et soit θ ^* un estimateur de θ. La qualité de cet estimateur est mesurée par son Erreur Quadratique Moyenne (EQM) :

EQM = Var(θ ^* ) + Bias(θ ^* )²

Si θ ^* est un estimateur sans biais, sa qualité est alors simplement mesurée par sa variance Var(θ ^*), ou par la racine carrée de celle-ci, c'est à dire par son écart-type.

Malheureusement, Var(θ^*) dépend le plus souvent de θ, voire également d'autres paramètres de la distribution dont les valeurs sont inconnues. L'expression mathématique de Var(θ^*) contient alors des quantités inconnues, et ne peut donc être calculée. Lorsque l'on connait des estimateurs de ces paramètres, il est courant de remplacer dans l'expression de Var(θ^*) les paramètres inconnus par leurs estimations calculées à partir de l'échantillon. Le résultat est alors une estimation de Var(θ ^*), dont la racine carrée est appelée l'Erreur Standard de l'estimation de θ (sous-entendu, pour l'échantillon disponible).

L'Erreur Standard est donc une estimation de la variabilité de l'estimation de θ en fonction de l'échantillon.

-----

L'Erreur Standard la plus communément rencontrée porte sur la moyenne estimée.

Soit p(x) une distribution de probabilité de moyenne µ et de variance σ², et soit {x_i , i = 1, 2, ..., n} un échantillon tiré de cette distribution. La moyenne empirique

est un estimateur sans biais de la moyenne µ de la distribution.

Pour toute distribution de probabilité p(x), la variance de  est égale à σ²/n. En reprenant les notations ci-dessus, nous avons donc

Var(θ ^*) = σ²/n

Mais l'expression de droite contient σ², qui est inconnue. Un estimateur (sans biais) de σ² est

En remplaçant σ² par son estimateur s ²* dans l'expression de Var(θ ^*), puis en prenant la racine carrée des deux côtés, on obtient l'Erreur Standard sur la Moyenne (ESM)

Cette expression peut maintenant être calculée sur l'échantillon seulement, le résultat étant une estimation de l'étendue de la variation de la moyenne empirique  autour de sa valeur moyenne µ. Pour de grands échantillons, on peut confondre (n - 1) et n, et l'expression ci-dessus devient alors :

ESM = Ecart-Type de l'échantillon / Racine carrée de la taille de l'échantillon

____________________________________________________________

Voir aussi :