Cochran  (Théorème de)

Un Théorème important de Statistique dont découlent les résultats portant sur la nature en Chi-2 de la distribution de certaines quantités :

    * En Régression Linéaire,

    * Et en Analyse de la Variance.

Soustractivité de la distribution du Chi-2

Additivité

Nous avons montré que si deux variables X₁ et X₂ indépendantes sont distribuées respectivement comme _m et _n , alors la variable X = X₁ + X₂  est ditribuée comme _{m + n} . C'est ce que l'on appelle la propriété d'additivité de la distribution du .

Soustractivité

Dans de nombreuses situations se pose plutôt la question inverse. On dispose de trois variables X, X₁ et X₂ dont on sait que :

    * X = X₁ + X₂

    * X~r   pour un certain entier r

    * X₁~q   pour un certain entier p < r

Il est alors tentant de penser que X₂  est une v.a. :

    * Indépendante de X₁,

    * et qu'elle est distribuée comme _q, avec r = p + q.

Cette intuition est justifiée, et se démontre simplement en ayant recours à la fonction génératrice des moments de la distribution du Chi-2.

Généralisation de la soustractivité

Le Théorème de Cochran généralise le résultat précédent. Il existe sous de nombreuses formes, mais une des plus utilisée en Statistique s'énonce ainsi :

    * Soit Q une forme quadratique dans un vecteur multinormal x ayant une distribution à r degrés de liberté.

    * Soient par ailleurs k formes quadratiques Q₁, Q₂, ..., Q_k telles que :

Q = Q₁ + Q₂, ...+ Q_k

On suppose que les k - 1 premières formes quadratiques Q_i :

    * Sont indépendantes.

    * Et ont des distributions du Chi-2 :

Q_i ~ _ri 

avec :

_i r_i < r               i = 1, 2, ..., (k - 1)

Alors la dernière forme quadratique, Q_k :

    1) Est indépendante des Q_i, i = 1, 2, ..., k - 1.

    2) A elle aussi une distribution du Chi-2 :

Q_k ~ _rk 

    3) Son nombre de degrés de liberté r_k étant tel que :

_i r_i = r        i = 1, 2, ..., k

Ce résultat est clairement une généralisation de la propriété de soustractivité évoquée plus haut.

Le Théorème de Cochran

Bien que l'énoncé ci-dessus satisfasse beaucoup des besoins de la Statistique, nous croyons utile d'en donner une version plus générale, que nous démontrons intégralement dans le Tutoriel ci-dessous :

Le lecteur peut s'inquiéter de voir apparaître des matrices et le langage de l'Algèbre Linéaire. Cependant, rappelons que :

    * La distribution du Chi-2 apparaît le plus souvent comme la distribution d'une forme quadratique dans un vecteur multinormal (c'est en particulier le cas de sa définition première),

    * Et que les propriétés distributionnelles et d'indépendance des formes quadratiques découlent de résultats mathématiques qui ne relèvent pas directement de la Statistique mais très directement des propriétés (symétrie, idempotence, rang) de certaines matrices, et donc de l'Algèbre Linéaire.

Par ailleurs, un survol de l'évolution historique des démonstrations du Théorème de Cochran montre que le recours systématique à l'Algèbre Linéaire conduit à des démonstrations beaucoup plus compactes et compréhensibles que celles essayant de s'en passer.

Théorème de Cochran, Algèbre Linéaire et Statistique

On remarquera que les propositions (1) et (2) ci-dessus ne concernent nullement la Statistique, mais forment un énoncé d'Algèbre Linéaire. La Statistique ne vient se greffer sur ces deux propositions que dans la proposition (3). Nous verrons que, grâce aux résultats déjà obtenus sur les formes quadratiques dans des vecteurs multinormaux, l'équivalence de (3) et de (2) devient alors très simple à montrer. Autrement dit, le gros du travail de la démonstration du Théorème de Cochran porte sur l'équivalence de (1) et de (2).

Interprétation géométrique du Théorème de Cochran

Nous invitons le lecteur à se rapporter dans un premier temps aux propriétés des opérateurs de projection.

-----

Il apparaît alors que le Théorème de Cochran reçoit l'interprétation géométrique suivante :

    * Soit E un espace vectoriel de dimension r.

    * Soient E₁, E₂, ..., E_k des sous-espaces deux à deux orthogonaux et dont la somme des dimensions soit égale à r.

    * Par ailleurs, soit x~N(0, I_r) un vecteur normal multivarié standard.

Alors :

    * Pour tout i, le carré de la longueur de la projection orthogonale de x sur E_i est une variables aléatoire distribuée comme [dim(E_i)].

    * Ces variables aléatoires sont indépendantes.

Réciproquement :

    * Si les carrés des longueurs des projections orthogonales d'un vecteur x~N(0, I_r) sur k sous-espaces E_i sont indépendantes et ont des distributions du ,

    * Et si la somme des degrés de liberté de ces distributions est égale à r, la dimension de l'espace,

Alors :

    * Ces sous-espaces sont orthogonaux et supplémentaires (tout vecteur se décompose de façon unique comme somme d'un vecteur dans chacun des sous-espaces).

-----

On remarquera la similarité formelle entre l'interprétation géométrique du Théorème de Cochran et la généralisation du Théorème de Pythagore à un espace de dimension quelconque. Ce dernier s'énonce :

    * Soit E un espace vectoriel de dimension r.

    * Soient E₁, E₂, ..., E_k des sous-espaces deux à deux orthogonaux et dont la somme des dimensions soit égale à r.

    * Par ailleurs, soit x un vecteur.

Alors :

    * La somme des carrés des longueurs des projections orthogonales de x sur les E_i est égale au carré de la longueur de x.

Réciproquement :

    * Si la somme des carrés des longueurs des projections orthogonales de x sur k espaces E_i est égale au carré de la longueur de x,

    * Alors ces sous-espaces sont orthogonaux et supplémentaires (leur somme directe est égale à E).

Autrement dit, dans cette analogie formelle :

    * "Vecteurs orthogonaux" est remplacé par "variables  indépendantes".

    * "Somme des carrés des longueurs" est remplacé par "somme des degrés de liberté des distributions ".

 _______________________________________________________

Dans ce Tutoriel, nous démontrons le Théorème de Cochran.

    * Nous commençons par démontrer un certain nombre de résultats élémentaires d'Algèbre Linéaire dont nous aurons besoin dans la suite du Tutoriel. Cette section représente la plus grosse partie du Tutoriel.

    * La démonstration de la partie "algébrique" du Théorème de Cochran est alors une simple mise en œuvre de ces résultats sur les hypothèses de départ.

    * La partie "statistique" du Tutoriel est très courte. Il faut cependant remarquer que cette brièveté n'est rendue possible que par l'établissement préalable des propriétés distributionnelles et d'indépendance des formes quadratiques dans des vecteurs normaux multivariés, un sujet assez volumineux abordé ici.

-----

Nous concluons ce Tutoriel par un exemple simple d'utilisation du Théorème de Cochran en démontrant une propriété importante de la distribution normale :

    * La moyenne empirique,

    * Et la variance empirique

sont des variables aléatoires indépendantes.

De plus, nous retrouverons que (n - 1)S²/² (où S² est la variance empirique) est distribuée comme _{n - 1}.

THEOREME DE COCHRAN

_____________________________________________________

Voir aussi :