Définie positive  (Matrice)

Définition d'une matrice définie positive

Une matrice symétrique A est dite semi-définie positive si, pour tout vecteur x non nul :

Si l'inégalité est stricte, la matrice est dite définie positive.

-----

Les matrices semidéfinies positives sont importantes en Statistique essentiellement en raison du fait que :

    * Une matrice de covariance  est toujours semidéfinie positive,

    * Et inversement, une matrice semidéfinie positive est toujours la matrice d'un vecteur aléatoire (en fait, d'une infinité),

comme nous le montrons ici.  

Ceci est vrai en particulier d'un vecteur multinormal, un résultat essentiel pour l'étude de la distribution normale multivariée.

    - Si  est définie positive, la distribution a une densité de probabilité qui occupe l'espace entier.

    - Si  est d'ordre n mais de rang r < n, la distribution est dégénérée et est entièrement comprise dans un sous-espace de dimension r.

La distribution n'a alors pas de densité de probabilité, mais un changement de repère approprié la fait apparaître comme une densité non dégénérée dans un espace de dimension r.

* Une matrice de covariance empirique est toujours au moins semi-définie positive. Cette remarque est à la base de toutes les techniques d'Analyse de Données reposant sur les variances des projections d'un nuage de point, la plus connue étant l'Analyse en Composantes Principales (ACP).

Propriétés des matrices définies positives

Une matrice (semi-) définie positive possède bien sûr toutes les "bonnes" propriétés des matrices symétriques. Mais son caractère "positif" lui confère de nombreuse propriétés supplémentaires dont nous listons quelques unes sans prétention à l'exhaustivité ou au classement systématique :

    * Une matrice définie positive est régulière et admet donc une inverse, qui est également définie positive.

    * Une matrice symétrique de valeurs propres (₁, ₂ , ... , _n ) est :

        - Semi-définie positive si et seulement si  _i  0 pour tout i.

        - Définie positive si et seulement si  _i > 0 pour tout i.

    * Toute sous-matrice carrée principale d'une matrice définie positive est définie positive. Ce résultat est d'une grande importance dans l'étude de la distribution normale multivariée.

    * Une matrice (semi-)définie positive A admet une unique "racine carrée" symétrique F :

F² = A

qui est également (semi-)définie positive.

Une matrice sdp a de nombreuses racines carrées non symétriques, parmi lesquelles celle obtenue par la factorisation de Cholesky est particulièrement importante.

    * La Décomposition en Valeurs Singulières (SVD) d'une matrice définie positive est identique à sa Décomposition Spectrale. Ce seul fait permettrait de considérer les matrices définies positives comme les plus "régulières" de toutes les matrices.

    * Si A est définie positive de valeurs propres distinctes (₁, ₂ , ... , _n ), alors l'ensemble des points x tels que :

x'A^-1x = 1

est un ellipsoïde dont les axes principaux :

    * Sont portés par les vecteurs propres u_i de A.

    * Et dont les demi-longueurs sont égales à (_i)^-1/2 .

-----

Ce résultat a un parfum de densité multinormale, A étant alors la matrice de covariance de la distribution. Cet ellipsoïde est alors une surface de densité constante.

En Analyse en Composantes Principales, _i est la variance de la projection du nuage des observations sur la Composante Principale définie par u_i.

Cet ellipsoïde est visualisé par les deux animations interactives suivantes :

    * Distribution normale bivariée (voir ici).

    * Matrice de covariance (voir ici).

 ______________________________________________________________ 

 Dans ce Tutoriel, nous démontrons quelques propriétés importantes des matrices (semi-)définies positives. Cette liste n'est pas un catalogue gratuit : chacune de ces propriétés est effectivement utilisée dans le site.

MATRICES DEFINIES POSITIVES

_____________________________________________________

Voir aussi: