Régression linéaire simple

 Cliquez sur un titre pour accéder au Glossaire.

 1

Cliquez sur un numéro pour accéder à la Table des Matières détaillée du Tutoriel

 

 

 

REGRESSION LINEAIRE

 

 

 

 

 

 

Régression linéaire Simple

 

Tutoriels

1

VUE GENERALE :
   Droite des Moindres carrés. Coefficient de détermination.
   Interprétation géométrique. Propriété statistiques des    estimateurs.
   L'hypothèse normale. Distributions, intervalles de confiance
   et tests.
   Points de levier et points influents.

2

Droite des Moindres Carrés (DMC).
   Résidus.
   Cas particulier : pente nulle.

3

Coefficient de détermination, R².
   Somme des Carrés Totale, expliquée, résiduelle.
   Coefficient de détermination et coefficient de corrélation.

4

Espace des variables.
   La Régression Linéaire comme opérateur de projection.
   Interprétation géométrique des valeurs ajustées, des résidus
   et des Sommes de Carrés.

Tutoriels

5

Hypothèses sur les erreurs.
   Propriétés statistiques des estimateurs.

 6

Estimation sans biais de la variance des erreurs.

7

Propriétés statistiques des mesures, résidus et prédictions.

8

Hypothèse de normalité des erreurs.
   Distributions :
      * de la pente et de l'ordonnée à l'origine,
      * de la variance estimée
      * des prédictions.

9

Test de nullité de la pente.
   Test de nullité du R².
   Equivalence des deux tests.

10

Points de levier.
   Résidus standardisés, studentisés. DFFITS, distance de Cook.
   Points influents. DFBeta, rappport de covariance.

 

 

 

 

 

Régression linéaire multiple

 

Tutoriels

1

Hypothèse sur la matrice des données.
   L'espace de variables, représentation géométrique.
   La Régression Linéaire comme projection.
   Estimateur des Moindres Carrés.
   "Hat matrix" et leviers. 

2

Hypothèses sur les erreurs.
   Moyenne et matrice de covariance des paramètres estimés.
   Théorème de Gauss-Markov.

3

Résidus : définition et propriétés géométriques.
   Propriétés statistiques des résidus.
   Propriétés statistiques des valeurs ajustées.
   Covariance des résidus et des valeurs ajustées.
   Propriétés statistiques des erreurs de prédiction.
   Estimation de la variance des erreurs et de la variance des    paramètres.

4

Coefficient de détermination R². Interprétations
   géométriques.
   Sommes des Carrés Totale, Expliquée et Résiduelle.
   R² ajusté :

5

L'hypothèse normale (ou "gaussienne").
   Estimation des paramètres par Maximum de Vraisemblance.
   Distribution des estimateurs (variance connue et inconnue).
   Distribution des erreures de prédiction.

Tutoriels

6

Intervalles de confiance sur les paramètres et sur la variance    estimée.
   Intervalles de confiance sur les prédictions.

7

Test F sur modèles emboîtés.
   Tests F ou de Student sur le paramètre d'une    variable. Equivalence des deux tests.
   Test global de Fisher de signification de la régression ("test du    R²)

8

Définitions de la qualité d'un modèle.
   Données abondantes ou données rares.
   Validation croisée.
   Test sur modèles emboîtés.
   R² ajusté.
   Cp de Mallows.
   Vraisemblance ajustée : AIC, BIC.

9

Sélection de variables comme problème d'optimisation.
    Sélection de variables par :
         * Tests sur modèles emboîtés.
         * Critères de qualité.
    Procédures ascendantes, descendantes, progressives.
    Mises en garde.

 

 

 

 

Régression Ridge

 

Tutoriel

1

Collinéarité.
   Trois définitions équivalentes de la Régression Ridge.
   Propriétés statistiques des estimateurs ridge.
   Choisir la valeur du paramètre ridge.

Tutoriel

2

 Décomposition en Valeurs Singulières.
    Régression Ridge sous forme singulière.
    Régression Ridge et Analyse en Composantes Principales.
    EQM des paramètres.
    Nombre effectif de paramètres.

 

 _________________________________________________________________

  

 

Télécharger les Tutoriels

Accès en ligne aux Tutoriels

Autres Tutoriels