Paramètres (d'un modèle)

Un modèle est le plus souvent matérialisé par une fonction :

• dont la forme mathématique (ou architecture) est fixe, et imposée par la technique de modélisation mise en œuvre,
• mais dont la nature exacte dépend des valeurs affectées à certains paramètres numériques. Ces valeurs sont calculées par la technique de façon à rendre compte au mieux des données.

Par exemple, dans le cas de la régression linéaire :

• L'architecture est un polynôme du premier degré (ç.à.d. une ligne droite).
• Dont les paramètres sont l'Ordonnée à l'Origine et la Pente de la droite de régression.

Paramétrique (Modèle)

Soit un échantillon dont on sait de façon certaine qu'il a été engendré par une distribution normale. Cette distribution peut être facilement estimée : il n'y a qu'à estimer sa moyenne et sa variance (par la méthode du Maximum de Vraisemblance). Il suffit donc de deux nombres pour complètement caractériser la distribution que l'on croit être à l'origine des données. Ces nombres sont les valeurs des deux paramètres du modèle.

Mais il se peut que l'on n'ait aucune idée de la nature de la distribution qui a engendré l'échantillon. Si l'on veut avoir au moins de cette distribution inconnue une représentation graphique approximative, on tracera un histogramme de l'échantillon (image inférieure de l'illustration ci-dessus). Pour pouvoir représenter les grandes lignes de cette distribution, l'histogramme devra avoir au moins un dizaine de cases, plus si l'échantillon le permet. Pour décrire cet histogramme (et donc la densité de probabilité estimée), on a besoin d'autant de valeurs numériques que de cases, soit un nombre beaucoup plus élevé que dans l'exemple précédent.

Pourquoi une telle différence entre ces deux nombres de valeurs numériques, sensées représenter la même chose : une estimation de la densité de probabilité qui a engendré l'échantillon.

La raison est la suivante :

• Dans le premier cas a été formulée une hypothèse très forte sur la nature de cette distribution. Cette hypothèse (normalité) se traduit par une forme analytique définissant une famille restreinte de distributions, dans laquelle il s'agit de trouver celle qui a le plus vraisemblablement engendré les données.
• Dans le deuxième cas, aucune hypothèse n'a été formulée sur la nature de cette distribution. On peut également dire que la famille de distributions dans laquelle doit être identifiée la meilleure distribution candidate contient toutes les distributions possibles et imaginables (tout au moins, celles qui ne prennent pas la valeur 0 sur les observations).

Le premier modèle est dit paramétrique. Ce terme se rapporte au fait que, une fois décidée la forme analytique du modèle (ici, une distribution normale), il n'y a à estimer qu'un petit nombre de paramètres. De plus, ces paramètres s'interprètent en termes de propriétés de la distribution (ici, moyenne et variance).

Le second modèle (histogramme) appartient à la famille des modèles non paramétriques. Cette expression est assez mal choisie, car un modèle non paramétrique contient bien sûr des paramètres (et même parfois en grand nombre pour les modèles "locaux" comme les réseaux RBF). Dans le cas de l'histogramme, ces paramètres sont :

• L'origine des cases (pas très important),  et
• La largeur des cases (très important).

Mais ces paramètres ne sont pas interprétables en termes de propriétés globales de la distribution.
 

Ces modèles sont aussi qualifiés de "ad hoc", ou de "boîtes noires" : ils font ce que l'on attend d'eux, mais les valeurs de leurs coefficients ne donnent pas d'information sur les propriétés de la distribution qu'ils représentent.

___________________________

Les deux exemples précédents venaient de la modélisation descriptive (estimation de densité de probabilité), mais la même distinction entre "paramétrique" et "non paramétrique" existe également en modélisation prédictive.

• Classification
• L'Analyse Discriminante fait explicitement l'hypothèse (très restrictive) selon laquelle les classes ont des distributions multinormales. Les paramètres à estimer sont alors les éléments de leurs matrices de covariance, relativement peu nombreux et facilement interprétables.
• Mais un Perceptron Multicouches, utilisé comme classifieur, a des paramètres ("poids") dont les valeurs n'apportent aucune information sur les formes des frontières entre classes, ou des distributions à l'intérieur des classes.
• Les Arbres de Décision sont non paramétriques, car ils ne font aucune hypothèse sur la distribution des données.
• Régression
• La Régression Linéaire est paramétrique. Le Modèle Linéaire est très contraignant, et les paramètres du modèle (pente, ordonnée à l'origine, variance estimée des erreurs en Régression Linéaire Simple) s'interprètent directement en termes de propriétés de la distribution.
• Mais la régression polynomiale est non paramétrique, car les coefficients du polynôme ne s'interprètent pas en termes de propriétés de la distribution.
  La même remarque s'applique aux splines.
• Les Réseaux de Neurones sont des modèles non paramétriques : il leur est assez reproché de fournir des modèles certes performants, mais non interprétables.

_________________________

Etant donnés un échantillon et un problème, celui-ci doit-il être attaqué par une méthode paramétrique ou non paramétrique ?

• S'il est possible de formuler des hypothèses fortes et raisonnables sur la distribution des données, alors les méthodes paramétriques ont la priorité :
• L'ajustement du modèle est simple.
• L'interprétation des paramètres du modèle a une grande valeur pour l'homme de métier.
• Des tests et intervalles de confiance sur les valeurs des paramètres du modèle sont disponibles.
• La quantité d'information apportée par les hypothèses sur la distribution des données est si grande que l'estimation des paramètres se satisfera d'un échantillon de taille modeste.

• Mais les distributions de la vie réelle ne coïncident pas souvent avec celles ayant de bonnes propriétés mathématiques. Si aucune hypothèse ne peut être formulée sur la distribution ayant engendré les données, ou si l'échantillon échoue aux tests portant sur la distribution supposée des données (p.ex. test de normalité) les modèles non paramétriques offrent une solution de rechange très utile. Mais :
• Les valeurs des paramètres ne seront alors pas interprétables.
• Les tests et intervalles de confiance sur les valeurs des paramètres du modèle sont perdus.
• La grande quantité d'information disponible en modélisation paramétrique fait maintenant défaut. Afin d'obtenir le même niveau de performances qu'avec un modèle paramétrique (dans le cas où celui-ci serait justifié), cette information manquante doit être remplacée par de l'information venant d'ailleurs, c'est à dire des données. A performances égales, un modèle non paramétrique exigera donc des échantillons plus grands qu'un modèle paramétrique (justifié). De façon  équivalente, pour un échantillon de taille donnée, un modèle non paramétrique sera moins performant qu'un modèle paramétrique justifié.
  Pour plus d'information sur la notion de "performances d'un modèle", voir le "compromis biais-variance".

Paramétrique  (Test)

Un test est dit paramétrique s'il porte sur les valeurs d'un ou de quelques paramètres d'une distribution. Voici deux exemples :

    1) Soit {x₁, x₂, ..., x_n} un jeu de valeurs numériques dont on sait qu'il est issu d'une distribution normale. Le test-t "à un échantillon" mesurera la vraisemblance de l'hypothèse selon laquelle la moyenne de cette distribution normale a une valeur donnée m₀.

Ce test fait partie de la famille des tests dits "d'adéquation", car il mesure la vraisemblance de l'hypothèse selon laquelle une loi donnée a généré l'échantillon.

    2) Soient {x₁, x₂, ..., x_n} et {y₁, y₂, ..., y_m} deux jeux de valeurs numériques dont on sait qu'ils sont tous les deux issus de lois normales. La question est de savoir si ces deux lois ont même variance. Le "test F de Fisher" mesurera la vraisemblance de l'hypothèse selon laquelle ces deux lois ont bien des variances identiques.

Ce test fait partie de la famille des test dits "d'identité", car il mesure la vraisemblance de l'hypothèse selon laquelle deux paramètres de deux lois (ou les lois elles-mêmes) sont égaux.

Mais beaucoup de questions ne se formulent pas en de tels termes. Voici trois exemples :

    1) Soient V₁ et V₂ deux variables nominales. On  formule l'hypothèse selon laquelle ces deux variables sont indépendantes. Cette question est abordée par le "Test du Chi-2 d'indépendance".

    2) Soit {x₁, x₂, ..., x_n}un échantillon numérique, et une distribution de probabilité "de référence" quelconque. La question est de savoir s'il est vraisemblable que cet échantillon a été généré par cette distribution. Plusieurs tests d'adéquation abordent cette question, dont le test de Kolmogorov, ou le test du Chi-2 d'adéquation.

    3) Soient {x₁, x₂, ..., x_m} et {x₁, x₂, ..., x_n} deux échantillons numériques. Ont-ils été tirés de la même population (sur laquelle on ne formule aucune hypothèse)? Cette question est abordée par le test de Wilcoxon-Mann-Whitney.

Ces derniers exemples ne font pas référence aux valeurs de paramètres d'une distribution particulière, et sont donc des tests non paramétriques.

__________________

Une même question peut fréquemment être abordée soit par un test paramétrique, soit par un test non paramétrique. Que choisir ? Il n'y a pas de règle absolue, mais voici deux considérations à garder présentes à l'esprit :

    * Les tests non paramétriques ont l'avantage de ne pas faire appel à des hypothèses très restrictives sur la nature des distributions considérées (p. ex., normalité). Ces hypothèses sont rarement satisfaites dans la pratique.

    * Mais cette robustesse a un prix : un test non paramétrique a besoin de situations plus "extrêmes" qu'un test paramétrique pour rejeter une hypothèse, lorsque l'emploi du test paramétrique est justifié.