FORMATION "RESEAUX DE NEURONES SUPERVISES"

  Les Réseaux de neurones supervisés sont les meilleurs régresseurs connus à ce jour, grâce à leur capacité à approcher une fonction de régression de forme quelconque. Bien sûr, cette propriété se traduit également par des performances exceptionnelles en classification.
 

 Pendant des années, le manque de méthodologie adaptée a conduit les utilisateurs occasionnels à des résultats décevants, et l'image des Réseaux de neurones en a souffert. Mais aujourd'hui, les Réseaux de neurones sont sûrs, et ne déçoivent jamais leurs utilisateurs expérimentés. Depuis peu, tous les logiciels importants de Data Mining offrent des Réseaux de neurones supervisés, ce qui est un gage de leur fiabilité. Mais pour être maîtrisée, cette puissance exige de la part de l'utilisateur une assez bonne compétence.
 

Ces formations de 1, 2 ou 3 jours (voir contenu plus bas) amènent le stagiaire au niveau de connaissances lui permettant d'exploiter en toute sécurité  la puissance des Réseaux de neurones supervisé les plus courants.

 Plan de la formation

Principes de base

Notion d'approximation universelle

Approximation universelle et régression

Régression et classification probabiliste

Le Perceptron Multi-couches  (PMC)          

Le neurone "standard"

La fonction de transfert

Rôle des poids : raideur, orientation

Rôle particulier du biais

Architecture et propriétés du PMC

Rôle de la couche cachée

Combien de neurones dans la couche cachée ?

Classification : couche de sortie et probabilités a posteriori

PMC et approximation parcimonieuse

L'apprentissage du PMC

Choisir une fonction d'erreur : cas particulier de la classification

L'initialisation

Descente et minima locaux

Algorithmes du premier ordre

Algorithmes du second ordre : Levenberg-Marquardt, Quasi-Newton, Gradients Conjugués

Surparamétrisation, surapprentissage, ensemble de validation

Les Réseaux RBF                                               

Notion de zone d'influence

Les fonctions radiales de base

Architecture et propriétés des réseaux RBF

Apprentissage des Réseaux RBF

Méthodes de descente

Heuristiques

Comparaison du PMC et des réseaux RBF

Apprentissage

Pouvoir de généralisation

Méthodologie d'utilisation des Réseaux de neurones (supervisés)

Quand utiliser les Réseaux de neurones ?

Comparaison des Réseaux de neurones avec les autres techniques de régression (Régression linéaire, Régression Linéaire Multiple) et de classification (Analyse Discriminante, Régression Logistique, Arbres de Décision).

Comment estimer les performances d'un Réseau de neurones ?

Validation, validation multiple

Méthodes de ré-échantillonnage : validation croisée, "leave-one-out", bootstrap

Leviers et intervalles de confiance. "Leave-one-out" simulé

Comment améliorer les performances d'un Réseau de neurones ?

Choix des variables, dimensionalité

Optimisation de la couche cachée

Apprentissage interrompu, régularisation, élagage

Coopération de réseaux en classification et en régression