Convergence  (presque sure)

La convergence presque sure d'une suite infinie {Xn} de variables aléatoires est le nec plus ultra de la convergence. Aucun autre type de convergence ne s'approche d'aussi près de la notion de convergence d'une suite de nombres réels au sens traditionnel de l'Analyse.

Convergence d'une suite de nombres

Il a fallu aux mathématiciens de longs efforts pour arriver à dégager la notion de limite d'une suite. La définition standard est aujourd'hui :

 

    La suite de nombres réels {x1, x2,  ... } est dite converger vers la limite "l" si :

        * Pour tout e, aussi petit soit-il,

        * Il existe un rang N tel que pout tout n > N,  | xn - l | < e.

 

 

En d'autres termes, l est la limite (unique) de la suite si, pour tout segment recouvrant l, tous les termes de la suite au-delà d'un certain rang sont à l'intérieur de ce segment.

 

Une conséquence de cette définition est que pour tout segment recouvrant l, il n'y a qu'un nombre fini de termes de la suite en dehors de ce segment.

-----

Nous voudrions étendre cette définition aux variables aléatoires, et donner un sens non ambigu à la notion plus ou moins intuitive de "convergence d'une suite {Xn} de v.a. vers une limite l ".

Convergence presque sure vers une constante

Une tentative prématurée

L'idée la plus naturelle est de transposer la définition d'une suite convergente de nombres à la suite des réalisations des v.a. Xn. Ainsi, une première tentative de définition pourrait être quelque chose comme :

La suite {Xn} de v.a. converge vers la limite l si toute suite de réalisations des v.a. Xn est une suite de nombres convergeant vers l.

 

Mais cette définition ne peut convenir. A l'exception de quelques cas presque triviaux (pouvez-vous en imaginer quelques uns ?), il n'est pas possible de garantir que pour tout e, il n'y aura qu'un nombre fini de réalisations en dehors du segment [l - e, le]  en raison du caractère aléatoire des Xn.

Probabilité 0

Nous devons donc réviser notre première définition de façon à prendre en compte le caractère aléatoire des Xn de façon plus approfondie. Nous accepterons donc la possibilité que la suite des réalisations des Xn ne converge pas vers l, mais en imposant que ce type d'évènement soit aussi rare que possible. Ce que cela signifie est que, aussi petite que soit la probabilité a, nous voulons que l'évènement "La suite des réalisations ne converge pas vers l " se produise avec une fréquence inférieure à (a.100)% .

 

Un tel évènement est dit se produire avec la probabilité 0. Ceci ne veut pas dire qu'il est impossible, mais simplement qu'il se produit tellement rarement qu'il n'est pas possible de lui affecter une probabilité non nulle.

Les évènements possibles mais de probabilité nulle ne sont pas aussi étranges qu'il peut paraître. Considérons une suite infinie quelconque de 0 et de 1 :

0100110001011010011..........

 

Lançons maintenant une pièce jusqu'à la fin des temps, et demandons-nous s'il est possible que la suite de ces lancers reproduise la séquence de 0 et de 1. Clairement :

    * Il n'est pas impossible de reproduire la séquence : chaque nouveau lancer va générer un 0 ou un 1, et donc générer le bit "correct" avec la probabilité 0,5. Il est donc possible que tous les bits de la séquence soient reproduits correctement.

    * Mais il n'est pas possible d'affecter une probabilité non nulle à l'évènement : "Tous les bits de la séquence ont été correctement reproduits par la suite infinie des lancers".

 

Ainsi, toute séquence infinie de 0 et de 1 sera reproduite avec la probabilité 0.

 

Pour nous rapprocher d'un domaine plus familier, c'est la situation que rencontre la distribution géométrique. Nous nous sommes posés la question de savoir combien de lancers étaient nécessaires pour voir apparaître le premier Pile, mais nous avions négligé le fait qu'il est possible que Pile n'apparaisse jamais, bien que cet évènement soit de probabilité nulle.

Evènement "presque sûr"

Le complémentaire d'un évènement de probabilité nulle est un évènement dit "presque sûr", ou se produisant "en probabilité 1". Nous illustrons ce concept avec un exemple un peu moins simple que le précédent, et plus en rapport avec l'Axiomatisation de la Théorie des Probabilités (non abordée dans ce Glossaire).

Soit U[0, 1] la distribution uniforme sur [0, 1]. Nous allons montrer que si l'on tire une observation x de cette distribution, alors x est presque sûrement un nombre irrationnel.

-----

Considérons le segment S = [0, 1], et un intervalle s = ] a, b [ inclus dans S. La longueur de s est l = b - a.

Tirons une observation x de la distribution uniforme U[0, 1]. La probabilité pour que x soit dans s est égale à l.

Pour tout ensemble E de valeurs inclus dans s, on a clairement :

P{x dans E} l

-----

Par ailleurs, pour tout ensemble dénombrable d'évènements Ai de probabilités respectives Pi telles que S iPi < + 4  , on a :

P{Au moins un des Ai se produit} Si Pi

l'égalité ne se produisant que si les Ai sont indépendants.

-----

Considérons maintenant Q l'ensemble des rationnels dans [0, 1]. Cet ensemble est dénombrable, et on peut donc numéroter tous les nombres rationnels dans [0, 1] sans omission ni répétition:

Q = {q1, q2, .....}

Soit maintenant e un nombre réel positif. Recouvrons le rationnel qi par un intervalle si de longueur li :

Notons que la somme des longueurs de ces intervalles est :

 

 

La probabilité pour que l'observation x tirée de U[0, 1] tombe dans au moins un des si est donc inférieure à e, et il en est a fortiori de même de la probabilité pour que x soit un nombre rationnel, puisque tout rationnel est enfermé dans au moins un des si.

Comme e peut être rendu arbitrairement petit, on voit que la probabilité pour que x soit un nombre rationnel est inférieure à n'importe quelle valeur non nulle e. L'évènement "x est rationnel" est donc un évènement de probabilité nulle :

Ainsi, x est presque surement un nombre irrationnel.

 

Ce résultat simple n'est pourtant pas toujours perçu comme évident par le néophyte. Entre deux points quelconques du segment [0, 1], il y a en effet une infinité de nombres rationnels (Q est dit "dense") et pourtant, atteindre un de ces rationnels en "tirant au hasard" tient du miracle (probabilité 0). Ceci est une conséquence du fait que les points de Q peuvent être enfermés dans des intervalles de longueur totale aussi petite que l'on veut : Q est dit être "de mesure nulle".


Tout ensemble dénombrable de points est de mesure nulle. Mais rappelons qu'il existe des ensembles de mesure nulle ayant la puissance du continu, et donc aussi "peuplés" que l'ensemble des nombres réels.

Convergence presque sure

Nous pouvons maintenant revenir à la définition de la convergence d'une suite de variables aléatoires.

Une suite {Xn} de v.a. est dite converger presque surement (ou en probabilité 1) vers le nombre l

si la convergence des réalisations des Xn vers l est un évènement de probabilité 1.

 

Cette idée est exprimée par la définition suivante de la convergence presque sure d'une suite {Xn} de v.a. vers un nombre l :

 

 

P{lim Xn = l} = 1

 

Loi Forte des Grands Nombres

Nous avons établi la Loi Faibles des Grands Nombres qui, en termes informels, énonce que que lorsque l'on considère des échantillons de plus en plus grands, la moyenne empirique (qui est une v.a.) converge vers la moyenne de la distribution. Le terme "Faible" fait référence au type de convergence que nous avons démontré (convergence "en probabilité"), et qui est plus "faible" que la convergence presque sure décrite dans cette section (voir ci-dessous).

Il existe une Loi Forte des Grands Nombres qui énonce que notre petite démonstration est passée à côté d'un point très important : la convergence de la moyenne empirique est en fait presque sure.

 

La Loi Forte des Grands Nombres s'énonce donc ainsi :

    * Soit {Xn} une suite de v.a. indépendantes et indentiquement distribuées (l'existence de la variance n'est pas requise).

    * Alors la suite de v.a. {Xn} définies par :

 

converge presque surement vers la moyenne commune µ des Xn.

 

 

 

 

La convergence presque sure est un phénomène courant, mais le plus souvent très difficile à démontrer. La Loi Forte des Grands Nombres, bien que d'expression simple, ne fait pas exception à la règle, et nous l'énonçons sans démonstration.

Loi Forte des Grands Nombres et le jeu de Pile ou Face

Le jeu de Pile ou Face nous a été utile pour illustrer la Loi Faible de Grands Nombres, et il va l'être à nouveau pour illustrer la version "Forte" de cette Loi.

-----

Notons W l'ensemble de toutes les suites infinies de 0 et de 1. Chacune de ces suites peut représenter le résultat d'une séquence infinie de lancers d'une pièce de monnaie, que nous supposerons honnête. Soit w une de ces séquences, et notons  le nombre moyen de Piles par lancer dans les n premiers lancers :

mn = 1/n.Nombre de Piles dans les n premiers lancers

 

De deux choses l'une :

    * Ou bien mn tend vers 1/2 quand n tend vers l'infini,

    * Ou bien mn ne tend vers aucune limite (pouvez-vous imaginer une telle suite ?), ou alors vers une limite autre que 1/2.

Notons A l'ensemble des séquences pour lesquelles mn tend vers 1/2, et Ac son complémentaire (l'ensemble des suites "anormales").

 

La Loi Forte des Grands Nombres dit alors que si une pièce est lancée une infinité de fois, la séquence de Piles et de Faces ainsi produite sera dans A avec la probabilité 1 (et donc dans Ac avec la probabilité 0).

 

Nous avons mentionné précédemment que toute séquence infinie de Piles et de Faces, bien que possible, était atteinte avec la probabilité 0. Mais l'affirmation que nous venons d'énoncer est bien plus forte que celà : il y a une infinité de séquences "anormales", et la Loi Forte des Grands Nombres dit qu'obtenir l'une quelconque de ces séquences est un évènement de probabilité nulle.

Ce résultat est à rapprocher de celui relatif aux nombres rationnels : non seulement atteindre un nombre rationnel donné est un évènement de probabilité nulle, mais atteindre un rationnel quelconque est un évènement de probabilité nulle.

-----

Nous avions remarqué que la Loi Faible des Grands Nombres n'exigeait pas de considérer des séquences infinies de lancers. L'exemple du jeu de Pile ou Face nous montre que l'objet même de la Loi Forte des Grands Nombres est l'ensemble des séquences infinies de lancers.

Convergence presque sure vers une v.a.

Nous n'avons jusqu'ici considéré que la convergence presque sure vers un nombre l. La définition se généralise aisément à la convergence d'une suite {Xn} de v.a. non pas vers un nombre, mais vers une variable aléatoire X.

{Xn} est dite converger presque surement vers X si la suite {| Xn - X |} converge presque surement vers 0.

 

ce qui est habituellement traduit par l'expression :

 

 

P{lim Xn = X} = 1

 

ou, de façon équivalente :

 

P{lim(| Xn - X |) = 0 } = 1

Quelques résultats sur la convergence presque sure

Aborder le monde de la convergence presque sure représente un "saut quantique" en difficulté par rapport à l'esprit de ce Glossaire. Nous ne mentionnerons donc que quelques résultats, sans même en esquisser les démonstrations.

La convergence presque sure est la plus forte

Aucun type de convergence n'est plus fort que la convergence presque sure. En particulier, la convergence presque sure implique :

    * La convergence en probabilité (celle de la Loi Faible des Grands Nombres).

    * La convergence en loi (celle du Théorème Central Limite), qui est de toutes façons impliquée par la convergence en probabilité.

Convergence presque sure et convergence en probabilité

Le résultat suivant éclaire quelque peu le rapport entre convergence presque sure et convergence en probabilité.

    * Si la suite{Xn} de v.a. converge en probabilité vers la variable X,

    * Alors on peut en extraire une suite qui converge presque surement vers X.

Critères de convergence presque sure

Comme nous l'avons mentionné, démontrer une convergence presque sure est toujours difficile. La définition n'est en général que de peu de secours, mais il existe un certain nombre de critères de convergence presque sure. Voici les plus communs.

La suite {Xi} de v.a. converge presque surement vers la v.a. X si et seulement si :

    * Aussi petit soit e,

    * Il existe un rang N tel que, pour tout n > N :

P{ |Xn - X |} < e]  > 1 - e 

Si, aussi petit que soit e, on a :

 

alors la suite {Xn} converge presque surement vers X.

{Xn} converge presque surement vers X si et seulement si, aussi petit que soit  e, on a:

P{lim sup( | Xn - X | > e )} = 0

  

____________________________________________________________

 

Voir aussi:

Loi Faible des Grands Nombres

Téléchargez ce Glossaire