Article de reference

Espérance conditionnelle

En théorie des probabilités , l' espérance conditionnelle d' une variable aléatoire est son espérance calculée par rapport à sa loi de probabilité conditionnelle . Si la variabl...

théorie des probabilités , l' espérance conditionnelle d' une variable aléatoire est son espérance calculée par rapport à sa loi de probabilité conditionnelle . Si la variable aléatoire ne peut prendre qu'un nombre fini de valeurs, les « conditions » stipulent qu'elle ne peut prendre qu'un sous-ensemble de ces valeurs. Plus formellement, lorsque la variable aléatoire est définie sur un espace probabilisé discret , les « conditions » correspondent à une partition de cet espace.

Selon le contexte, l'espérance conditionnelle peut être soit une variable aléatoire, soit une fonction. La variable aléatoire est notée de manière analogue à la probabilité conditionnelle . La forme fonctionnelle est soit notée , soit un symbole de fonction distinct, tel que , est introduit avec la signification .

123456UN010101B011010

L'espérance inconditionnelle de A est , mais l'espérance de A conditionnellement à B = 1 (c'est-à-dire conditionnellement au résultat du lancer de dé : 2, 3 ou 5) est , et l'espérance de A conditionnellement à B = 0 (c'est-à-dire conditionnellement au résultat du lancer de dé : 1, 4 ou 6) est . De même, l'espérance de B conditionnellement à A = 1 est , et l'espérance de B conditionnellement à A = 0 est .

Exemple 2 : Données pluviométriques

Supposons que nous disposions de données de précipitations quotidiennes (en mm) collectées par une station météorologique pour chaque jour de la période de dix ans (3 652 jours) allant du 1er janvier 1990 au 31 décembre 1999. L’espérance de précipitations inconditionnelle pour une date non spécifiée correspond à la moyenne des précipitations enregistrées durant ces 3 652 jours. L’ espérance de précipitations conditionnelle pour une date non spécifiée, sachant qu’elle se situe au mois de mars, correspond à la moyenne des précipitations quotidiennes enregistrées durant les 310 jours de mars de la période de dix ans. De même, l’espérance de précipitations conditionnelle pour les jours datés du 2 mars correspond à la moyenne des précipitations enregistrées durant les dix jours portant ce numéro.

Histoire

Le concept connexe de probabilité conditionnelle remonte au moins à Laplace , qui a calculé les distributions conditionnelles. C’est Andreï Kolmogorov qui, en 1933, l’a formalisé à l’aide du théorème de Radon-Nikodym . Dans les travaux de Paul Halmos et Joseph L. Doob à partir de 1953, l’espérance conditionnelle a été généralisée à sa définition moderne utilisant les sous- σ -algèbres .

Définitions

Conditionnement à un événement

Si variable aléatoire discrète , l'espérance conditionnelle de

où la somme est prise sur tous les résultats possibles de division par zéro .

Variables aléatoires discrètes

Si des variables aléatoires discrètes , l'espérance conditionnelle de

où est la fonction de masse de probabilité conjointe de

Conditionner par rapport à une variable aléatoire discrète revient à conditionner par rapport à l'événement correspondant :

variables aléatoires continues

Soient et deux variables aléatoires continues de densité conjointe et de densité conditionnelle sachant l' événement . L'espérance conditionnelle de sachant est

Lorsque le dénominateur est nul, l'expression n'est pas définie.

Conditionner une variable aléatoire continue ne revient pas à conditionner l'événement comme dans le cas discret. Pour plus de détails, voir Conditionner un événement de probabilité nulle . Ignorer cette distinction peut mener à des conclusions contradictoires, comme l'illustre le paradoxe de Borel-Kolmogorov .

L 2 variables aléatoires

Dans cette section, toutes les variables aléatoires sont supposées appartenir à , c'est-à-dire de carré intégrable . Dans sa forme la plus générale, l'espérance conditionnelle est développée sans cette hypothèse (voir ci-dessous « Espérance conditionnelle par rapport à une sous- σ -algèbre » ). Cette théorie est cependant considérée comme plus intuitive et admet d'importantes généralisations . Dans le contexte des variables aléatoires, l'espérance conditionnelle est également appelée régression .

Soit un espace de probabilité, et un espace de probabilité de moyenne et de variance . L'espérance minimise l' erreur quadratique moyenne :

L'espérance conditionnelle de vecteur aléatoire . L'espérance conditionnelle est une fonction mesurable telle que

Notez que, contrairement à , l'espérance conditionnelle n'est généralement pas unique : il peut exister plusieurs minimiseurs de l'erreur quadratique moyenne.

Unicité

Exemple 1 : Considérons le cas où

Exemple 2 : Considérons le cas où

Mais en termes de fonctions, cela peut s'exprimer de plusieurs manières. Dans le contexte de la régression linéaire , ce manque d'unicité est appelé multicolinéarité .

L'espérance conditionnelle est unique à un ensemble de mesure nulle près dans . La mesure utilisée est la mesure d'intégration induite par

Existence

L'existence d'un minimiseur pour n'est pas triviale. On peut démontrer que

est un sous-espace fermé de l'espace de Hilbert . D'après le théorème de projection de Hilbert , la condition nécessaire et suffisante pour que soit un minimiseur est que pour tout dans

En d'autres termes, cette équation signifie que le résidu est orthogonal à l'espace fonctions indicatrices , est utilisée ci-dessous pour étendre l'espérance conditionnelle au cas où

Liens avec la régression

L'espérance conditionnelle est souvent approchée en mathématiques appliquées et en statistique en raison des difficultés à la calculer analytiquement, et pour l'interpolation.

Le sous-espace de Hilbert

La fonction définie ci-dessus est remplacée par des sous-ensembles de celle-ci en restreignant sa forme fonctionnelle la régression par arbre de décision lorsque fonction simple , la régression linéaire lorsque affine , etc.

Ces généralisations de l'espérance conditionnelle ont pour conséquence la perte de nombreuses propriétés . Par exemple, soit fonctions constantes , la propriété de la tour ne sera pas vérifiée.

Un cas particulier important est celui où

pour les coefficients décrits dans Distribution normale multivariée#Distributions conditionnelles .

Espérance conditionnelle par rapport à une sous- σ -algèbre

Espérance conditionnelle par rapport à une σ -algèbre : dans cet exemple , l’espace de probabilité est l’intervalle [0,1] muni de la mesure de Lebesgue . On définit les σ -algèbres suivantes : ; est la σ -algèbre engendrée par les intervalles d’extrémités 0, 1/4, 1/2, 3/4, 1 ; et est la σ-algèbre engendrée par les intervalles d’extrémités 0, 1/2 , 1. Ici , l’ espérance conditionnelle correspond à la moyenne sur les ensembles minimaux de la σ - algèbre .

Définition générale

De manière tout à fait générale, considérons :

L' espérance conditionnelle de sachant est la variable aléatoire -mesurable à valeurs dans -à un ensemble nul près, unique et intégrable, satisfaisant

pour tous .

Dans ce contexte, l'espérance conditionnelle est parfois également notée en notation d'opérateur comme .

Propriétés de base

Toutes les formules suivantes doivent être comprises dans un sens quasi certain.

  • Extraction des facteurs indépendants :
    • Si est indépendant de , alors . Notez que ce n'est pas nécessairement le cas si est seulement indépendant de et de .
    • Si sont indépendants, sont indépendants, est indépendant de et est indépendant de , alors .
  • Stabilité:
    • Si est -mesurable, alors .