Les vecteurs aléatoires sont souvent utilisés comme implémentation sous-jacente de divers types de variables aléatoires agrégées , par exemple une matrice aléatoire , un arbre aléatoire , une séquence aléatoire , un processus stochastique , etc.
Formellement, une variable aléatoire multivariée est un vecteur colonne (ou sa transposée , qui est un vecteur ligne ) dont les composantes sont des variables aléatoires sur l' espace de probabilité , où est l' espace d'échantillonnage , est la sigma-algèbre (l'ensemble de tous les événements) et est la mesure de probabilité (une fonction renvoyant la probabilité de chaque événement ).
algèbre de Borel étant la sigma-algèbre sous-jacente. Cette mesure est également appelée distribution de probabilité conjointe , distribution conjointe ou distribution multivariée du vecteur aléatoire.Opérations sur les vecteurs aléatoires
Les vecteurs aléatoires peuvent être soumis aux mêmes types d' opérations algébriques que les vecteurs non aléatoires : addition, soustraction, multiplication par un scalaire et calcul de produits scalaires .
transformations affines
De même, un nouveau vecteur aléatoire peut être défini en appliquant une transformation affine à un vecteur aléatoire :
Si est une matrice inversible et a une fonction de densité de probabilité , alors la densité de probabilité de est
Applications inversibles
Plus généralement, nous pouvons étudier les applications inversibles de vecteurs aléatoires.
Soit une application bijective d'un ouvert de sur un sous-ensemble de , soit une application dont les dérivées partielles sont continues sur et soit le déterminant jacobien de nul en aucun point de . Supposons que le vecteur aléatoire réel ait une fonction de densité de probabilité et satisfasse . Alors est de densité de probabilité .
où désigne la fonction indicatrice et l'ensemble désigne le support de .
Valeur attendue
L' espérance ou la moyenne d'un vecteur aléatoire est un vecteur fixe dont les éléments sont les espérances des variables aléatoires respectives.
Covariance et covariance croisée
Définitions
La matrice de covariance (également appelée matrice de moment centré d'ordre deux ou matrice de variance-covariance) d'un vecteur aléatoire est une matrice dont l' élément ( i,j ) représente la covariance entre les i- ème et j -ème variables aléatoires. La matrice de covariance est l'espérance, élément par élément, de la matrice calculée comme suit : , où l'exposant T désigne la transposée du vecteur indiqué :
Par extension, la matrice de covariance croisée entre deux vecteurs aléatoires et ( ayant des éléments et ayant des éléments) est la matrice
où, là encore, l'espérance matricielle est calculée élément par élément dans la matrice. Ici, l' élément ( i,j ) représente la covariance entre le i -ème élément de et le j -ème élément de .
Propriétés
La matrice de covariance est une matrice symétrique , c'est-à-dire
La matrice de covariance est une matrice semi-définie positive , c'est-à -dire
La matrice de covariance croisée est simplement la transposée de la matrice , c'est-à-dire
non-corrélation
Deux vecteurs aléatoires et sont dits non corrélés si
Elles sont non corrélées si et seulement si leur matrice de covariance croisée est nulle.
Corrélation et corrélation croisée
Définitions
La matrice de corrélation (ou moment d'ordre deux ) d'un vecteur aléatoire est une matrice dont l' élément ( i,j ) représente la corrélation entre les variables aléatoires i et j . Cette matrice est l'espérance, élément par élément, de la matrice calculée comme suit : , où l'exposant T désigne la transposée du vecteur indiqué :
Par extension, la matrice de corrélation croisée entre deux vecteurs aléatoires et ( ayant éléments et ayant éléments) est la matrice
Propriétés
La matrice de corrélation est liée à la matrice de covariance par
De même pour la matrice de corrélation croisée et la matrice de covariance croisée :
Orthogonalité
Deux vecteurs aléatoires de même taille sont dits orthogonaux si
Indépendance
Fonction caractéristique
La fonction caractéristique d'un vecteur aléatoire à composantes est une fonction qui associe à chaque vecteur un nombre complexe . Elle est définie par
Autres propriétés
Espérance d'une forme quadratique
On peut calculer l'espérance d'une forme quadratique dans le vecteur aléatoire comme suit :
où est la matrice de covariance de et désigne la trace d'une matrice, c'est-à-dire la somme des éléments de sa diagonale principale (de haut à gauche vers bas à droite). Puisque la forme quadratique est un scalaire, son espérance l'est également.
Démonstration : Soit un vecteur aléatoire avec et et soit une matrice non stochastique.
Ensuite, d'après la formule de la covariance, si l'on note et , on constate que :
Ainsi
ce qui nous laisse le soin de montrer que
Ceci est vrai car on peut permuter cycliquement les matrices lors de la prise d'une trace sans modifier le résultat (par exemple : ).
Nous constatons que
Et puisque
est un scalaire , alors
trivialement. En utilisant la permutation, on obtient :
et en intégrant cela dans la formule originale, on obtient :
Espérance du produit de deux formes quadratiques différentes
On peut calculer l'espérance du produit de deux formes quadratiques différentes dans un vecteur aléatoire gaussien de moyenne nulle comme suit :
où est à nouveau la matrice de covariance de . De même, puisque les deux formes quadratiques sont des scalaires et que leur produit est donc un scalaire, l'espérance de leur produit est également un scalaire.
Applications
théorie du portefeuille
En théorie du portefeuille en finance , un objectif fréquent est de choisir un portefeuille d'actifs risqués dont la distribution des rendements aléatoires présente des propriétés souhaitables. Par exemple, on peut souhaiter choisir le portefeuille dont le rendement a la variance la plus faible pour une espérance donnée. Ici, le vecteur aléatoire représente les rendements aléatoires des actifs individuels, et le rendement du portefeuille p (un scalaire aléatoire) est le produit scalaire de ce vecteur de rendements aléatoires avec un vecteur w de pondérations – les fractions du portefeuille investies dans chaque actif. Puisque p = wᵀ , l'espérance du rendement du portefeuille est wᵀE ( ) et sa variance peut être exprimée par wᵀCw , où C est la matrice de covariance .
théorie de la régression
En théorie de la régression linéaire , nous disposons de n observations pour une variable dépendante y et de n observations pour chacune des k variables indépendantes x<sub> j</sub> . Les observations de la variable dépendante sont regroupées dans un vecteur colonne y ; les observations de chaque variable indépendante sont également regroupées dans des vecteurs colonnes, et ces derniers sont combinés en une matrice de conception X (qui ne désigne pas ici un vecteur aléatoire) des observations des variables indépendantes. L’équation de régression suivante est alors postulée pour décrire le processus ayant généré les données :
où β est un vecteur postulé fixe mais inconnu de k coefficients de réponse, et e est un vecteur aléatoire inconnu reflétant les influences aléatoires sur la variable dépendante. Par une technique choisie telle que les moindres carrés ordinaires , un vecteur est sélectionné comme estimateur de β, et l'estimateur du vecteur e , noté , est calculé comme
Le statisticien doit ensuite analyser les propriétés de et , qui sont considérés comme des vecteurs aléatoires, car une sélection aléatoire différente de n cas à observer aurait donné des valeurs différentes pour eux.
Séries temporelles vectorielles
L'évolution d'un vecteur aléatoire k × 1 au fil du temps peut être modélisée comme un modèle autorégressif vectoriel (VAR) comme suit :
où l'observation du vecteur des i périodes en arrière est appelée le i -ème décalage de , c est un vecteur k × 1 de constantes ( ordonnées à l'origine ), A i est une matrice k × k invariante dans le temps et est un vecteur aléatoire k × 1 de termes d'erreur .