Modèle linéaire général

Le modèle linéaire général ou modèle général de régression multivariée est une manière compacte d'écrire simultanément plusieurs modèles de régression linéaire multiple . En ce sens, il ne s'agit pas d'un modèle linéaire statistique distinct . Les différents modèles de régression linéaire multiple peuvent être écrits de manière compacte comme

où Y est une matrice avec une série de mesures multivariées (chaque colonne étant un ensemble de mesures sur l'une des variables dépendantes ), X est une matrice d'observations sur des variables indépendantes qui pourrait être une matrice de conception (chaque colonne étant un ensemble d'observations sur l'une des variables indépendantes), B est une matrice contenant des paramètres qui doivent généralement être estimés et U est une matrice contenant des erreurs (bruit). Les erreurs sont généralement supposées être décorrélées entre les mesures et suivent une distribution normale multivariée . Si les erreurs ne suivent pas une distribution normale multivariée, des modèles linéaires généralisés peuvent être utilisés pour assouplir les hypothèses sur Y et U.

Le modèle linéaire général intègre un certain nombre de modèles statistiques différents : ANOVA , ANCOVA , MANOVA , MANCOVA , régression linéaire ordinaire , test t et test F. Le modèle linéaire général est une généralisation de la régression linéaire multiple au cas de plusieurs variables dépendantes. Si Y , B et U étaient des vecteurs colonnes , l'équation matricielle ci-dessus représenterait une régression linéaire multiple.

Les tests d'hypothèses avec le modèle linéaire général peuvent être réalisés de deux manières : multivariés ou sous forme de plusieurs tests univariés indépendants . Dans les tests multivariés, les colonnes de Y sont testées ensemble, tandis que dans les tests univariés, les colonnes de Y sont testées indépendamment, c'est-à-dire sous forme de plusieurs tests univariés avec la même matrice de conception.

La régression linéaire multiple est une généralisation de la régression linéaire simple au cas de plusieurs variables indépendantes et un cas particulier de modèles linéaires généraux, limité à une seule variable dépendante. Le modèle de base de la régression linéaire multiple est

pour chaque observation i = 1, ... , n .

Dans la formule ci-dessus, nous considérons n observations d'une variable dépendante et p variables indépendantes. Ainsi, Y _i est la i- ^ième observation de la variable dépendante, X _ik est la k ^-ième observation de la k ^-ième variable indépendante, j = 1, 2, ..., p . Les valeurs β _j représentent les paramètres à estimer et ε _i est la i- ^ième erreur normale indépendante identiquement distribuée.

Dans la régression linéaire multivariée plus générale, il existe une équation de la forme ci-dessus pour chacune des m > 1 variables dépendantes qui partagent le même ensemble de variables explicatives et sont donc estimées simultanément les unes avec les autres :

pour toutes les observations indexées comme i = 1, ... , n et pour toutes les variables dépendantes indexées comme j = 1, ... , m .

Notez que, puisque chaque variable dépendante possède son propre ensemble de paramètres de régression à ajuster, d'un point de vue informatique, la régression multivariée générale est simplement une séquence de régressions linéaires multiples standard utilisant les mêmes variables explicatives.

Le modèle linéaire général et le modèle linéaire généralisé (GLM) sont deux familles de méthodes statistiques couramment utilisées pour relier un certain nombre de prédicteurs continus et/ou catégoriels à une seule variable de résultat .

La principale différence entre les deux approches est que le modèle linéaire général suppose strictement que les résidus suivront une distribution conditionnellement normale , tandis que le GLM assouplit cette hypothèse et autorise une variété d'autres distributions de la famille exponentielle pour les résidus. Il convient de noter que le modèle linéaire général est un cas particulier du GLM dans lequel la distribution des résidus suit une distribution conditionnellement normale.

La distribution des résidus dépend en grande partie du type et de la distribution de la variable de résultat ; différents types de variables de résultat conduisent à la diversité des modèles au sein de la famille GLM. Les modèles couramment utilisés dans la famille GLM comprennent la régression logistique binaire pour les résultats binaires ou dichotomiques, la régression de Poisson pour les résultats de comptage et la régression linéaire pour les résultats continus et normalement distribués. Cela signifie que l'on peut parler de GLM comme d'une famille générale de modèles statistiques ou de modèles spécifiques pour des types de résultats spécifiques.