Probabilité relative

En statistique , lors de la sélection d'un modèle statistique pour des données données, la vraisemblance relative compare les plausibilités relatives de différents modèles candidats ou de différentes valeurs d'un paramètre d'un modèle unique.

Supposons que l'on nous donne des données x pour lesquelles nous avons un modèle statistique avec le paramètre θ . Supposons que l' estimation de vraisemblance maximale pour θ soit . Les plausibilités relatives d'autres valeurs de θ peuvent être trouvées en comparant les vraisemblances de ces autres valeurs avec la vraisemblance de . La vraisemblance relative de θ est définie comme étant

où désigne la fonction de vraisemblance . Ainsi, la vraisemblance relative est le rapport de vraisemblance à dénominateur fixe .

La fonction

est la fonction de vraisemblance relative .

Une région de vraisemblance est l'ensemble de toutes les valeurs de θ dont la vraisemblance relative est supérieure ou égale à un seuil donné. En termes de pourcentages, une région de vraisemblance de p % pour θ est définie comme étant.

Si θ est un seul paramètre réel, une région de vraisemblance de p % comprendra généralement un intervalle de valeurs réelles. Si la région comprend un intervalle, elle est alors appelée intervalle de vraisemblance .

Les intervalles de vraisemblance, et plus généralement les régions de vraisemblance, sont utilisés pour l'estimation d'intervalles dans les statistiques basées sur la vraisemblance (statistiques « vraisemblables ») : ils sont similaires aux intervalles de confiance dans les statistiques fréquentistes et aux intervalles crédibles dans les statistiques bayésiennes. Les intervalles de vraisemblance sont interprétés directement en termes de vraisemblance relative, et non en termes de probabilité de couverture (fréquentisme) ou de probabilité a posteriori (bayésianisme).

Étant donné un modèle, les intervalles de vraisemblance peuvent être comparés aux intervalles de confiance. Si θ est un seul paramètre réel, alors dans certaines conditions, un intervalle de vraisemblance de 14,65 % (environ 1:7 de vraisemblance) pour θ sera le même qu'un intervalle de confiance de 95 % (probabilité de couverture de 19/20). Dans une formulation légèrement différente adaptée à l'utilisation des log-vraisemblances (voir le théorème de Wilks ), la statistique de test est deux fois la différence des log-vraisemblances et la distribution de probabilité de la statistique de test est approximativement une distribution du chi carré avec des degrés de liberté (df) égaux à la différence de df-s entre les deux modèles (par conséquent, l' intervalle de vraisemblance e ⁻² est le même que l'intervalle de confiance de 0,954 ; en supposant que la différence de df-s soit de 1).

La définition de la vraisemblance relative peut être généralisée pour comparer différents modèles statistiques . Cette généralisation est basée sur le critère d'information d'Akaike ( AIC ), ou parfois sur le critère d'information d'Akaike avec correction ( AICc ).

Supposons que pour certaines données données nous ayons deux modèles statistiques, M ₁ et M ₂ . Supposons également que AIC( M ₁ ) ≤ AIC( M ₂ ) . La vraisemblance relative de M ₂ par rapport à M ₁ est alors définie comme suit.

Pour voir qu'il s'agit d'une généralisation de la définition précédente, supposons que nous ayons un modèle M avec un paramètre θ (éventuellement multivarié) . Alors, pour tout θ , posons M ₂ = M ( θ ) , et posons également M ₁ = M ( ) . La définition générale donne maintenant le même résultat que la définition précédente.