Worldlex Wiki En classification statistique , le noyau de Fisher , nommé d'après Ronald Fisher , est une fonction qui mesure la similarité entre deux objets à partir d'ensembles de mesures pour chaque objet et d'un modèle statistique. Dans une procédure de classification, la classe d'un nouvel objet (dont la classe réelle est inconnue) peut être estimée en minimisant, pour toutes les classes, la moyenne des distances calculées par le noyau de Fisher entre le nouvel objet et chaque membre connu de la classe considérée.
Le noyau de Fisher a été introduit en 1998. Il combine les avantages des modèles statistiques génératifs (comme le modèle de Markov caché ) et ceux des méthodes discriminatives (comme les machines à vecteurs de support ) :
- Les modèles génératifs peuvent traiter des données de longueur variable (l'ajout ou la suppression de données est bien pris en charge).
- Les méthodes discriminantes peuvent avoir des critères flexibles et donner de meilleurs résultats.
Dérivation
score de Fisher
Le noyau de Fisher utilise le score de Fisher , défini comme
θ étant un ensemble (vecteur) de paramètres. La fonction qui associe à θ la valeur de log P( X | θ ) est la log-vraisemblance du modèle probabiliste.
noyau de Fisher
Le noyau de Fisher est défini comme
avecétant la matrice d'information de Fisher .
Applications
Recherche d'informations
Le noyau de Fisher est le noyau d'un modèle probabiliste génératif. À ce titre, il constitue un pont entre les modèles génératifs et probabilistes de documents. Des noyaux de Fisher existent pour de nombreux modèles, notamment tf–idf , Naive Bayes et l'analyse sémantique latente probabiliste .
Classification et recherche d'images
Le noyau de Fisher peut également être appliqué à la représentation d'images pour les problèmes de classification ou de recherche. Actuellement, la représentation « sac de mots visuels », la plus répandue , souffre de parcimonie et de forte dimensionnalité. Le noyau de Fisher permet d'obtenir une représentation compacte et dense, plus adaptée aux problèmes de classification et de recherche d'images .
Le vecteur de Fisher (FV), un cas particulier, approximatif et amélioré du noyau de Fisher général est une représentation d'image obtenue par regroupement de caractéristiques locales . L'encodage FV stocke la moyenne et les vecteurs d'écart de covariance par composante k du modèle de mélange gaussien (GMM) ainsi que chaque élément des descripteurs de caractéristiques locales. Dans une comparaison systématique, le FV a surpassé toutes les méthodes d'encodage comparées ( Bag of Visual Words (BoW) , encodage par noyau (KCB), codage linéaire à contraintes de localité (LLC), vecteur de descripteurs agrégés localement (VLAD)), démontrant ainsi que l'encodage des informations de second ordre (ou covariances des mots de code) améliore effectivement les performances de classification