taux d'apprentissage

En apprentissage automatique et en statistique , le taux d'apprentissage est un paramètre de réglage d'un algorithme d'optimisation qui détermine la taille du pas à chaque itération lors de la minimisation d'une fonction de perte . Puisqu'il influence la mesure dans laquelle les nouvelles informations acquises prévalent sur les anciennes, il représente métaphoriquement la vitesse à laquelle un modèle d'apprentissage automatique « apprend ». Dans la littérature sur la commande adaptative , le taux d'apprentissage est communément appelé gain .

Lors de la définition d'un taux d'apprentissage, il existe un compromis entre la vitesse de convergence et le dépassement . Bien que la direction de descente soit généralement déterminée par le gradient de la fonction de perte, le taux d'apprentissage détermine l'amplitude du pas effectué dans cette direction. Un taux d'apprentissage trop élevé entraînera un dépassement des minima, tandis qu'un taux trop faible ralentira excessivement la convergence ou bloquera l'apprentissage dans un minimum local indésirable.

Afin d'accélérer la convergence et d'éviter les oscillations et le blocage dans des minima locaux indésirables, le taux d'apprentissage est souvent ajusté pendant l'entraînement, soit selon un plan d'ajustement prédéfini, soit de manière adaptative. Le taux d'apprentissage et ses ajustements peuvent également varier selon le paramètre ; dans ce cas, il s'agit d'une matrice diagonale pouvant être interprétée comme une approximation de l' inverse de la matrice hessienne de la méthode de Newton . Le taux d'apprentissage est lié à la longueur du pas déterminée par une recherche linéaire approximative dans les méthodes quasi-Newton et les algorithmes d'optimisation apparentés.

programme de taux d'apprentissage

Le taux initial peut être laissé par défaut ou sélectionné à l'aide de différentes techniques. Un programme d'apprentissage modifie le taux d'apprentissage au cours de l'apprentissage et est généralement modifié entre les époques/itérations. Ceci est principalement réalisé à l'aide de deux paramètres : la décroissance et l'inertie . Il existe de nombreux programmes d'apprentissage différents, mais les plus courants sont les programmes basés sur le temps, les programmes basés sur des paliers et les programmes exponentiels .

La décroissance permet de stabiliser l'apprentissage et d'éviter les oscillations, une situation qui peut survenir lorsqu'un taux d'apprentissage constant trop élevé fait osciller l'apprentissage autour d'un minimum, et est contrôlée par un hyperparamètre.

L'inertie est comparable à une balle dévalant une pente ; on souhaite que la balle se stabilise au point le plus bas (correspondant à l'erreur minimale). L'inertie accélère l'apprentissage (en augmentant le taux d'apprentissage) lorsque le gradient du coût d'erreur évolue dans la même direction pendant une période prolongée, et permet également d'éviter les minima locaux en « franchissant » les petites irrégularités. L'inertie est contrôlée par un hyperparamètre, analogue à la masse d'une balle, qui doit être choisi manuellement : trop élevé, et la balle franchira les minima que l'on souhaite trouver ; trop faible, et elle ne remplira pas son rôle. La formule permettant de prendre en compte l'inertie est plus complexe que celle de la décroissance, mais elle est généralement intégrée aux bibliothèques d'apprentissage profond telles que Keras .

Les programmes d'apprentissage basés sur le temps modifient le taux d'apprentissage en fonction du taux d'apprentissage de l'itération précédente. En tenant compte de la décroissance, la formule mathématique du taux d'apprentissage est la suivante :

${\displaystyle \eta _{n+1}={\frac {\eta _{0}}{1+dn <semantics><mrow><mstyle><msub><mi>η</mi><mrow><mi>n</mi><mo>+</mo><mn>1</mn></mrow></msub><mo>=</mo><mrow><mfrac><msub><mi>η</mi><mrow><mn>0</mn></mrow></msub><mrow><mn>1</mn><mo>+</mo><mi>d</mi><mi>n</mi></mrow></mfrac></mrow></mstyle></mrow><annotation>{\displaystyle \eta _{n+1}={\frac {\eta _{0}}{1+dn}}}</annotation></semantics></math><img src=$

où ${\displaystyle \eta <semantics><mrow><mstyle><mi>η</mi></mstyle></mrow><annotation>{\displaystyle \eta }</annotation></semantics></math><img src=$ ${\displaystyle \eta _{0 <semantics><mrow><mstyle><msub><mi>η</mi><mrow><mn>0</mn></mrow></msub></mstyle></mrow><annotation>{\displaystyle \eta _{0}}</annotation></semantics></math><img src=$ ${\displaystyle d <semantics><mrow><mstyle><mi>d</mi></mstyle></mrow><annotation>{\displaystyle d}</annotation></semantics></math><img src=$ ${\displaystyle n <semantics><mrow><mstyle><mi>n</mi></mstyle></mrow><annotation>{\displaystyle n}</annotation></semantics></math><img src=$

Les programmes d'apprentissage par paliers modifient le rythme d'apprentissage selon des paliers prédéfinis. La formule d'application de la décroissance est définie ici comme suit :

${\displaystyle \eta _{n}=\eta _{0}d^{\left\lfloor {\frac {1+n}{r}} ight floor <semantics><mrow><mstyle><msub><mi>η</mi><mrow><mi>n</mi></mrow></msub><mo>=</mo><msub><mi>η</mi><mrow><mn>0</mn></mrow></msub><msup><mi>d</mi><mrow><mrow><mo>⌊</mo><mrow><mfrac><mrow><mn>1</mn><mo>+</mo><mi>n</mi></mrow><mi>r</mi></mfrac></mrow><mo>⌋</mo></mrow></mrow></msup></mstyle></mrow><annotation>{\displaystyle \eta _{n}=\eta _{0}d^{\left\lfloor {\frac {1+n}{r}} ight floor }}</annotation></semantics></math><img src=$

où ${\displaystyle \eta _{n <semantics><mrow><mstyle><msub><mi>η</mi><mrow><mi>n</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle \eta _{n}}</annotation></semantics></math><img src=$ ${\displaystyle n <semantics><mrow><mstyle><mi>n</mi></mstyle></mrow><annotation>{\displaystyle n}</annotation></semantics></math><img src=$ ${\displaystyle \eta _{0 <semantics><mrow><mstyle><msub><mi>η</mi><mrow><mn>0</mn></mrow></msub></mstyle></mrow><annotation>{\displaystyle \eta _{0}}</annotation></semantics></math><img src=$ ${\displaystyle d <semantics><mrow><mstyle><mi>d</mi></mstyle></mrow><annotation>{\displaystyle d}</annotation></semantics></math><img src=$ ${\displaystyle r <semantics><mrow><mstyle><mi>r</mi></mstyle></mrow><annotation>{\displaystyle r}</annotation></semantics></math><img src=$ taux de réduction , ou à la fréquence à laquelle le taux doit être réduit (10 correspond à une réduction toutes les 10 itérations). La fonction plancher ( ${\displaystyle \lfloor \dots floor <semantics><mrow><mstyle><mo>⌊</mo><mo>…</mo><mo>⌋</mo></mstyle></mrow><annotation>{\displaystyle \lfloor \dots floor }</annotation></semantics></math><img src=$

Les programmes d'apprentissage exponentiels sont similaires aux programmes par paliers, mais au lieu de paliers, on utilise une fonction exponentielle décroissante. La formule mathématique permettant de prendre en compte la décroissance est :

${\displaystyle \eta _{n}=\eta _{0}e^{-dn <semantics><mrow><mstyle><msub><mi>η</mi><mrow><mi>n</mi></mrow></msub><mo>=</mo><msub><mi>η</mi><mrow><mn>0</mn></mrow></msub><msup><mi>e</mi><mrow><mo>−</mo><mi>d</mi><mi>n</mi></mrow></msup></mstyle></mrow><annotation>{\displaystyle \eta _{n}=\eta _{0}e^{-dn}}</annotation></semantics></math><img src=$

où ${\displaystyle d <semantics><mrow><mstyle><mi>d</mi></mstyle></mrow><annotation>{\displaystyle d}</annotation></semantics></math><img src=$

Taux d'apprentissage adaptatif

Le problème des schémas de taux d'apprentissage réside dans leur dépendance aux hyperparamètres, qui doivent être choisis manuellement pour chaque session d'apprentissage et peuvent varier considérablement selon le problème considéré ou le modèle utilisé. Pour pallier ce problème, il existe différents algorithmes de descente de gradient adaptatifs , tels qu'Adagrad , Adadelta, RMSprop et Adam , généralement intégrés aux bibliothèques d'apprentissage profond comme Keras .