Apprentissage en Few-Shot

Qu’est-ce que l’apprentissage en Few-Shot ?

L’apprentissage en Few-Shot est une approche d’apprentissage automatique qui permet aux modèles de faire des prédictions précises en utilisant seulement un petit nombre d’exemples étiquetés. Contrairement aux méthodes d’apprentissage supervisé traditionnelles qui nécessitent de grandes quantités de données étiquetées pour l’entraînement, l’apprentissage en Few-Shot se concentre sur l’entraînement des modèles à généraliser à partir d’un ensemble de données limité. L’objectif est de développer des algorithmes d’apprentissage capables d’apprendre efficacement de nouveaux concepts ou tâches à partir de seulement quelques instances, de façon similaire aux capacités d’apprentissage humaines.

Dans le contexte de l’apprentissage automatique, le terme « few-shot » fait référence au nombre d’exemples d’entraînement par classe. Par exemple :

• One-Shot Learning : le modèle apprend à partir d’un seul exemple par classe.
• Few-Shot Learning : le modèle apprend à partir d’un petit nombre (généralement de 2 à 5) d’exemples par classe.

L’apprentissage en Few-Shot fait partie de la catégorie plus large du n-shot learning, où n représente le nombre d’exemples d’entraînement par classe. Il est étroitement lié au meta-learning, aussi appelé « apprendre à apprendre », où le modèle est entraîné sur une variété de tâches et apprend à s’adapter rapidement à de nouvelles tâches avec peu de données.

Comment utilise-t-on l’apprentissage en Few-Shot ?

L’apprentissage en Few-Shot est principalement utilisé dans des situations où il est difficile ou impossible d’obtenir un grand ensemble de données étiquetées. Cela peut arriver à cause de :

• Rareté des données : événements rares, images de nouveaux produits, intentions utilisateur uniques ou conditions médicales inhabituelles.
• Coûts d’annotation élevés : l’annotation des données nécessite une expertise ou un investissement de temps conséquent.
• Contraintes de confidentialité : le partage ou la collecte de données est restreint en raison de réglementations sur la confidentialité.

Pour relever ces défis, l’apprentissage en Few-Shot tire parti des connaissances préalables et de stratégies d’apprentissage qui permettent aux modèles de faire des prédictions fiables à partir de données minimales.

Approches principales de l’apprentissage en Few-Shot

Plusieurs méthodologies ont été développées pour mettre en œuvre efficacement l’apprentissage en Few-Shot :

1. Meta-learning (apprendre à apprendre)
2. Apprentissage par transfert
3. Augmentation de données
4. Metric learning

1. Meta-learning (apprendre à apprendre)

Le meta-learning consiste à entraîner des modèles sur une variété de tâches de manière à ce qu’ils puissent apprendre rapidement de nouvelles tâches à partir d’une petite quantité de données. Le modèle développe une compréhension méta de la manière d’apprendre, ce qui lui permet de s’adapter rapidement avec peu d’exemples.

Concepts clés :

• Épisodes : l’entraînement est structuré en épisodes, chacun imitant une tâche Few-Shot.
• Support set : un petit ensemble de données étiquetées utilisé par le modèle pour apprendre.
• Query set : un ensemble de données sur lequel le modèle fait des prédictions après avoir appris à partir du support set.

Algorithmes de meta-learning populaires :

• Model-Agnostic Meta-Learning (MAML) : entraîne les paramètres du modèle de sorte qu’un petit nombre de mises à jour de gradient conduise à une bonne généralisation sur de nouvelles tâches.
• Prototypical Networks : apprend un espace métrique où la classification peut être réalisée en calculant les distances aux représentations prototypes de chaque classe.
• Matching Networks : utilise des mécanismes d’attention sur un embedding appris du support set pour faire des prédictions.

Exemple d’utilisation :

En traitement du langage naturel (NLP), un chatbot peut avoir besoin de comprendre de nouvelles intentions utilisateur qui n’étaient pas présentes lors de l’entraînement initial. Grâce au meta-learning, le chatbot peut rapidement s’adapter pour reconnaître et répondre à ces nouvelles intentions après avoir reçu seulement quelques exemples.

2. Apprentissage par transfert

L’apprentissage par transfert exploite les connaissances acquises lors d’une tâche pour améliorer l’apprentissage sur une tâche différente mais liée. Un modèle est d’abord pré-entraîné sur un grand ensemble de données puis affiné sur la tâche Few-Shot ciblée.

Processus :

• Pré-entraînement : entraîner un modèle sur un grand ensemble de données diversifié pour apprendre des caractéristiques générales.
• Affinage : adapter le modèle pré-entraîné à la nouvelle tâche en utilisant les données limitées disponibles.

Avantages :

• Réduit le besoin de grandes quantités de données étiquetées pour la tâche cible.
• Bénéficie des riches représentations apprises lors du pré-entraînement.

Exemple d’utilisation :

En vision par ordinateur, un modèle pré-entraîné sur ImageNet peut être affiné pour classifier des images médicales d’une maladie rare à partir de seulement quelques exemples étiquetés disponibles.

3. Augmentation de données

L’augmentation de données consiste à générer des données d’entraînement supplémentaires à partir de l’ensemble limité existant. Cela peut aider à prévenir le surapprentissage et à améliorer la capacité de généralisation du modèle.

Techniques :

• Transformations d’images : rotation, mise à l’échelle, retournement et recadrage d’images.
• Génération de données synthétiques : utilisation de modèles génératifs comme les Generative Adversarial Networks (GANs) pour créer de nouveaux exemples de données.
• Mixup et CutMix : combiner des paires d’exemples pour créer de nouveaux exemples d’entraînement.

Exemple d’utilisation :

En reconnaissance vocale, l’augmentation de quelques échantillons audio avec du bruit de fond, des changements de hauteur ou de vitesse permet de créer un ensemble d’entraînement plus robuste.

4. Metric learning

Le metric learning vise à apprendre une fonction de distance qui mesure la similarité ou la différence entre deux points de données. Le modèle apprend à mapper les données dans un espace d’embedding où les éléments similaires sont rapprochés.

Approche :

• Siamese Networks : utilise deux réseaux jumeaux avec des poids partagés pour calculer les embeddings de paires d’entrées et mesure la distance entre eux.
• Triplet Loss : garantit qu’une ancre est plus proche d’un exemple positif que d’un exemple négatif d’une certaine marge.
• Apprentissage contrastif : apprend des embeddings en contrastant des paires similaires et dissemblables.

Exemple d’utilisation :

En reconnaissance faciale, le metric learning permet au modèle de vérifier si deux images représentent la même personne sur la base des embeddings appris.

Recherche sur l’apprentissage en Few-Shot

L’apprentissage en Few-Shot est un domaine en évolution rapide de l’apprentissage automatique qui répond au défi d’entraîner des modèles avec une quantité limitée de données étiquetées. Cette section explore plusieurs articles scientifiques majeurs qui contribuent à la compréhension et au développement des méthodologies de Few-Shot Learning.

Articles scientifiques clés

1. Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration

   • Auteurs : Theo Adrai, Guy Ohayon, Tomer Michaeli, Michael Elad
   • Résumé : Cet article présente un algorithme innovant de restauration d’images qui exploite les principes du Few-Shot Learning. En utilisant un petit ensemble d’images, l’algorithme améliore la qualité perceptuelle ou l’erreur quadratique moyenne (MSE) de modèles pré-entraînés sans entraînement supplémentaire. Cette méthode s’appuie sur la théorie du transport optimal, qui aligne la distribution de sortie avec les données sources via une transformation linéaire dans l’espace latent d’un auto-encodeur variationnel. La recherche démontre des améliorations de la qualité perceptuelle et propose une méthode d’interpolation pour équilibrer la qualité perceptuelle et la MSE dans les images restaurées.
   • En savoir plus

2. Minimax Deviation Strategies for Machine Learning and Recognition with Short Learning Samples

   • Auteurs : Michail Schlesinger, Evgeniy Vodolazskiy
   • Résumé : Cette étude aborde les défis liés aux petits échantillons d’apprentissage en apprentissage automatique. Elle critique les limites des stratégies d’apprentissage du maximum de vraisemblance et du minimax, et introduit le concept d’apprentissage à déviation minimax. Cette nouvelle approche vise à surmonter les lacunes des méthodes existantes, offrant une alternative robuste pour les scénarios de Few-Shot Learning.
   • En savoir plus

3. Some Insights into Lifelong Reinforcement Learning Systems

   • Auteurs : Changjian Li
   • Résumé : Bien que principalement axé sur les systèmes d’apprentissage tout au long de la vie, cet article fournit des perspectives applicables au Few-Shot Learning en mettant en évidence les insuffisances des paradigmes traditionnels d’apprentissage par renforcement. Il suggère que les systèmes d’apprentissage tout au long de la vie, qui apprennent en continu par interactions, peuvent offrir des perspectives précieuses pour développer des modèles Few-Shot.
   • En savoir plus

4. Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning

   • Auteurs : Nick Erickson, Qi Zhao
   • Résumé : Le toolkit Dex est introduit pour l’entraînement et l’évaluation de méthodes d’apprentissage continu, avec un accent sur l’apprentissage incrémental. Cette approche peut être considérée comme une forme de Few-Shot Learning, où l’initialisation optimale des poids est dérivée de la résolution d’environnements plus simples. L’article montre comment l’apprentissage incrémental peut surpasser significativement les méthodes traditionnelles dans des scénarios complexes d’apprentissage par renforcement.
   • En savoir plus

5. Augmented Q Imitation Learning (AQIL)

   • Auteurs : Xiao Lei Zhang, Anish Agarwal
   • Résumé : Cet article explore l’intersection de l’apprentissage par imitation et de l’apprentissage par renforcement, deux domaines étroitement liés au Few-Shot Learning. AQIL combine ces paradigmes d’apprentissage pour créer un cadre robuste d’apprentissage non supervisé, offrant des pistes sur la manière dont le Few-Shot Learning peut être amélioré grâce à l’imitation et aux mécanismes de feedback.
   • En savoir plus