Few-Shot Learning

Wat is Few-Shot Learning?

Few-Shot Learning is een machine learning-benadering waarmee modellen nauwkeurige voorspellingen kunnen doen met slechts een klein aantal gelabelde voorbeelden. In tegenstelling tot traditionele supervised learning-methoden die grote hoeveelheden gelabelde data vereisen voor training, richt Few-Shot Learning zich op het trainen van modellen om te generaliseren vanuit een beperkte dataset. Het doel is om leeralgoritmen te ontwikkelen die efficiënt nieuwe concepten of taken kunnen leren uit slechts enkele voorbeelden, vergelijkbaar met menselijke leervermogens.

In de context van machine learning verwijst de term “few-shot” naar het aantal trainingsvoorbeelden per klasse. Bijvoorbeeld:

• One-Shot Learning: Het model leert van slechts één voorbeeld per klasse.
• Few-Shot Learning: Het model leert van een klein aantal (meestal 2 tot 5) voorbeelden per klasse.

Few-Shot Learning valt onder de bredere categorie van n-shot learning, waarbij n het aantal trainingsvoorbeelden per klasse vertegenwoordigt. Het is nauw verwant aan meta-learning, ook wel “leren leren” genoemd, waarbij het model wordt getraind op een verscheidenheid aan taken en leert zich snel aan te passen aan nieuwe taken met beperkte data.

Hoe wordt Few-Shot Learning gebruikt?

Few-Shot Learning wordt vooral toegepast in situaties waarin het verkrijgen van een grote gelabelde dataset onpraktisch of onmogelijk is. Dit kan zich voordoen door:

• Data-schaarste: Zeldzame gebeurtenissen, nieuwe productafbeeldingen, unieke gebruikersintenties of ongebruikelijke medische aandoeningen.
• Hoge annotatiekosten: Het labelen van data vereist deskundige kennis of een aanzienlijke tijdsinvestering.
• Privacyzorgen: Het delen of verzamelen van data is beperkt vanwege privacyregels.

Om deze uitdagingen aan te pakken, maakt Few-Shot Learning gebruik van bestaande kennis en leerstrategieën die het mogelijk maken modellen betrouwbare voorspellingen te laten doen op basis van minimale data.

Kernbenaderingen binnen Few-Shot Learning

Er zijn verschillende methodologieën ontwikkeld om Few-Shot Learning effectief te implementeren:

1. Meta-Learning (Leren leren)
2. Transfer Learning
3. Data-augmentatie
4. Metric Learning

1. Meta-Learning (Leren leren)

Meta-Learning houdt in dat modellen worden getraind op een diversiteit aan taken, zodat ze snel nieuwe taken kunnen leren met een kleine hoeveelheid data. Het model krijgt een meta-niveau van leren, waardoor het zich snel kan aanpassen met beperkte voorbeelden.

Belangrijke concepten:

• Episodes: De training is gestructureerd in episodes, die elk een Few-Shot-taak nabootsen.
• Support Set: Een kleine gelabelde dataset die het model gebruikt om van te leren.
• Query Set: Een dataset waarop het model na het leren van de support set voorspellingen doet.

Populaire Meta-Learning-algoritmen:

• Model-Agnostic Meta-Learning (MAML): Traineert de modelparameters zo dat een klein aantal gradiëntupdates leidt tot goede generalisatie op nieuwe taken.
• Prototypical Networks: Leert een metrische ruimte waarin classificatie wordt uitgevoerd door afstanden te berekenen tot prototype-representaties van elke klasse.
• Matching Networks: Gebruikt aandachtmechanismen over een geleerde embedding van de support set om voorspellingen te doen.

Voorbeeldtoepassing:

In natural language processing (NLP) kan een chatbot nieuwe gebruikersintenties leren begrijpen die tijdens de initiële training niet aanwezig waren. Door meta-learning kan de chatbot zich snel aanpassen om deze nieuwe intenties te herkennen en erop te reageren nadat hij slechts enkele voorbeelden heeft ontvangen.

2. Transfer Learning

Transfer Learning maakt gebruik van kennis die is opgedaan bij de ene taak om het leren bij een gerelateerde, maar andere taak te verbeteren. Een model wordt eerst voorgetraind op een grote dataset en daarna bijgesteld op de doelgerichte Few-Shot-taak.

Proces:

• Voortraining: Train een model op een grote, diverse dataset om algemene kenmerken te leren.
• Fijn-afstemming: Pas het voorgetrainde model aan op de nieuwe taak met behulp van de beperkte beschikbare data.

Voordelen:

• Vermindert de behoefte aan grote hoeveelheden gelabelde data voor de doeltaak.
• Profiteert van de rijke feature-representaties die tijdens de voortraining zijn geleerd.

Voorbeeldtoepassing:

In computer vision kan een model dat is voorgetraind op ImageNet worden bijgesteld om medische beelden voor een zeldzame ziekte te classificeren met slechts enkele beschikbare gelabelde voorbeelden.

3. Data-augmentatie

Data-augmentatie houdt in dat er extra trainingsdata wordt gegenereerd uit de bestaande beperkte dataset. Dit helpt overfitting te voorkomen en verbetert het generalisatievermogen van het model.

Technieken:

• Afbeeldingstransformaties: Roteren, schalen, spiegelen en bijsnijden van afbeeldingen.
• Synthetische data-generatie: Gebruik van generatieve modellen zoals Generative Adversarial Networks (GANs) om nieuwe gegevensvoorbeelden te creëren.
• Mixup en CutMix: Het combineren van paren voorbeelden om nieuwe trainingsvoorbeelden te maken.

Voorbeeldtoepassing:

Bij spraakherkenning kan men een paar audiomonsters aanvullen met achtergrondgeluid, toonhoogteveranderingen of snelheidsvariaties om een robuustere trainingsset te creëren.

4. Metric Learning

Metric Learning richt zich op het leren van een afstandsfunctie die meet hoe vergelijkbaar of verschillend twee datapunten zijn. Het model leert data in een embedding-ruimte te plaatsen waarbij vergelijkbare items dicht bij elkaar liggen.

Aanpak:

• Siamese netwerken: Gebruikt dubbele netwerken met gedeelde gewichten om embeddings van inputparen te berekenen en meet de afstand ertussen.
• Triplet Loss: Zorgt ervoor dat een anchor dichter bij een positief voorbeeld ligt dan bij een negatief voorbeeld met een bepaalde marge.
• Contrastive Learning: Leert embeddings door vergelijkbare en niet-vergelijkbare paren tegen elkaar af te zetten.

Voorbeeldtoepassing:

Bij gezichtsherkenning maakt metric learning het mogelijk voor het model om te verifiëren of twee afbeeldingen van dezelfde persoon zijn op basis van de geleerde embeddings.

Onderzoek naar Few-Shot Learning

Few-shot learning is een snel evoluerend gebied binnen machine learning dat zich richt op de uitdaging om modellen te trainen met een beperkte hoeveelheid gelabelde data. In dit onderdeel worden enkele belangrijke wetenschappelijke artikelen besproken die bijdragen aan het begrip en de ontwikkeling van few-shot learning-methodologieën.

Belangrijke wetenschappelijke artikelen

1. Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration

   • Auteurs: Theo Adrai, Guy Ohayon, Tomer Michaeli, Michael Elad
   • Samenvatting: Dit artikel presenteert een innovatief algoritme voor beeldrestauratie dat gebruikmaakt van principes uit few-shot learning. Door een kleine set afbeeldingen te gebruiken, verbetert het algoritme de perceptuele kwaliteit of mean square error (MSE) van voorgetrainde modellen zonder extra training. Deze methode is gebaseerd op optimal transport-theorie, waarbij de outputdistributie wordt uitgelijnd met brondata via een lineaire transformatie in de latente ruimte van een variational auto-encoder. Het onderzoek toont verbeteringen in perceptuele kwaliteit en stelt een interpolatiemethode voor om een balans te vinden tussen perceptuele kwaliteit en MSE in gerestaureerde beelden.
   • Lees meer

2. Minimax Deviation Strategies for Machine Learning and Recognition with Short Learning Samples

   • Auteurs: Michail Schlesinger, Evgeniy Vodolazskiy
   • Samenvatting: Deze studie behandelt de uitdagingen van kleine leermonsters binnen machine learning. Het bekritiseert de beperkingen van maximum likelihood- en minimax-leerstrategieën en introduceert het concept van minimax deviation learning. Deze nieuwe aanpak is bedoeld om de tekortkomingen van bestaande methoden te overwinnen en biedt een robuust alternatief voor few-shot learning-scenario’s.
   • Lees meer

3. Some Insights into Lifelong Reinforcement Learning Systems

   • Auteurs: Changjian Li
   • Samenvatting: Hoewel primair gericht op lifelong learning-systemen, biedt dit artikel inzichten die van toepassing zijn op few-shot learning door de tekortkomingen van traditionele reinforcement learning-paradigma’s te benadrukken. Het suggereert dat lifelong learning-systemen, die continu leren door interactie, waardevolle perspectieven bieden voor de ontwikkeling van few-shot learning-modellen.
   • Lees meer

4. Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning

   • Auteurs: Nick Erickson, Qi Zhao
   • Samenvatting: De Dex-toolkit wordt geïntroduceerd voor het trainen en evalueren van continual learning-methoden, met de nadruk op incrementeel leren. Deze aanpak kan worden gezien als een vorm van few-shot learning, waarbij optimale gewichtsinitialisatie wordt verkregen door eenvoudigere omgevingen op te lossen. Het artikel toont aan hoe incrementeel leren aanzienlijk beter kan presteren dan traditionele methoden in complexe reinforcement learning-scenario’s.
   • Lees meer

5. Augmented Q Imitation Learning (AQIL)

   • Auteurs: Xiao Lei Zhang, Anish Agarwal
   • Samenvatting: Dit artikel onderzoekt het snijvlak van imitation learning en reinforcement learning, twee gebieden die nauw verwant zijn aan few-shot learning. AQIL combineert deze leerparadigma’s om een robuust raamwerk te creëren voor unsupervised learning, en biedt inzichten in hoe few-shot learning kan worden versterkt door imitatie- en feedbackmechanismen.
   • Lees meer