Few-Shot Learning

Vad är Few-Shot Learning?

Few-Shot Learning är en maskininlärningsmetod som gör det möjligt för modeller att göra exakta förutsägelser med endast ett litet antal märkta exempel. Till skillnad från traditionella övervakade inlärningsmetoder, som kräver stora mängder märkta data för träning, fokuserar Few-Shot Learning på att träna modeller för att generalisera från en begränsad datamängd. Målet är att utveckla inlärningsalgoritmer som effektivt kan lära sig nya koncept eller uppgifter från bara några få tillfällen, likt människans inlärningsförmåga.

I maskininlärningssammanhang syftar termen “few-shot” på antalet tränings-exempel per klass. Till exempel:

• One-Shot Learning: Modellen lär sig från endast ett exempel per klass.
• Few-Shot Learning: Modellen lär sig från ett litet antal (vanligtvis 2 till 5) exempel per klass.

Few-Shot Learning tillhör den bredare kategorin n-shot learning, där n representerar antalet tränings-exempel per klass. Det är nära besläktat med meta-lärande, även kallat “lära sig att lära”, där modellen tränas på en mängd olika uppgifter och lär sig att snabbt anpassa sig till nya uppgifter med begränsad data.

Hur används Few-Shot Learning?

Few-Shot Learning används främst i situationer där det är opraktiskt eller omöjligt att få fram en stor märkt datamängd. Detta kan bero på:

• Databrist: Sällsynta händelser, nya produktbilder, unika användaravsikter eller ovanliga medicinska tillstånd.
• Höga annoteringskostnader: Märkning av data kräver expertkunskap eller tar mycket tid.
• Integritetsproblem: Dela eller samla in data begränsas av integritetsregler.

För att hantera dessa utmaningar utnyttjar Few-Shot Learning tidigare kunskap och inlärningsstrategier som gör det möjligt för modeller att ge tillförlitliga förutsägelser med minimal data.

Centrala tillvägagångssätt inom Few-Shot Learning

Flera metoder har utvecklats för att effektivt implementera Few-Shot Learning:

1. Meta-Lärande (Lära sig att lära)
2. Transfer Learning
3. Dataaugmentering
4. Metrikinlärning

1. Meta-Lärande (Lära sig att lära)

Meta-Lärande innebär att man tränar modeller på en mängd olika uppgifter så att de snabbt kan lära sig nya uppgifter utifrån en liten mängd data. Modellen får en meta-nivå-förståelse för hur man lär sig och kan därmed anpassa sig snabbt med få exempel.

Nyckelbegrepp:

• Episoder: Träningen är uppdelad i episoder, där varje episod efterliknar en Few-Shot-uppgift.
• Support Set: Ett litet märkt dataset som modellen använder för att lära sig.
• Query Set: Ett dataset där modellen gör förutsägelser efter att ha lärt sig från support-setet.

Populära meta-lärande-algoritmer:

• Model-Agnostic Meta-Learning (MAML): Tränar modellparametrarna så att ett litet antal gradientuppdateringar leder till god generalisering på nya uppgifter.
• Prototypiska nätverk: Lär sig ett metrisk rum där klassificering kan utföras genom att beräkna avstånd till prototyprepresentationer av varje klass.
• Matching Networks: Använder uppmärksamhetsmekanismer över en inlärd inbäddning av support-setet för att göra förutsägelser.

Exempel på användning:

Inom naturlig språkbehandling (NLP) kan en chatbot behöva förstå nya användaravsikter som inte fanns med vid den ursprungliga träningen. Genom att använda meta-lärande kan chatboten snabbt anpassa sig och känna igen dessa nya avsikter efter att ha fått bara några få exempel.

2. Transfer Learning

Transfer Learning utnyttjar kunskap från en uppgift för att förbättra inlärningen i en relaterad men annorlunda uppgift. En modell förtränas först på en stor datamängd och finjusteras sedan på målets Few-Shot-uppgift.

Process:

• Förträning: Träna en modell på ett stort, varierat dataset för att lära sig generella egenskaper.
• Finjustering: Anpassa den förtränade modellen till den nya uppgiften med hjälp av den begränsade tillgängliga datan.

Fördelar:

• Minskar behovet av stora märkta datamängder för måluppgiften.
• Drar nytta av de rika representationsförmågor som inlärts under förträning.

Exempel på användning:

Inom datorseende kan en modell som är förtränad på ImageNet finjusteras för att klassificera medicinska bilder för en sällsynt sjukdom med endast några få märkta exempel.

3. Dataaugmentering

Dataaugmentering innebär att generera ytterligare träningsdata från den befintliga begränsade datamängden. Detta kan hjälpa till att motverka överanpassning och förbättra modellens generaliseringsförmåga.

Tekniker:

• Bildtransformationer: Rotation, skalning, spegling och beskärning av bilder.
• Syntetisk datagenerering: Använda generativa modeller som GANs (Generative Adversarial Networks) för att skapa nya dataprover.
• Mixup och CutMix: Kombinera par av exempel för att skapa nya träningsprover.

Exempel på användning:

Vid taligenkänning kan man förstärka några få ljudprover med bakgrundsljud, tonhöjdsförändringar eller hastighetsvariationer för att skapa en mer robust träningsmängd.

4. Metrikinlärning

Metrikinlärning fokuserar på att lära sig en avståndsfunktion som mäter hur lika eller olika två datapunkter är. Modellen lär sig att mappa data till ett inbäddningsutrymme där liknande objekt hamnar nära varandra.

Tillvägagångssätt:

• Siamese-nätverk: Använder tvillingnätverk med delade vikter för att beräkna inbäddningar av inmatningspar och mäter avståndet mellan dem.
• Triplet Loss: Säkerställer att en förankring är närmare ett positivt exempel än ett negativt exempel med en viss marginal.
• Kontrastiv inlärning: Lär sig inbäddningar genom att kontrastera liknande och olika par.

Exempel på användning:

Vid ansiktsigenkänning möjliggör metrikinlärning för modellen att verifiera om två bilder föreställer samma person baserat på de inlärda inbäddningarna.

Forskning om Few-Shot Learning

Few-shot learning är ett snabbt växande område inom maskininlärning som tar itu med utmaningen att träna modeller med en begränsad mängd märkta data. Detta avsnitt belyser flera viktiga vetenskapliga artiklar som bidrar till förståelsen och utvecklingen av few-shot learning-metoder.

Viktiga vetenskapliga artiklar

1. Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration

   • Författare: Theo Adrai, Guy Ohayon, Tomer Michaeli, Michael Elad
   • Sammanfattning: Denna artikel presenterar en innovativ algoritm för bildrestaurering som använder principer från few-shot learning. Genom att använda en liten uppsättning bilder förbättrar algoritmen den perceptuella kvaliteten eller MSE (mean square error) hos förtränade modeller utan ytterligare träning. Metoden är baserad på optimal transport-teori, som anpassar utgångsfördelningen till källdata genom en linjär transformation i latentutrymmet hos en variational auto-encoder. Forskningen visar förbättringar i perceptuell kvalitet och föreslår en interpolationsmetod för att balansera perceptuell kvalitet med MSE i återställda bilder.
   • Läs mer

2. Minimax Deviation Strategies for Machine Learning and Recognition with Short Learning Samples

   • Författare: Michail Schlesinger, Evgeniy Vodolazskiy
   • Sammanfattning: Denna studie tar upp utmaningarna med små inlärningsprover inom maskininlärning. Den kritiserar begränsningarna hos maximum likelihood och minimax-inlärningsstrategier och introducerar begreppet minimax deviation learning. Detta nya tillvägagångssätt syftar till att övervinna bristerna hos befintliga metoder och erbjuder ett robust alternativ för few-shot learning-scenarier.
   • Läs mer

3. Some Insights into Lifelong Reinforcement Learning Systems

   • Författare: Changjian Li
   • Sammanfattning: Även om fokus ligger på lifelong learning-system ger denna artikel insikter som är tillämpliga på few-shot learning genom att belysa bristerna i traditionella förstärkningsinlärningsparadigm. Den föreslår att lifelong learning-system, som kontinuerligt lär sig genom interaktioner, kan erbjuda värdefulla perspektiv för utvecklingen av few-shot learning-modeller.
   • Läs mer

4. Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning

   • Författare: Nick Erickson, Qi Zhao
   • Sammanfattning: Dex-verktygslådan introduceras för träning och utvärdering av kontinuerliga inlärningsmetoder, med fokus på inkrementell inlärning. Detta tillvägagångssätt kan betraktas som en form av few-shot learning, där optimal viktinitialisering hämtas från lösningar av enklare miljöer. Artikeln visar hur inkrementell inlärning kan överträffa traditionella metoder i komplexa förstärkningsinlärningsscenarier.
   • Läs mer

5. Augmented Q Imitation Learning (AQIL)

   • Författare: Xiao Lei Zhang, Anish Agarwal
   • Sammanfattning: Denna artikel utforskar skärningspunkten mellan imitation learning och reinforcement learning, två områden som är nära besläktade med few-shot learning. AQIL kombinerar dessa inlärningsparadigm för att skapa en robust ram för osupervised learning, och ger insikter om hur few-shot learning kan förbättras genom imitation och återkopplingsmekanismer.
   • Läs mer