Učení z mála příkladů (Few-Shot Learning)

Co je učení z mála příkladů (Few-Shot Learning)?

Učení z mála příkladů (Few-Shot Learning) je přístup ve strojovém učení, který umožňuje modelům provádět přesné predikce pouze na základě malého počtu označených příkladů. Na rozdíl od tradičních metod učení s učitelem, které ke svému tréninku potřebují velké množství označených dat, se učení z mála příkladů zaměřuje na trénování modelů tak, aby dokázaly zobecnit z omezeného datasetu. Cílem je vyvinout algoritmy, které se efektivně naučí nové koncepty či úkoly pouze z několika málo ukázek, podobně jako to dokáže člověk.

Ve strojovém učení označuje pojem „few-shot“ počet trénovacích příkladů na třídu. Například:

• One-Shot Learning: Model se učí pouze z jednoho příkladu na třídu.
• Few-Shot Learning: Model se učí z malého počtu (typicky 2 až 5) příkladů na třídu.

Učení z mála příkladů spadá do širší kategorie n-shot learning, kde n značí počet trénovacích příkladů na třídu. Úzce souvisí s meta-učením (učením se učit), kdy je model trénován na různých úlohách a učí se rychle přizpůsobovat novým úlohám s omezenými daty.

Kdy se učení z mála příkladů používá?

Učení z mála příkladů se využívá především v situacích, kdy je získání velké označené datové sady nepraktické nebo nemožné. To může nastat například z těchto důvodů:

• Nedostatek dat: Vzácné události, nové produktové obrázky, jedinečné uživatelské záměry nebo neobvyklé zdravotní stavy.
• Vysoké náklady na anotaci: Označování dat vyžaduje odborné znalosti nebo značnou časovou investici.
• Obavy o soukromí: Sdílení nebo sběr dat je omezen kvůli regulacím ochrany soukromí.

Pro řešení těchto výzev využívá učení z mála příkladů dříve získané znalosti a strategii učení, které modelům umožňují dělat spolehlivé predikce z minimálního množství dat.

Hlavní přístupy v učení z mála příkladů

Bylo vyvinuto několik metodologií pro efektivní implementaci učení z mála příkladů:

1. Meta-učení (učení se učit)
2. Transfer learning
3. Augmentace dat
4. Metrické učení

1. Meta-učení (učení se učit)

Meta-učení zahrnuje trénování modelů na různých úlohách tak, aby se dokázaly rychle naučit nové úkoly z malého množství dat. Model získává meta-úroveň porozumění tomu, jak se učit, což mu umožňuje rychle se přizpůsobit na základě omezených příkladů.

Klíčové pojmy:

• Epizody: Trénink je strukturován do epizod, z nichž každá simuluje úlohu učení z mála příkladů.
• Support set: Malá sada označených dat, ze které se model učí.
• Query set: Sada dat, na které model dělá predikce po naučení ze support setu.

Oblíbené meta-učící algoritmy:

• Model-Agnostic Meta-Learning (MAML): Trénuje parametry modelu tak, aby po několika málo aktualizacích gradientem dosáhl dobrého zobecnění na nových úlohách.
• Prototypové sítě (Prototypical Networks): Učí se metrický prostor, kde lze provádět klasifikaci výpočtem vzdáleností od prototypových reprezentací každé třídy.
• Matching Networks: Používá mechanismy pozornosti nad naučenými embeddingy support setu k predikci.

Příklad využití:

V oblasti zpracování přirozeného jazyka (NLP) může chatbot potřebovat rozpoznávat nové uživatelské záměry, které nebyly při původním tréninku zahrnuty. Díky meta-učení se chatbot dokáže rychle přizpůsobit a rozpoznávat tyto nové záměry už po několika málo příkladech.

2. Transfer learning

Transfer learning využívá znalosti získané při řešení jednoho úkolu ke zlepšení učení v příbuzné, ale odlišné úloze. Model je nejprve předtrénován na velké datové sadě a poté doladěn na cílový úkol s omezeným počtem příkladů.

Postup:

• Předtrénování: Model je trénován na velké a různorodé datové sadě, aby se naučil obecné rysy.
• Doladění (fine-tuning): Předtrénovaný model je přizpůsoben novému úkolu pomocí omezeného dostupného množství dat.

Výhody:

• Snižuje potřebu velkého množství označených dat pro cílový úkol.
• Těží z bohatých reprezentací získaných při předtrénování.

Příklad využití:

V počítačovém vidění lze model předtrénovaný na ImageNet doladit na klasifikaci medicínských obrázků vzácné nemoci pouze s několika málo označenými příklady.

3. Augmentace dat

Augmentace dat zahrnuje generování dodatečných trénovacích dat z existující omezené sady. To pomáhá předcházet přeučení a zvyšuje schopnost modelu zobecňovat.

Techniky:

• Transformace obrázků: Rotace, změna měřítka, převracení a ořezávání obrázků.
• Generování syntetických dat: Využití generativních modelů jako GAN (Generative Adversarial Networks) k tvorbě nových vzorků.
• Mixup a CutMix: Kombinace dvojic příkladů k vytvoření nových trénovacích vzorků.

Příklad využití:

U rozpoznávání řeči lze několik zvukových vzorků augmentovat přidáním šumu na pozadí, změnou výšky tónu nebo tempa a vytvořit tak robustnější trénovací sadu.

4. Metrické učení

Metrické učení se zaměřuje na naučení funkce vzdálenosti, která měří, jak jsou si dva datové body podobné nebo odlišné. Model se učí mapovat data do embeddingového prostoru, kde jsou podobné položky blízko sebe.

Přístup:

• Siamese sítě: Používají dvojici identických sítí se sdílenými váhami k výpočtu embeddingů vstupních dvojic a měří mezi nimi vzdálenost.
• Triplet loss: Zajišťuje, že anchor je blíže pozitivnímu příkladu než negativnímu o určité minimum.
• Kontrastivní učení: Učí embeddingy kontrastováním podobných a nepodobných dvojic.

Příklad využití:

Při rozpoznávání obličejů umožňuje metrické učení modelu ověřit, zda jsou dvě fotografie stejná osoba na základě naučených embeddingů.

Výzkum v oblasti učení z mála příkladů

Učení z mála příkladů je dynamicky se rozvíjející oblast strojového učení, která řeší problém trénování modelů s omezeným množstvím označených dat. Tato sekce představuje několik klíčových vědeckých prací, které přispěly k porozumění a rozvoji metodologií učení z mála příkladů.

Klíčové vědecké práce

1. Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration

   • Autoři: Theo Adrai, Guy Ohayon, Tomer Michaeli, Michael Elad
   • Shrnutí: Tato práce představuje inovativní algoritmus pro obnovu obrazů, který využívá principů učení z mála příkladů. Pomocí malé sady obrázků algoritmus zvyšuje vnímatelnou kvalitu nebo průměrnou kvadratickou chybu (MSE) u předtrénovaných modelů bez dalšího tréninku. Metoda je založena na teorii optimální přepravy, která slaďuje výstupní distribuci se zdrojovými daty lineární transformací v latentním prostoru variačního autoenkodéru. Výzkum ukazuje zlepšení vnímatelné kvality a navrhuje interpolační metodu pro vyvážení vnímatelné kvality a MSE v obnovených snímcích.
   • Více zde

2. Minimax Deviation Strategies for Machine Learning and Recognition with Short Learning Samples

   • Autoři: Michail Schlesinger, Evgeniy Vodolazskiy
   • Shrnutí: Studie se zabývá problémy malých trénovacích vzorků ve strojovém učení. Kritizuje limity strategií maximální věrohodnosti a minimaxového učení a představuje koncept minimaxového učení s odchylkou. Tento nový přístup má za cíl překonat nedostatky stávajících metod a nabízí robustní alternativu pro scénáře učení z mála příkladů.
   • Více zde

3. Some Insights into Lifelong Reinforcement Learning Systems

   • Autor: Changjian Li
   • Shrnutí: Přestože je práce zaměřena především na celoživotní učení, poskytuje poznatky využitelné i pro učení z mála příkladů tím, že poukazuje na nedostatky tradičních paradigmat posilovaného učení. Naznačuje, že systémy celoživotního učení, které se neustále učí v rámci interakce, mohou nabídnout cenné perspektivy pro rozvoj modelů učení z mála příkladů.
   • Více zde

4. Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning

   • Autoři: Nick Erickson, Qi Zhao
   • Shrnutí: Dex toolkit je představen pro trénink a vyhodnocování metod kontinuálního učení se zaměřením na inkrementální učení. Tento přístup lze chápat jako formu učení z mála příkladů, kdy je optimální inicializace vah získávána řešením jednodušších prostředí. Práce ukazuje, že inkrementální učení může v komplexních scénářích posilovaného učení výrazně překonat tradiční metody.
   • Více zde

5. Augmented Q Imitation Learning (AQIL)

   • Autoři: Xiao Lei Zhang, Anish Agarwal
   • Shrnutí: Práce zkoumá propojení imitativního a posilovaného učení, dvou oblastí úzce souvisejících s učením z mála příkladů. AQIL kombinuje tyto paradigmy a vytváří robustní rámec pro neřízené učení, čímž nabízí vhled do toho, jak lze učení z mála příkladů vylepšit pomocí imitace a zpětné vazby.
   • Více zde