Unüberwachtes Lernen
Unüberwachtes Lernen ist eine Methode des maschinellen Lernens, bei der Algorithmen mit nicht gelabelten Daten trainiert werden, um verborgene Muster, Strukture...
3 Min. Lesezeit
Unsupervised Learning
Machine Learning
+4
Semi-Supervised Learning (SSL) ist eine Machine-Learning-Technik, die zwischen überwachten und unüberwachten Lernverfahren angesiedelt ist. Sie nutzt sowohl gelabelte als auch ungelabelte Daten, um Modelle zu trainieren, und ist besonders nützlich, wenn große Mengen ungelabelter Daten zur Verfügung stehen, aber die Kennzeichnung aller Daten unpraktisch oder kostspielig ist. Dieser Ansatz kombiniert die Stärken des überwachten Lernens – das auf gelabelte Daten zum Trainieren setzt – mit denen des unüberwachten Lernens, das ungelabelte Daten nutzt, um Muster oder Gruppierungen zu erkennen.
Wichtige Merkmale des Semi-Supervised Learning
- Datennutzung: Verwendet einen kleinen Anteil gelabelter Daten zusammen mit einem größeren Anteil ungelabelter Daten. Diese Mischung ermöglicht es Modellen, von den gelabelten Daten zu lernen und gleichzeitig durch die ungelabelten Daten die Generalisierung und Leistung zu verbessern.
- Annahmen:
- Kontinuitätsannahme: Punkte, die im Eingaberaum nahe beieinander liegen, haben wahrscheinlich das gleiche Label.
- Cluster-Annahme: Daten bilden häufig Cluster, wobei Punkte im selben Cluster ein Label teilen.
- Manifold-Annahme: Hochdimensionale Daten sind in einer niedrigdimensionalen Mannigfaltigkeit strukturiert.
- Techniken:
- Self-Training: Das zunächst auf gelabelten Daten trainierte Modell wird verwendet, um Labels für ungelabelte Daten vorherzusagen, und iterativ mit diesen Pseudolabels weitertrainiert.
- Co-Training: Zwei Modelle werden auf unterschiedlichen Merkmalsmengen oder Ansichten der Daten trainiert und helfen jeweils, die Vorhersagen des anderen zu verfeinern.
- Graphbasierte Methoden: Nutzen Graphstrukturen, um Labels über Knoten hinweg zu propagieren und dabei die Ähnlichkeit zwischen Datenpunkten auszunutzen.
- Anwendungen:
- Bild- und Spracherkennung: Wo die Kennzeichnung jedes Datenpunkts arbeitsintensiv ist.
- Betrugserkennung: Nutzung von Mustern in großen Transaktionsdatensätzen.
- Textklassifikation: Effiziente Kategorisierung großer Dokumentenkorpora.
- Vorteile und Herausforderungen:
- Vorteile: Verringert den Bedarf an umfangreichen gelabelten Datensätzen, verbessert die Modellgenauigkeit durch Nutzung zusätzlicher Daten und kann sich mit minimalem zusätzlichen Kennzeichnungsaufwand an neue Daten anpassen.
- Herausforderungen: Erfordert sorgfältigen Umgang mit den Annahmen, und die Qualität der Pseudolabels kann die Modellleistung erheblich beeinflussen.
Beispielanwendungsfälle
- Spracherkennung: Unternehmen wie Meta haben SSL genutzt, um Spracherkennungssysteme zu verbessern, indem sie Modelle zunächst mit einem kleinen Satz gelabelter Audiodaten trainieren und das Lernen anschließend mit einer größeren Menge ungelabelter Audiodaten erweitern.
- Textdokumentklassifikation: In Szenarien, in denen das manuelle Labeln jedes Dokuments unpraktisch ist, hilft SSL bei der Klassifikation, indem es eine kleine Menge gelabelter Beispiele nutzt.
Bereit, Ihr Geschäft zu erweitern?
Starten Sie heute Ihre kostenlose Testversion und sehen Sie innerhalb weniger Tage Ergebnisse.
Forschung zu Semi-Supervised Learning
Semi-Supervised Learning ist ein Ansatz im maschinellen Lernen, bei dem eine kleine Menge gelabelter Daten und ein größerer Pool ungelabelter Daten zum Trainieren von Modellen verwendet werden. Diese Methode ist besonders hilfreich, wenn es teuer oder zeitaufwändig ist, einen vollständig gelabelten Datensatz zu erhalten. Im Folgenden finden Sie einige wichtige wissenschaftliche Arbeiten, die verschiedene Aspekte und Anwendungen von Semi-Supervised Learning behandeln:
| Titel | Autoren | Beschreibung | Link |
|---|---|---|---|
| Minimax Deviation Strategies for Machine Learning | Michail Schlesinger, Evgeniy Vodolazskiy | Erörtert Herausforderungen bei kleinen Trainingsdatensätzen, kritisiert bestehende Methoden und stellt Minimax Deviation Learning für robuste Semi-Supervised-Learning-Strategien vor. | Mehr zu dieser Arbeit |
| Some Insights into Lifelong Reinforcement Learning Systems | Changjian Li | Bietet Einblicke in lebenslanges Reinforcement Learning und schlägt neue Ansätze zur Integration von Semi-Supervised Learning-Techniken vor. | Details zu dieser Studie |
| Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning | Nick Erickson, Qi Zhao | Präsentiert das Dex-Toolkit für kontinuierliches Lernen und nutzt inkrementelles sowie Semi-Supervised Learning für mehr Effizienz in komplexen Umgebungen. | Mehr zu dieser Methode |
| Augmented Q Imitation Learning (AQIL) | Xiao Lei Zhang, Anish Agarwal | Untersucht einen hybriden Ansatz zwischen Imitations- und Reinforcement Learning und integriert Prinzipien des Semi-Supervised Learning für schnellere Konvergenz. | Mehr über AQIL |
| A Learning Algorithm for Relational Logistic Regression: Preliminary Results | Bahare Fatemi, Seyed Mehran Kazemi, David Poole | Führt das Lernen für Relational Logistic Regression ein und zeigt, wie Semi-Supervised Learning die Leistung bei versteckten Merkmalen in multirelationalen Daten verbessert. | Vollständige Arbeit hier lesen |