Boosting ist eine leistungsstarke Ensemble-Lerntechnik, die darauf abzielt, die Genauigkeit von Vorhersagemodellen zu verbessern, indem schwache Lernalgorithmen kombiniert werden. Ein schwacher Lernalgorithmus ist ein Modell, das nur geringfügig besser als Zufallsglück abschneidet, typischerweise mit einer Genauigkeit von über 50 %. Bei Boosting wird eine Sequenz von Modellen trainiert, wobei jedes neue Modell die Fehler der vorherigen Modelle korrigiert. Dies geschieht durch eine iterative Anpassung der Gewichte der Trainingsdaten, sodass falsch klassifizierte Beispiele mehr Gewicht erhalten.
Die grundlegenden Schritte beim Boosting sind:
Am Ende werden die Vorhersagen der einzelnen schwachen Modelle aggregiert, typischerweise durch eine gewichtete Abstimmung, um eine endgültige, stärkere Vorhersage zu erhalten. Boosting hat sich als besonders effektiv in vielen Anwendungsbereichen erwiesen, wie z.B. in
Starte dein personalisiertes Lernelebnis mit acemate. Melde dich kostenlos an und finde Zusammenfassungen und Altklausuren für deine Universität.