Ridge-Regression

Die Ridge-Regression ist eine regularisierte Form der linearen Regression, bei der zur Kostenfunktion ein Strafterm für große Koeffizienten hinzugefügt wird, um Überanpassung zu reduzieren. Dadurch wird die Modellkomplexität kontrolliert und die Vorhersageleistung insbesondere bei stark korrelierten Variablen verbessert. (vgl. Andrae 2023, S. 12)

Beispiel: Die Vorhersage von Immobilienpreisen, bei der viele stark zusammenhängende Merkmale wie Wohnfläche, Anzahl der Zimmer und Grundstücksgröße verwendet werden. Da diese Variablen ähnlich Informationen enthalten, würden ihre Koeffizienten in einer normalen linearen Regression sehr groß werden. Die Ridge-Regression dämpft diese Koeffizienten, sodass das Modell stabilere und realistischere Preisvorhersagen liefert.

Andrae, S. (2023): Ökonometrie und maschinelles Lernen. Basiswissen für Ökonomen. Wiesbaden: Springer Gabler