Model liniowy przewidujący stawki w licytacjach reklam w czasie rzeczywistym jest przetrenowany (overfitting), a zespół musi zredukować zestaw cech. Które podejście zarówno zredukuje cechy, jak i zapobiegnie przetrenowaniu?

Regularyzacja L1 (LASSO) dodaje do funkcji kosztu sumę bezwzględnych wartości współczynników, co prowadzi do sprowadzenia niektórych z nich dokładnie do zera. To skutecznie eliminuje mniej istotne cechy z modelu, redukując ich liczbę i jednocześnie zapobiegając przetrenowaniu poprzez upraszczanie modelu. Regularyzacja L2 (Ridge) zmniejsza wartości współczynników, ale rzadko sprowadza je do zera, więc nie redukuje liczby cech. Dropout jest techniką regularyzacji stosowaną głównie w sieciach neuronowych, a nie w modelach liniowych w kontekście redukcji cech. Trenowanie z większą ilością danych treningowych może pomóc w walce z przetrenowaniem, ale nie redukuje zestawu cech.