Korzystając z XGBoost w SageMaker, model wykrywania oszustw bardzo dobrze pasuje do danych treningowych, ale nie wykrywa oszustw w nowych, niewidzianych transakcjach. Jaką zmianę powinien wprowadzić inżynier ML, aby poprawić generalizację na nowe transakcje?

Model, który bardzo dobrze pasuje do danych treningowych, ale słabo radzi sobie z nowymi danymi, cierpi na nadmierne dopasowanie (overfitting). Zmniejszenie hiperparametru maxdepth w XGBoost redukuje złożoność pojedynczych drzew decyzyjnych, co ogranicza zdolność modelu do zapamiętywania szumu z danych treningowych. To z kolei poprawia jego zdolność do generalizacji na niewidziane wcześniej transakcje. Zwiększenie maxdepth pogłębiłoby problem nadmiernego dopasowania. Zwiększenie współczynnika uczenia (learning rate) może przyspieszyć konwergencję, ale niekoniecznie rozwiązuje problem nadmiernego dopasowania, a nawet może go pogłębić, jeśli model zbyt szybko uczy się specyfiki danych treningowych. Usunięcie nieistotnych cech jest dobrą praktyką, ale zmniejszenie maxdepth jest bardziej bezpośrednią metodą walki z nadmiernym dopasowaniem w kontekście złożoności drzewa.