SageMaker의 XGBoost를 사용하는 사기 탐지 모델이 훈련 데이터에는 매우 잘 맞지만, 새롭고 이전에 본 적 없는 트랜잭션에서는 사기를 탐지하지 못합니다. ML 엔지니어는 새로운 트랜잭션에 대한 일반화 성능을 개선하기 위해 어떤 변경을 해야 할까요?

모델이 훈련 데이터에는 잘 맞지만 새로운 데이터에 대해 사기를 탐지하지 못하는 것은 과적합(overfitting)의 전형적인 증상입니다. 과적합은 모델이 훈련 데이터의 노이즈까지 학습하여 일반화 능력이 떨어질 때 발생합니다. XGBoost에서 maxdepth 하이퍼파라미터를 줄이면 개별 트리의 복잡도가 감소하여 모델이 훈련 데이터에 과도하게 맞추는 것을 방지하고 새로운 데이터에 대한 일반화 성능을 향상시킬 수 있습니다. 학습률을 높이면 모델이 더 빠르게 수렴할 수 있지만, 과적합을 악화시키거나 최적점을 지나칠 수 있습니다. 예측과 관련 없는 특징을 제거하는 것은 모델 성능에 도움이 될 수 있지만, 과적합 문제를 직접적으로 해결하는 방법은 아닙니다. maxdepth를 늘리면 트리가 더 깊어져 모델 복잡도가 증가하고 과적합이 심화될 가능성이 높습니다.