한 웹 회사가 딥러닝 다중 클래스 모델을 훈련시키는데, 훈련 데이터에서는 90%의 정확도를 보이지만 테스트 데이터에서는 70%의 정확도만 보입니다(과적합). 배포 전에 검증 및 테스트 세트의 정확도를 최대화하기 위해 모델이 가장 잘 일반화되도록 돕는 가장 효과적인 조치는 무엇일까요?

과적합은 모델이 훈련 데이터에 너무 특화되어 새로운 데이터에 대한 성능이 저하될 때 발생합니다. L1 또는 L2 정규화는 모델의 가중치 크기에 페널티를 부여하여 복잡도를 줄이고, 드롭아웃은 훈련 중 무작위로 뉴런을 비활성화하여 모델이 특정 특징에 과도하게 의존하는 것을 방지합니다. 이 두 가지 기술은 모델의 일반화 능력을 향상시켜 검증 및 테스트 세트에서 더 나은 성능을 달성하는 데 가장 효과적입니다. 미니 배치 무작위성은 훈련을 안정화하지만 과적합을 직접적으로 해결하지는 못합니다. 훈련 데이터 비율 증가는 데이터 부족이 원인이 아닐 경우 효과가 제한적이며, 네트워크 크기 축소는 모델의 표현력을 저해할 수 있습니다.