한 제조업체에 8개의 결함 클래스가 있으며, 각 클래스당 약 100,000개의 이미지를 제공했습니다. 훈련 중에 모델은 90%의 훈련 정확도를 달성했지만, 검증 정확도는 80%에 불과했으며, 사람 수준의 성능은 약 90%였습니다. 이러한 격차를 해결하기 위해 무엇을 조사해야 할까요?

훈련 정확도는 높지만 검증 정확도가 낮은 것은 모델이 훈련 데이터에 과적합(overfitting)되었음을 나타냅니다. 사람 수준의 성능이 90%이므로 모델이 아직 잠재력을 완전히 발휘하지 못하고 있습니다. 이러한 과적합을 해결하는 가장 효과적인 방법은 정규화(regularization)를 적용하는 것입니다. 정규화는 모델이 훈련 데이터의 노이즈까지 학습하는 것을 방지하여 일반화 성능을 향상시킵니다. 더 긴 시간 동안 훈련하는 것은 과적합을 악화시킬 수 있습니다. 네트워크 용량을 늘리는 것도 모델을 더 복잡하게 만들어 과적합 위험을 높일 수 있습니다. 다른 옵티마이저를 시도하는 것은 수렴 속도나 최종 성능에 영향을 줄 수 있지만, 과적합 문제를 직접적으로 해결하지는 못합니다.