실무자가 훈련 세트에서는 강력한 성능을 달성하지만 평가 데이터에서는 성능이 저조한 모델을 훈련합니다. 가장 가능성 높은 설명은 무엇입니까?

모델이 훈련 세트에서는 잘 작동하지만 평가 데이터에서는 성능이 저조하다는 것은 모델이 훈련 데이터의 특정 패턴이나 노이즈에 너무 맞춰져 일반화 능력을 잃었다는 것을 의미합니다. 이는 과적합(overfitting)의 전형적인 증상입니다. 과적합된 모델은 보지 못한 데이터에 대해 정확한 예측을 할 수 없습니다. 모델이 underfit되었다면 훈련 세트에서도 성능이 좋지 않을 것입니다. 프롬프트 엔지니어링은 주로 대규모 언어 모델(LLM)과 관련이 있으며, 모델 훈련 자체의 문제라기보다는 모델과의 상호 작용 방식에 해당합니다. 모델이 편향되었다면 특정 그룹이나 데이터 유형에 대해 일관되게 잘못된 예측을 할 수 있지만, 훈련 세트에서의 강력한 성능과 평가 데이터에서의 저조한 성능이라는 일반화 문제와는 다릅니다.