Après avoir entraîné un modèle de régression, un spécialiste souhaite déterminer si les prédictions ont tendance à être systématiquement supérieures ou inférieures aux vraies valeurs. Quelle méthode de diagnostic montrera si le modèle surestime ou sous-estime la cible ?

Les diagrammes des résidus (résidus vs. valeurs prédites ou vs. variables indépendantes) sont essentiels pour diagnostiquer les erreurs systématiques. Si les résidus sont majoritairement positifs ou négatifs, cela indique une sous-estimation ou une surestimation cohérente du modèle. Une dispersion non aléatoire (par exemple, un motif en forme de cône ou de U) suggère également des problèmes. L'erreur quadratique moyenne (RMSE) est une mesure globale de l'erreur, mais elle n'indique pas la direction du biais. L'aire sous la courbe (AUC) est utilisée pour évaluer les modèles de classification, pas de régression. La matrice de confusion est également spécifique aux problèmes de classification.