Un ingénieur en machine learning préparant des données pour un modèle de classification remarque que quelques caractéristiques numériques continues ont des valeurs beaucoup plus grandes que les autres. Un expert du domaine confirme que les caractéristiques sont informatives et que l'ensemble de données est représentatif. La précision du modèle entraîné est inférieure aux attentes. Quelle étape de prétraitement améliorera le plus la précision de l'inférence ?

La normalisation des caractéristiques (par exemple, la mise à l'échelle min-max ou la standardisation z-score) est cruciale lorsque certaines caractéristiques numériques continues ont des échelles très différentes. Les modèles basés sur la distance (comme les SVM, les k-NN) ou les algorithmes d'optimisation basés sur le gradient (comme les réseaux de neurones) sont sensibles à l'échelle des caractéristiques. Des valeurs disproportionnellement grandes peuvent dominer la fonction de coût, empêchant le modèle d'apprendre efficacement des autres caractéristiques, ce qui réduit la précision. Le bootstrapping est une technique d'échantillonnage, pas de prétraitement des caractéristiques. Supprimer des caractéristiques informatives réduirait la capacité du modèle. Créer des caractéristiques synthétiques extrapolées pourrait introduire du bruit ou des artefacts non représentatifs.