Un ingeniero de machine learning que prepara datos para un modelo de clasificación observa que algunas características numéricas continuas tienen valores mucho mayores que las demás. Un experto en el dominio confirma que las características son informativas y que el conjunto de datos es representativo. La precisión del modelo entrenado es menor de lo esperado. ¿Qué paso de preprocesamiento mejorará más la precisión de la inferencia?

Normalizar las características con valores desproporcionadamente grandes es crucial porque muchos algoritmos de aprendizaje automático, especialmente aquellos basados en distancias (como SVM, k-NN) o gradientes (como redes neuronales), son sensibles a la escala de las características. Si algunas características tienen rangos de valores mucho mayores, pueden dominar la función de pérdida y el proceso de optimización, impidiendo que el modelo aprenda de otras características importantes. La normalización (por ejemplo, escalado Min-Max o estandarización Z-score) ajusta todas las características a un rango o distribución similar, permitiendo que el modelo les dé la ponderación adecuada. Bootstrapping es una técnica de muestreo para estimar la varianza o el sesgo, no para corregir la escala de las características. Eliminar características informativas reduciría la capacidad predictiva del modelo. Crear características sintéticas sin una base sólida puede introducir ruido o sesgo.