Una empresa web entrena un modelo de aprendizaje profundo multiclase y observa una precisión del 90% en los datos de entrenamiento, pero solo del 70% en los datos de prueba (sobreajuste). Para maximizar la precisión en los conjuntos de validación y prueba antes de la implementación, ¿qué acción es la que tiene más probabilidades de ayudar a que el modelo generalice mejor?

El sobreajuste ocurre cuando un modelo aprende los detalles y el ruido de los datos de entrenamiento hasta el punto de que impacta negativamente el rendimiento del modelo en datos nuevos. Para combatir el sobreajuste y mejorar la generalización, las técnicas de regularización son muy efectivas. La regularización L1 y L2 penalizan los pesos grandes del modelo, lo que ayuda a simplificar el modelo y evitar que se ajuste demasiado a los datos de entrenamiento. El dropout desactiva aleatoriamente un porcentaje de neuronas durante el entrenamiento, lo que obliga a la red a aprender representaciones más robustas y menos dependientes de neuronas específicas. Aumentar la aleatoriedad en los mini-lotes no aborda directamente el sobreajuste. Asignar más datos al entrenamiento podría empeorar el sobreajuste si el modelo ya está memorizando los datos. Reducir el tamaño de la red podría llevar a un subajuste si la red se vuelve demasiado simple para capturar los patrones subyacentes.