Un especialista en ML entrena modelos de visión artificial de aprendizaje profundo en una instancia EC2 con una relación CPU:GPU de 12:1 y descubre que la GPU está inactiva aproximadamente la mitad del tiempo. Debe reducir los costos de entrenamiento sin alargar la duración de los trabajos. ¿Qué opción cumple este requisito?

La opción correcta es usar instancias Spot de EC2 optimizadas para memoria. La inactividad de la GPU indica que la CPU no está alimentando los datos lo suficientemente rápido. Las instancias Spot pueden reducir los costos hasta en un 90% y, al ser optimizadas para memoria, pueden ayudar a que la CPU procese los datos más eficientemente para la GPU, manteniendo la duración del trabajo. Cambiar a una instancia solo de CPU aumentaría drásticamente el tiempo de entrenamiento para modelos de aprendizaje profundo. Usar un clúster heterogéneo es una solución compleja que no aborda directamente la ineficiencia CPU-GPU y podría aumentar los costos. Cambiar a una relación CPU:GPU de 6:1 podría no resolver el cuello de botella de la CPU y podría ser más costoso si la GPU sigue inactiva.