Un modello di previsione di serie temporali implementato in TensorFlow viene eseguito su una singola GPU e richiede circa 23 ore per l'addestramento giornaliero. Il team prevede una crescita dei dati di addestramento e in futuro dovrà riaddestrare il modello ogni ora, riducendo al minimo le modifiche al codice e all'infrastruttura. Quale modifica consentirà al meglio di scalare l'addestramento per la domanda futura?

L'opzione corretta è modificare il codice TensorFlow per usare Horovod e parallelizzare l'addestramento. Horovod è un framework di addestramento distribuito che si integra bene con TensorFlow e SageMaker, permettendo di scalare l'addestramento su più GPU o istanze con modifiche minime al codice esistente. Questo risponde all'esigenza di ridurre i tempi di addestramento e minimizzare le modifiche. Mantenere il codice TensorFlow invariato e passare a una singola GPU più potente potrebbe non essere sufficiente per raggiungere l'addestramento orario con la crescita dei dati, poiché la scalabilità di una singola GPU ha dei limiti. Sostituire il modello con DeepAR di Amazon SageMaker implicherebbe una riscrittura significativa del modello e della logica, violando il requisito di minimizzare le modifiche al codice. Spostare il carico di lavoro su Amazon EMR è più adatto per carichi di lavoro di big data processing e non è la soluzione più efficiente o diretta per scalare l'addestramento di un modello TensorFlow esistente, richiederebbe più modifiche all'infrastruttura e al codice.