Un modello TensorFlow con operazioni personalizzate (alcune devono essere eseguite sulla CPU) si addestra in due giorni su una VM n2-standard-32. Per ridurre il tempo di addestramento in modo economicamente vantaggioso, cosa dovresti cambiare?

L'addestramento di modelli TensorFlow, specialmente con operazioni personalizzate, beneficia enormemente dell'accelerazione hardware. Le GPU sono la scelta più versatile ed economicamente vantaggiosa per carichi di lavoro TensorFlow che includono operazioni personalizzate, poiché offrono un'ampia compatibilità con librerie e codice esistente, inclusi kernel personalizzati. Le TPU sono altamente ottimizzate per carichi di lavoro specifici di TensorFlow con matrici dense e operazioni standard, ma potrebbero non offrire gli stessi vantaggi o la stessa facilità d'uso con operazioni personalizzate che richiedono l'esecuzione su CPU o kernel GPU specifici. Cambiare il tipo di VM in n2-highmem-32 (più RAM) o e2-standard-32 (più economico ma meno performante) non affronterebbe la necessità di accelerazione computazionale per l'addestramento del modello.