Il tuo training utilizza operazioni TensorFlow personalizzate in C++ (moltiplicazioni di matrici pesanti) all'interno del ciclo principale; il training richiede giorni. Vuoi ridurre il tempo e mantenere bassi i costi utilizzando gli acceleratori su Google Cloud. Cosa dovresti fare?

Le Cloud TPU sono progettate per carichi di lavoro specifici di deep learning e richiedono che le operazioni siano implementate utilizzando le API TensorFlow di alto livello o kernel TPU personalizzati. Le operazioni C++ personalizzate non sono direttamente supportate e richiederebbero una riscrittura significativa. Le Cloud GPU, pur supportando operazioni personalizzate tramite kernel CUDA, richiederebbero comunque un'implementazione specifica per GPU delle tue operazioni C++, il che è un lavoro significativo. Dato che il training è già in C++ e richiede giorni, la soluzione più pratica e meno costosa in termini di tempo di sviluppo è scalare orizzontalmente sulle CPU esistenti, aumentando la dimensione del cluster. Questo permette di sfruttare il codice esistente senza la necessità di riscrivere le operazioni personalizzate per un'architettura diversa.