Votre entraînement utilise des opérations TensorFlow C++ personnalisées (multiplications matricielles lourdes) au sein de la boucle principale ; l'entraînement prend des jours. Vous souhaitez réduire le temps et maintenir les coûts bas en utilisant des accélérateurs sur Google Cloud. Que devriez-vous faire ?

La bonne réponse est de rester sur les CPU et d'augmenter la taille du cluster. Les opérations TensorFlow C++ personnalisées sont intrinsèquement liées à l'architecture CPU. Pour les exécuter efficacement sur des accélérateurs comme les GPU ou les TPU, il faudrait réécrire ces opérations en utilisant des langages et des frameworks spécifiques aux accélérateurs (comme CUDA pour les GPU ou les API de TPU). Étant donné que le temps est une contrainte majeure et que la réécriture complète du code est coûteuse en temps et en ressources, la solution la plus rapide et la plus économique est de paralléliser le travail sur un plus grand nombre de CPU. Cela permet de distribuer la charge de calcul sans modifications majeures du code existant. Les options impliquant les TPU ou les GPU sont incorrectes car elles nécessiteraient une refonte significative des opérations personnalisées, ce qui contredit l'objectif de maintenir les coûts bas et de réduire le temps.