Seu treinamento usa operações TensorFlow C++ personalizadas (multiplicações de matriz pesadas) dentro do loop principal; o treinamento leva dias. Você deseja reduzir o tempo e manter os custos baixos usando aceleradores no Google Cloud. O que você deve fazer?

A resposta correta é permanecer em CPUs e aumentar o tamanho do cluster. O problema menciona que as operações personalizadas são implementadas em C++ e são multiplicações de matriz pesadas. Para aproveitar Cloud TPUs ou Cloud GPUs, essas operações personalizadas precisariam de implementações de kernel específicas para esses aceleradores (TPU ou GPU, respectivamente). Como o treinamento já leva dias e o objetivo é reduzir o tempo mantendo os custos baixos, reescrever as operações personalizadas para kernels de GPU/TPU seria um esforço significativo e não uma solução imediata. Aumentar o tamanho do cluster de CPUs permite paralelizar o treinamento e reduzir o tempo total, aproveitando a infraestrutura existente sem a necessidade de reengenharia complexa do código C++ para aceleradores.