Ein TensorFlow-Modell mit benutzerdefinierten Operationen (einige müssen auf der CPU ausgeführt werden) wird in zwei Tagen auf einer n2-standard-32 VM trainiert. Was sollten Sie ändern, um die Trainingszeit kostengünstig zu reduzieren?

Die korrekte Antwort ist, das Modell mit einer VM mit einem GPU-Hardwarebeschleuniger zu trainieren. GPUs sind für parallele Berechnungen optimiert, wie sie in neuronalen Netzen häufig vorkommen, und können die Trainingszeit erheblich verkürzen, insbesondere bei benutzerdefinierten Operationen, die auf der CPU ausgeführt werden müssen. Da einige Operationen CPU-gebunden sind, ist eine GPU-VM eine kostengünstigere Lösung als eine TPU, da TPUs nur für bestimmte Arten von Operationen optimiert sind und die CPU-gebundenen Operationen dort nicht beschleunigt würden. n2-highmem-32 (mehr Arbeitsspeicher) oder e2-standard-32 (kostengünstiger, aber weniger leistungsstark) würden die Rechenleistung nicht ausreichend erhöhen, um die Trainingszeit signifikant zu reduzieren.