您的訓練在主迴圈中使用了客製化的 C++ TensorFlow ops（大量的矩陣乘法）；訓練需要數天。您希望在 Google Cloud 上使用加速器來縮短時間並降低成本。您應該怎麼做？

由於您的訓練使用了客製化的 C++ TensorFlow ops，這些 ops 必須支援您選擇的加速器類型。Cloud TPUs 不支援客製化 C++ ops，除非它們被轉換為 TensorFlow ops。Cloud GPUs 雖然支援客製化 ops，但需要您為這些 ops 實作 GPU 核心支援，這是一個複雜且耗時的過程。因此，最直接且可能最快的方法是繼續使用 CPU 並擴大叢集規模，以利用更多的 CPU 資源來加速訓練。雖然這可能無法達到加速器級別的單一節點性能提升，但在不修改程式碼的情況下，透過水平擴展仍能有效縮短訓練時間並可能降低總體成本。