TensorFlow'da uygulanan bir zaman serisi tahmin modeli tek bir GPU üzerinde çalışıyor ve her gün yaklaşık 23 saat eğitim süresi alıyor. Ekip, eğitim verilerinin büyümesini bekliyor ve gelecekte kod ve altyapı değişikliklerini en aza indirerek saatlik olarak yeniden eğitim yapması gerekiyor. Gelecekteki talebe göre eğitimi ölçeklendirmek için en iyi değişiklik ne olacaktır?

Doğru cevap, TensorFlow kodunu Horovod ile değiştirmektir. Mevcut modelin eğitim süresi 23 saat olup, gelecekte saatlik yeniden eğitime ihtiyaç duyulacaktır. Bu, tek bir GPU'nun yetersiz kalacağını gösterir. Horovod, TensorFlow için dağıtılmış eğitim çerçevesidir ve Amazon SageMaker ile entegre olarak birden çok makinede paralel eğitimi kolaylaştırır. Bu sayede, gelecekteki veri büyümesi ve daha sık eğitim gereksinimleri karşılanabilirken, kod ve altyapı değişiklikleri minimumda tutulur. Daha güçlü tek bir GPU'ya geçmek, mevcut sorunu geçici olarak hafifletse de, gelecekteki ölçeklenme ihtiyaçlarını karşılamayacaktır. Yerleşik Amazon SageMaker DeepAR modelini kullanmak, mevcut TensorFlow modelini tamamen değiştirmek anlamına gelir ve bu, "kod ve altyapı değişikliklerini en aza indirme" şartına uymaz. Amazon EMR'ye taşımak, TensorFlow modelinin dağıtık eğitimini kolaylaştırmaz ve genellikle Spark tabanlı iş yükleri için daha uygundur.