あるMLスペシャリストが、12:1のCPU:GPU比を持つEC2インスタンスで深層学習コンピュータービジョンモデルをトレーニングしていますが、GPUが約半分の時間アイドル状態になっていることに気づきました。ジョブの期間を長くすることなく、トレーニングコストを削減する必要があります。この要件を満たすオプションはどれですか？

GPUのアイドル時間が長いということは、GPUがCPUからのデータ供給を待っている状態であり、CPUがボトルネックになっている可能性が高いです。メモリ最適化されたEC2 Spot Instancesを使用することで、トレーニングコストを大幅に削減できます。Spot Instancesはオンデマンド価格と比較して最大90%安価であり、メモリ最適化インスタンスはCPUとメモリのバランスが良く、データ前処理やロード時間を短縮し、GPUの利用率を向上させることができます。 CPUのみのインスタンスタイプへの切り替えは、深層学習モデルのトレーニングには不向きです。異種クラスターの使用は複雑さを増し、コスト削減に直結しない可能性があります。CPU:GPU比が6:1のインスタンスタイプへの切り替えは、GPUのアイドル時間を解決しない可能性があります。