您正在將自訂的 ResNet 訓練環境打包到 Docker 容器中，以便在 SageMaker (使用 EC2 P3 實例) 中的 GPU 實例 (NVIDIA) 上運行。您必須怎麼做才能讓容器正確使用 GPU？

為了讓 Docker 容器在 NVIDIA GPU 上運行，它必須與 NVIDIA Container Toolkit (以前稱為 NVIDIA-Docker) 相容。這個工具包提供了必要的執行時組件，讓容器內的應用程式能夠存取主機的 GPU 驅動程式和硬體。 選項「在 Docker 映像檔中包含 NVIDIA 驅動程式」是錯誤的，因為最佳實踐是讓容器使用主機上的驅動程式，而不是將驅動程式打包到映像檔中，這會導致映像檔過大且難以維護。選項「專門為在 GPU 實例上運行而安排容器檔案佈局」過於籠統且不夠具體，容器的檔案佈局本身不會直接啟用 GPU 存取。選項「在 SageMaker CreateTrainingJob API 請求中設定 GPU 標誌」雖然是必要的步驟，但它只告訴 SageMaker 使用 GPU 實例，而不是配置容器本身以利用這些 GPU。