您正在将自定义的 ResNet 训练环境打包到 Docker 容器中，以便在 SageMaker（使用 EC2 P3 实例）的 GPU 实例（NVIDIA）上运行。您必须怎么做才能使容器正确使用 GPU？

为了在 SageMaker 的 GPU 实例上正确使用 GPU，您的 Docker 容器必须与 NVIDIA-Docker（现在称为 NVIDIA Container Toolkit）兼容。NVIDIA Container Toolkit 允许 Docker 容器访问主机上的 GPU 硬件和驱动程序，而无需在容器内部安装驱动程序。 在 Docker 镜像中包含 NVIDIA 驱动程序是错误的，因为驱动程序应该安装在主机操作系统上，而不是容器内。容器内安装驱动程序会导致冲突和性能问题。 专门为在 GPU 实例上运行而安排容器文件布局不是必需的，因为 NVIDIA Container Toolkit 负责将 GPU 资源映射到容器。 在 SageMaker CreateTrainingJob API 请求中设置 GPU 标志是必要的，但不足以让容器使用 GPU。它只是告诉 SageMaker 启动一个 GPU 实例，但容器本身仍需要配置为能够访问 GPU。