SageMaker (EC2 P3 インスタンスを使用) で GPU インスタンス (NVIDIA) 上で実行するために、カスタムの ResNet トレーニング環境を Docker コンテナにパッケージ化しています。コンテナが GPU を適切に使用できるようにするには、何をしなければなりませんか？

正しい答えは、NVIDIA-Docker (NVIDIA Container Toolkit) と互換性があるようにコンテナをビルドする、です。SageMakerでGPUを利用するには、コンテナがNVIDIA Container Toolkitと連携できるように構築されている必要があります。これにより、コンテナ内部からホストのGPUとNVIDIAドライバーにアクセスできるようになります。 NVIDIAドライバーをDockerイメージに含める必要はありません。ドライバーはホストOSにインストールされており、NVIDIA Container Toolkitがコンテナにそれらを公開します。コンテナのファイルレイアウトを特別に配置する必要もありません。SageMaker CreateTrainingJob APIリクエストでGPUフラグを設定するだけでは、コンテナがGPUを利用できるようにはなりません。コンテナ自体がGPU対応である必要があります。