Özel bir ResNet eğitim ortamını SageMaker'daki (EC2 P3 örnekleri kullanan) GPU örneklerinde (NVIDIA) çalıştırmak üzere bir Docker container'ına paketliyorsunuz. Container'ın GPU'ları düzgün bir şekilde kullanabilmesi için ne yapmanız gerekir?

Doğru cevap, container'ı NVIDIA-Docker (NVIDIA Container Toolkit) ile uyumlu olacak şekilde oluşturmaktır. NVIDIA GPU'larını Docker container'ları içinde kullanmak için, container'ın GPU donanımıyla doğrudan etkileşim kurmasını sağlayan özel bir çalışma zamanına ihtiyacı vardır. NVIDIA Container Toolkit (eski adıyla NVIDIA-Docker), bu entegrasyonu sağlar. NVIDIA sürücülerini Docker imajının içine dahil etmek genellikle gerekli değildir ve hatta sorunlara yol açabilir. Sürücüler genellikle ana bilgisayar işletim sisteminde yüklüdür ve NVIDIA Container Toolkit, container'ın bu ana bilgisayar sürücüleriyle arayüz oluşturmasına izin verir. Container dosya düzenini ayarlamak veya SageMaker CreateTrainingJob API isteğinde bir GPU bayrağı ayarlamak, NVIDIA Container Toolkit'in sağladığı temel GPU erişimini sağlamaz. Bu seçenekler, GPU'ların container içinde kullanılabilmesi için gerekli olan düşük seviyeli entegrasyonu sağlamaz.