Bir ML mühendisi, dört modeli (her biri farklı bir framework ile oluşturulmuş) bir SageMaker çıkarım işlem hattına dağıtmalı ve istemcilerin her model için invoke_endpoint çağırmasına izin vermelidir. Bu gereksinimleri karşılayan uygun maliyetli çözüm hangisidir?

Doğru cevap, bir SageMaker multi-container endpoint oluşturmaktır çünkü bu, farklı framework'lerle oluşturulmuş birden çok modeli tek bir endpoint arkasında dağıtmanıza olanak tanır. Bu çözüm, her model için ayrı bir endpoint oluşturmaktan daha uygun maliyetlidir ve yönetimi basitleştirir. Yanlış seçenekler: Bir SageMaker multi-model endpoint, aynı framework'ü kullanan ve aynı container'da barındırılabilen çok sayıda modeli dağıtmak için tasarlanmıştır. Bu senaryoda farklı framework'ler kullanıldığı için uygun değildir. Birden çok SageMaker single-model endpoint oluşturmak, her model için ayrı bir endpoint ve ilişkili kaynaklar gerektireceğinden maliyetli ve karmaşık olacaktır. Birden çok endpoint oluşturmak için bir SparkML işi çalıştırmak, bu gereksinim için uygun bir yöntem değildir. SparkML, genellikle veri işleme ve model eğitimi için kullanılır, çıkarım endpoint'leri dağıtmak için değil.