Inżynier ML musi wdrożyć cztery modele (każdy zbudowany w innym frameworku) do potoku wnioskowania SageMaker i umożliwić klientom wywoływanie invoke_endpoint dla każdego modelu. Które ekonomiczne rozwiązanie spełnia te wymagania?

SageMaker multi-container endpoint jest prawidłowym rozwiązaniem, ponieważ pozwala na wdrożenie wielu modeli, zbudowanych w różnych frameworkach, na jednym instancji endpointu. Każdy model działa we własnym kontenerze, co zapewnia izolację i elastyczność. Klienci mogą wywoływać konkretny model, określając jego nazwę w żądaniu. Jest to ekonomiczne, ponieważ współdzieli zasoby instancji. SageMaker multi-model endpoint jest przeznaczony dla wielu modeli tego samego frameworka. Wiele single-model endpoints byłoby droższe, ponieważ każdy model wymagałby własnej instancji. Zadanie SparkML nie jest mechanizmem wdrażania punktów końcowych.