Un ingegnere ML deve distribuire quattro modelli (ciascuno costruito con un framework diverso) in una pipeline di inferenza SageMaker e consentire ai client di chiamare invoke_endpoint per ciascun modello. Qual è la soluzione più conveniente che soddisfa questi requisiti?

Un multi-container endpoint SageMaker è la soluzione più conveniente perché consente di raggruppare più modelli, ciascuno potenzialmente con il proprio framework e ambiente, dietro un singolo endpoint. Questo riduce i costi operativi e di gestione rispetto alla creazione di più endpoint singoli. Creare un multi-model endpoint SageMaker non è l'opzione più adatta in questo caso, poiché è ottimizzato per servire molti modelli dello stesso framework da un singolo container. Creare più single-model endpoint SageMaker sarebbe più costoso e complesso da gestire. Eseguire un job SparkML non è direttamente correlato alla distribuzione di endpoint di inferenza SageMaker.