Um engenheiro de ML deve implantar quatro modelos (cada um construído com um framework diferente) em um pipeline de inferência do SageMaker e permitir que os clientes chamem invoke_endpoint para cada modelo. Qual solução econômica satisfaz esses requisitos?

A opção correta é criar um multi-container endpoint do SageMaker. Esta solução permite implantar vários modelos, cada um com seu próprio framework (container), em um único endpoint. Isso é econômico porque você paga por uma única instância de inferência, que é compartilhada pelos múltiplos containers. Os clientes podem então chamar invokeendpoint e especificar qual modelo (container) desejam usar. Criar um multi-model endpoint não seria adequado, pois ele é projetado para hospedar múltiplos modelos do mesmo framework em um único container, carregando-os dinamicamente. Criar múltiplos single-model endpoints seria mais caro, pois cada um exigiria sua própria instância de inferência. Executar um trabalho SparkML não é uma solução para implantação de endpoints de inferência em tempo real.