A MedScan Health precisa de um endpoint do SageMaker que execute um contêiner de pré-processamento de imagem, depois um contêiner de modelo TensorFlow e, em seguida, um contêiner de pós-processamento em sequência para cada solicitação. Eles querem uma única URL de endpoint HTTP para os clientes. Qual abordagem de implantação do SageMaker melhor satisfaz esse requisito com o mínimo de rede extra e comportamento correto do ciclo de vida do modelo?

A opção correta é criar um pipeline de inferência porque ela permite encadear múltiplos contêineres (pré-processamento, modelo, pós-processamento) em um único endpoint HTTP. O SageMaker gerencia a orquestração e a passagem de dados entre os contêineres automaticamente para cada solicitação, minimizando a latência de rede e simplificando a arquitetura. Implantar três endpoints separados com um Application Load Balancer e Lambda adiciona complexidade e latência de rede desnecessárias, pois cada etapa envolveria uma nova chamada de rede externa. O endpoint multi-modelo do SageMaker é projetado para hospedar múltiplos modelos independentes em uma única instância, não para encadear etapas de processamento sequenciais dentro de uma única solicitação. Implementar pré-processamento e pós-processamento como trabalhos de SageMaker Processing é inadequado para inferência em tempo real, pois são soluções assíncronas e não retornam uma resposta imediata ao cliente.