Um modelo deve ser executado uma vez por noite para prever os valores das ações do dia seguinte. A entrada é de 3 MB coletados naquele dia, e a inferência é concluída em menos de 1 minuto. Como você deve implantar este modelo no Amazon SageMaker para atender a esses requisitos?

A inferência serverless é ideal para cargas de trabalho esporádicas e imprevisíveis, como a execução noturna do modelo, pois provisiona recursos sob demanda e você paga apenas pelo tempo de inferência. Definir MaxConcurrency como 1 garante que apenas uma invocação seja processada por vez, o que é suficiente para a tarefa de 3 MB que leva menos de 1 minuto. Um endpoint serverless multi-modelo com cache não é necessário, pois há apenas um modelo e a inferência é rápida. A inferência assíncrona é mais adequada para grandes lotes ou quando a resposta não precisa ser imediata, e definir InitialInstanceCount como 0 não é uma opção para endpoints assíncronos que sempre mantêm um mínimo de instâncias. Um endpoint em tempo real com autoescalonamento para 0 é uma opção, mas o serverless elimina a necessidade de gerenciar políticas de escalonamento, sendo mais simples e econômico para esse caso de uso.