Un modèle de recommandation pour un site de commerce électronique doit utiliser toutes les données d'interaction client comme entrée. Le volume de trafic varie tout au long de la journée. Quel type de point de terminaison d'inférence SageMaker est le plus rentable pour ce modèle d'utilisation ?

Le point de terminaison d'inférence sans serveur (Serverless Inference Endpoint) est le plus rentable car il s'adapte automatiquement de zéro à des milliers d'invocations en fonction du trafic, ce qui est idéal pour les charges de travail variables et imprévisibles. Vous ne payez que pour la durée de calcul et la quantité de données traitées, évitant ainsi les coûts d'instances inactives. Le point de terminaison d'inférence Batch Transform est conçu pour le traitement par lots de grands volumes de données hors ligne, pas pour des interactions en temps quasi réel. Le point de terminaison d'inférence asynchrone est adapté aux requêtes qui peuvent prendre plusieurs minutes à traiter, mais il maintient des instances en cours d'exécution, ce qui peut être moins rentable pour des périodes d'inactivité. Le point de terminaison d'inférence en temps réel maintient des instances provisionnées en permanence, ce qui est coûteux lorsque le trafic est faible.