Une entreprise a produit deux modèles : le modèle A détecte les transactions frauduleuses et sera invoqué à chaque transaction ; le modèle B prévoit les ventes du mois suivant et sera appelé une fois par mois. Les deux doivent être déployés en production à l'aide de SageMaker AI. Quelle approche d'hébergement l'entreprise devrait-elle utiliser ?

Le modèle A nécessite une inférence à faible latence pour chaque transaction, ce qui rend un point de terminaison en temps réel SageMaker idéal. Ce type de point de terminaison est conçu pour des requêtes synchrones et des réponses rapides. Le modèle B, qui prévoit les ventes une fois par mois, est un cas d'utilisation parfait pour la transformation par lots (Batch Transform). La transformation par lots est optimisée pour traiter de grands volumes de données de manière asynchrone, sans nécessiter de point de terminaison persistant, ce qui est plus rentable pour des tâches non urgentes. Héberger les deux modèles dans un seul conteneur derrière un point de terminaison en temps réel serait inefficace et coûteux pour le modèle B. Héberger le modèle A sur un point de terminaison asynchrone introduirait une latence inacceptable pour la détection de fraude. Utiliser la transformation par lots pour le modèle A serait trop lent, et héberger le modèle B avec un point de terminaison asynchrone serait excessif pour une tâche mensuelle qui n'a pas besoin d'une réponse rapide.