Une compagnie aérienne utilise un endpoint SageMaker en temps réel pour ajuster les prix des billets en fonction de la demande. Les déploiements précédents n'ont pas réussi à s'adapter assez rapidement lorsque le trafic du site web augmentait. L'ingénieur ML doit configurer l'auto scaling de suivi de cible (target-tracking auto scaling) pour répondre rapidement aux pics de trafic soudains. Quelle configuration sera la plus réactive ?

Pour une réactivité maximale aux pics de trafic, il est crucial d'utiliser une métrique qui reflète directement la charge de travail et de la surveiller avec une haute résolution. La métrique SageMaker InvocationsPerInstance est idéale car elle mesure le nombre d'invocations par instance, indiquant directement la charge. Une résolution d'intervalle de 10 secondes (haute résolution) permet à l'auto scaling de détecter et de réagir plus rapidement aux changements soudains de la demande, par rapport à la résolution standard de 1 minute. Conserver le délai de temporisation de scale-in par défaut de 300 secondes est approprié pour permettre aux nouvelles instances de se stabiliser avant de potentiellement réduire le nombre d'instances, évitant ainsi des oscillations inutiles. Un délai de temporisation de scale-in plus long (600 secondes) retarderait la réduction des instances, ce qui n'est pas optimal pour une réactivité rapide. L'utilisation de la résolution standard (1 minute) serait trop lente pour répondre efficacement aux pics de trafic soudains.