ある航空会社は、需要に基づいて航空券の価格を調整するために、SageMaker リアルタイムエンドポイントを運用しています。以前のデプロイでは、ウェブサイトのトラフィックが増加したときに十分に迅速にスケールできませんでした。ML エンジニアは、急激なトラフィックの急増に迅速に対応するために、ターゲット追跡オートスケーリングを設定する必要があります。最も応答性の高い設定はどれですか？

急激なトラフィックの急増に迅速に対応するには、高解像度メトリクスと短いクールダウン期間が重要です。SageMaker InvocationsPerInstance メトリクスを高解像度 (10 秒間隔) で使用することで、トラフィックの変化をより速く検出し、オートスケーリングが迅速にインスタンスを追加できます。スケールインクールダウンは、インスタンスが削除されるまでの待機時間です。デフォルトの 300 秒を維持することで、不要なインスタンスの削除を避けつつ、スケールアウトの応答性を阻害しません。600 秒のクールダウンは長すぎて、迅速なスケールアウトの恩恵を打ち消してしまいます。標準メトリクスは解像度が低く、迅速な応答には不向きです。