新しいモデルを完全にリリースする前に、会社は本番トラフィックの10%でオンライン検証を行う必要があります。モデルは、Application Load Balancerの背後にあるSageMakerエンドポイントによって提供されます。運用上のオーバーヘッドが最も少ない、必要な10%のオンライン検証を提供するセットアップはどれですか？

SageMakerエンドポイントに新しいモデルを本番バリアントとして追加し、重みを0.1に設定することで、既存のエンドポイントでトラフィックの10%を新しいモデルにルーティングできます。これにより、カナリアデプロイメントが実現され、運用上のオーバーヘッドが最も少なくなります。CloudWatchは、エンドポイントのメトリクスを監視する標準的な方法です。重みを1に設定すると、すべてのトラフィックが新しいモデルにルーティングされてしまい、10%の検証要件を満たしません。新しいエンドポイントを作成すると、管理が複雑になり、オーバーヘッドが増加します。ALBでトラフィックを分割する方法は可能ですが、SageMakerのバリアント機能の方が統合されており、運用が容易です。CloudTrailはAPIアクティビティを記録するサービスであり、呼び出しの監視には適していません。