あるeコマースチームが、既存のリアルタイムレコメンデーションAPIの背後に新しいSageMakerモデルをデプロイしたいと考えています。クライアントアプリケーションを変更することなく、完全に展開する前に、本番トラフィックの一部で新しいモデルをテストしたいと考えています。運用上のオーバーヘッドが最も少ないのは、次のうちどの方法ですか？

正解は、既存のエンドポイントでSageMakerプロダクションバリアントを使用して、同じAPIを維持しながら、トラフィックの割合を新しいモデルにルーティングすることです。SageMakerプロダクションバリアントは、既存のSageMakerエンドポイント内で複数のモデルバージョンをデプロイし、トラフィックをルーティングする機能を提供します。これにより、クライアントアプリケーションを変更することなく、新しいモデルを本番トラフィックの一部でテストできます。運用上のオーバーヘッドが最も少なく、ブルー/グリーンデプロイメントやカナリアリリース戦略に適しています。 新しいエンドポイントを作成し、ALBやNLBを前面に配置する方法は、追加のインフラストラクチャと設定が必要となり、運用オーバーヘッドが増加します。バッチ変換はリアルタイム推論ではなく、大量のデータをオフラインで処理するために使用されるため、リアルタイムレコメンデーションAPIの要件には合いません。