本番稼働中の SageMaker エンドポイントでモデルバージョン v1 が実行されています。新しいバージョン v2 を、リスクを最小限に抑え、ライブトラフィックを中断することなく、本番環境でテストする必要があります。v2 に切り替える前に v2 を検証するための最良のアプローチは何ですか？

シャドウバリアントは、本番環境のトラフィックを中断することなく新しいモデルバージョンをテストする最も安全な方法です。シャドウバリアントは、本番エンドポイントに送信されるすべての推論リクエストのコピーを受け取りますが、その出力はユーザーに返されません。これにより、v2 のパフォーマンスをリアルタイムの本番データで評価し、問題がないことを確認してから、本番トラフィックをv2に切り替えることができます。他のオプションは、ユーザーに影響を与える可能性のあるトラフィックを新しいモデルにルーティングしたり、新しいエンドポイントの管理オーバーヘッドを発生させたりするため、リスクが高くなります。