あるチームが、予測モデルの複数のバージョンを本番環境で長期的に実行し、各バージョンが提供する推論の割合を制御し、実装作業を最小限に抑えたいと考えています。これらのニーズを最もよく満たすソリューションはどれですか？

このソリューションは、SageMakerのプロダクションバリアント機能を利用しており、複数のモデルバージョンを単一のエンドポイントでホストし、トラフィックを重み付けしてルーティングできるため、A/Bテストやカナリアリリースに最適です。これにより、アプリケーション側の変更を最小限に抑えつつ、推論の割合をきめ細かく制御できます。 他の選択肢は、この要件を効率的に満たしません。 各モデルに個別のエンドポイントを作成すると、アプリケーションが複数のエンドポイントを管理する必要があり、実装作業が増加します。 SageMaker Neoはエッジデバイス向けにモデルを最適化するものであり、本番環境での複数モデルのトラフィック制御には直接関係ありません。 バッチ変換はリアルタイム推論ではなく、オフライン処理に使用されるため、リアルタイムの推論割合制御には適していません。