あるオンラインデリバリー会社は、都市ごとに1つのXGBoostモデルをS3に保存しており、現在、各モデルを独自のEC2インスタンスでホストしています（利用率は5%）。同社は、既存ユーザーと新規ユーザーの両方に対して、ウェブアプリがリアルタイムで最速の配達員を選択できるようにしたいと考えており、運用上のオーバーヘッドを最小限に抑えたいと考えています。最も管理作業が少ないソリューションはどれですか？

SageMakerマルチモデルエンドポイントは、単一のインスタンスで複数のモデルをホストできるため、運用オーバーヘッドを最小限に抑えつつ、高い利用率とスケーラビリティを実現します。TargetModelパラメータを使用することで、リクエスト時に特定の都市のモデルを動的にロードし、リアルタイムの推論を実行できます。 バッチ変換はリアルタイム推論には適していません。単一のEC2インスタンスに統合する方法は、スケーラビリティと耐障害性に課題があり、管理オーバーヘッドも高くなります。都市ごとに個別のSageMakerエンドポイントを作成する方法は、モデル数が多い場合に管理が複雑になり、コストも高くなる可能性があります。