P3 インスタンスで組み込みのオブジェクト検出モデルを実行している本番稼働中の SageMaker リアルタイムエンドポイントで、GPU 使用率が低いと表示されています。プロビジョニングされた推論リソースをより有効に活用するには、どのデプロイ変更を行いますか？

P3インスタンスは高価なGPUインスタンスであり、GPU使用率が低い場合、リソースの過剰プロビジョニングが発生しています。M5インスタンスはCPUベースのインスタンスで、Elastic Inferenceアクセラレーターをアタッチすることで、必要なGPU推論能力をコスト効率よく追加できます。これにより、P3インスタンス全体をプロビジョニングするよりもはるかに安価にGPU推論をスケールアップできます。 バッチ変換はリアルタイムエンドポイントの要件を満たしません。P3dnのようなより大きなGPUインスタンスへの移行は、GPU使用率が低い問題の解決にはならず、コストをさらに増加させます。Amazon ECSクラスターでモデルをホストすることは、SageMakerの管理されたサービスを利用するメリットを失い、運用上のオーバーヘッドが増加します。