一家公司在 SageMaker 端点上托管了一个自定义 PyTorch CNN 图像分类器，并希望为用户提供更高的吞吐量和更低的延迟。哪种选项是提高性能最具成本效益的方法？

在 SageMaker 托管端点上启用 Amazon Elastic Inference (EI) 是最具成本效益的解决方案，因为它允许您将深度学习推理加速器附加到任何 SageMaker 实例类型，从而在不更改实例类型的情况下提高吞吐量和降低延迟，并且成本远低于使用带有多个 GPU 的实例。重新训练 CNN 可能会提高准确性，但不会直接解决吞吐量和延迟问题，而且可能耗时且昂贵。切换到具有多个 GPU 的实例类型可以提高性能，但通常比使用 Elastic Inference 昂贵得多，因为您需要为整个 GPU 实例付费，而不是只为所需的推理加速付费。