P3 인스턴스에서 내장 객체 감지 모델을 실행하는 프로덕션 SageMaker 실시간 엔드포인트의 GPU 활용률이 낮습니다. 프로비저닝된 추론 리소스를 더 잘 활용하려면 어떤 배포 변경을 해야 할까요?

정답은 M5 인스턴스에 모델을 재배포하고 Amazon Elastic Inference 가속기를 연결하는 것입니다. P3 인스턴스는 고성능 GPU를 제공하지만, 객체 감지 모델의 GPU 활용률이 낮다면 GPU 리소스가 과도하게 프로비저닝된 것일 수 있습니다. Amazon Elastic Inference(EI) 가속기는 GPU 인스턴스보다 훨씬 저렴한 비용으로 필요한 양의 GPU 가속을 인스턴스에 추가할 수 있게 해줍니다. 따라서 M5와 같은 CPU 기반 인스턴스에 모델을 배포하고 EI 가속기를 연결하면 비용 효율적으로 GPU 가속을 활용하면서 리소스 활용률을 높일 수 있습니다. 오답 설명: M5 인스턴스에서 모델을 배치 변환 작업으로 실행하는 것은 실시간 엔드포인트 요구 사항을 충족하지 못합니다. P3dn과 같은 더 큰 GPU 인스턴스로 이동하는 것은 이미 낮은 GPU 활용률 문제를 해결하지 못하고 오히려 비용을 증가시킬 수 있습니다. 추론을 위해 P3 인스턴스를 사용하여 Amazon ECS 클러스터에서 모델을 호스팅하는 것은 배포 환경만 변경할 뿐, 낮은 GPU 활용률 문제를 직접적으로 해결하지 못합니다.