ML 엔지니어는 4개의 모델(각기 다른 프레임워크로 구축됨)을 SageMaker 추론 파이프라인에 배포하고 클라이언트가 각 모델에 대해 invoke_endpoint를 호출할 수 있도록 해야 합니다. 이러한 요구 사항을 충족하는 비용 효율적인 솔루션은 무엇입니까?

SageMaker 다중 컨테이너 엔드포인트는 단일 엔드포인트에 여러 모델을 배포할 수 있게 해줍니다. 이 경우, 각기 다른 프레임워크로 구축된 4개의 모델을 단일 엔드포인트에 배포하고 클라이언트가 각 모델에 대해 invokeendpoint를 호출할 수 있도록 하므로, 다중 컨테이너 엔드포인트가 가장 비용 효율적인 솔루션입니다. 다중 모델 엔드포인트는 동일한 프레임워크를 사용하는 여러 모델을 호스팅하는 데 적합하며, 단일 모델 엔드포인트는 각 모델마다 별도의 엔드포인트를 생성하므로 비용이 많이 듭니다. SparkML 작업은 엔드포인트 배포와 관련이 없습니다.