Een e-commerceteam wil een nieuw SageMaker-model implementeren achter hun bestaande real-time aanbevelings-API zonder clientapplicaties te wijzigen, en ze willen het nieuwe model testen op een deel van het productieverkeer voordat het volledig wordt uitgerold. Welke benadering biedt dit met de minste operationele overhead?

SageMaker production variants (productievarianten) op een bestaand endpoint zijn de meest efficiënte oplossing. Hiermee kunt u meerdere modellen achter één endpoint implementeren en het verkeer op basis van een configureerbaar percentage routeren, zonder de clienttoepassingen te wijzigen. Dit minimaliseert de operationele overhead omdat u geen nieuwe infrastructuur (zoals een ALB of NLB) hoeft te beheren en de API-interface hetzelfde blijft. Een nieuw endpoint met een ALB of NLB zou extra configuratie en beheer vereisen. SageMaker batch transform is bedoeld voor offline verwerking van grote datasets en niet voor real-time verkeersroutering.