Meerdere teams hebben lokaal voorspellingsmodellen ontwikkeld met Python met scikit-learn en TensorFlow. Het bedrijf moet die modellen opnieuw bouwen en integreren in een ML-infrastructuur die wordt beheerd met SageMaker en deze toevoegen aan een modelregister. Welke aanpak minimaliseert de operationele overhead?

De juiste aanpak is om de Python-modelcode naar SageMaker te brengen, de modellen daar opnieuw op te bouwen en ze vervolgens te registreren in de SageMaker Model Registry. Dit minimaliseert operationele overhead omdat SageMaker de volledige levenscyclus van het model beheert, inclusief training, hosting en versiebeheer. Door de modellen opnieuw op te bouwen binnen SageMaker, wordt de compatibiliteit met de SageMaker-infrastructuur gegarandeerd en kunnen alle SageMaker-functies, zoals automatische schaling en monitoring, worden benut. Het exporteren van modellen naar S3 en het aanroepen via API Gateway/Lambda introduceert extra beheerde services en complexiteit, wat de operationele overhead verhoogt. Het simpelweg importeren van modellen in de Model Registry en ze uitvoeren in SageMaker is mogelijk, maar biedt niet de volledige voordelen van een geïntegreerde SageMaker-workflow, vooral als de modellen niet oorspronkelijk zijn getraind in een SageMaker-compatibele omgeving. Het verpakken van code in containers via BYOC kan werken, maar het opnieuw bouwen van de modellen binnen SageMaker is een meer gestandaardiseerde en minder complexe aanpak voor het integreren van bestaande modellen in de SageMaker-workflow, vooral als de teams al Python-code hebben.