Een bedrijf heeft twee modellen geproduceerd: Model A detecteert frauduleuze transacties en wordt bij elke transactie aangeroepen; Model B voorspelt de verkoop van de volgende maand en wordt één keer per maand aangeroepen. Beide moeten in productie worden genomen met behulp van SageMaker AI. Welke hostingaanpak moet het bedrijf gebruiken?

Model A vereist directe detectie van frauduleuze transacties, wat een lage latentie en hoge beschikbaarheid impliceert. Een real-time endpoint is hiervoor de meest geschikte oplossing, omdat het onmiddellijke inferentie biedt voor individuele aanvragen. Model B voorspelt maandelijkse verkoop en wordt slechts één keer per maand aangeroepen. Voor dit type periodieke, grootschalige inferentie is Batch Transform ideaal. Het verwerkt een hele dataset in één keer, wat kosteneffectief is en geen continue resource-allocatie vereist zoals een real-time endpoint. Het hosten van beide modellen in één container achter één real-time endpoint is inefficiënt en kan leiden tot resourceconflicten. Het hosten van Model A op een asynchroon endpoint zou te veel latentie introduceren voor fraudedetectie. Het gebruik van Batch Transform voor Model A zou de real-time vereiste schenden, en een asynchroon endpoint voor Model B is onnodig complex voor een maandelijkse batchtaak.