Une entreprise de commerce électronique reçoit plusieurs gigaoctets de données client chaque jour et entraîne un modèle de prévision de la demande. Elle doit exécuter des inférences une fois par jour. Quel type d'inférence est le plus approprié ?

L'inférence par lots est la plus appropriée car l'entreprise traite un grand volume de données (plusieurs gigaoctets) et n'a besoin d'exécuter l'inférence qu'une fois par jour. Cela permet de regrouper les requêtes et de les traiter de manière efficace, réduisant ainsi les coûts et optimisant l'utilisation des ressources. L'inférence asynchrone est un mode d'exécution mais pas un type d'inférence en soi ; elle est souvent utilisée avec l'inférence par lots ou en temps réel. L'inférence en temps réel serait excessive et coûteuse pour un besoin quotidien non urgent, car elle est conçue pour des réponses à faible latence. L'inférence sans serveur est un paradigme de déploiement, pas un type d'inférence, et peut être utilisée avec n'importe quel type d'inférence (temps réel ou par lots).