EdgeAI développe un modèle de vision par ordinateur qu'il doit déployer sur une flotte de périphériques hétérogènes (Raspberry Pi 3, NVIDIA Jetson TX2 et passerelles Linux arm64). Ils veulent maximiser le débit d'inférence et réduire l'empreinte mémoire. Quelle affirmation concernant l'utilisation de la compilation SageMaker Neo est la plus précise pour ce scénario ?

La compilation SageMaker Neo est conçue pour optimiser les modèles ML pour des plateformes matérielles spécifiques. Pour maximiser le débit et réduire l'empreinte mémoire sur des appareils hétérogènes (Raspberry Pi 3, NVIDIA Jetson TX2, passerelles Linux arm64), il est essentiel de compiler le modèle séparément pour chaque plateforme cible. Neo applique des optimisations de graphe et peut effectuer une quantification, générant des artefacts hautement optimisés pour chaque architecture. Cela permet d'obtenir des gains significatifs en termes de performances et d'efficacité par rapport au modèle original. Les autres options sont incorrectes car : Neo ne produit pas un binaire universel unique qui s'exécute de manière optimale sur toutes les plateformes sans compilation par cible. Neo prend en charge une large gamme de cibles matérielles, y compris les appareils périphériques comme Jetson et Raspberry Pi, et pas seulement les instances AWS Inferentia ou GPU. Neo prend en charge plusieurs frameworks ML, y compris PyTorch, et pas seulement TensorFlow.