Un job d'entraînement SageMaker lit des millions de fichiers S3, chacun de plusieurs mégaoctets, et les performances d'entraînement sont lentes. Quel changement améliorera le plus rapidement le débit d'entraînement ?

La lecture de millions de petits fichiers depuis S3 peut entraîner des goulots d'étranglement en raison des frais généraux liés aux requêtes S3. Amazon FSx for Lustre est un système de fichiers haute performance optimisé pour les charges de travail de calcul intensif, comme l'entraînement de modèles de ML. Il peut lier un bucket S3 et mettre en cache les données, offrant un débit beaucoup plus élevé et une latence plus faible pour l'accès aux fichiers, améliorant ainsi considérablement les performances d'entraînement. Déplacer les données vers S3 Express One Zone pourrait améliorer légèrement la latence pour les objets fréquemment accédés, mais ne résoudrait pas le problème fondamental de la lecture de millions de fichiers individuels. Amazon EFS est un système de fichiers partagé, mais il est optimisé pour les charges de travail à faible latence et à accès simultané, pas pour le débit élevé requis par les charges de travail ML intensives. ElastiCache (Redis OSS) est une base de données en mémoire et n'est pas conçue pour stocker et diffuser des millions de fichiers de plusieurs mégaoctets pour l'entraînement de ML.