Uma empresa planeja treinar seu próprio LLM usando apenas dados proprietários e está preocupada com o impacto ambiental do treinamento. Qual família de instâncias do Amazon EC2 tem a menor pegada ambiental para o treinamento de LLM?

A série Amazon EC2 Trn (Trn1 e Trn1n) é otimizada para treinamento de modelos de aprendizado de máquina em larga escala, incluindo LLMs, e utiliza os aceleradores AWS Trainium. Esses aceleradores são projetados especificamente para eficiência energética no treinamento de ML, resultando na menor pegada ambiental em comparação com outras séries de instâncias. A série P (P3, P4d, P5) usa GPUs NVIDIA, que são poderosas, mas geralmente menos eficientes em termos de energia por operação de treinamento de ML do que os chips Trainium. A série G (G3, G4dn, G5) também usa GPUs, mas é mais voltada para inferência e gráficos, não sendo a escolha mais eficiente para treinamento intensivo. A série C (C5, C6i, C7g) é otimizada para computação de alta performance geral, não para treinamento de ML, e não possui aceleradores dedicados, tornando-a inadequada para este caso de uso.