Een bedrijf dat autonome voertuigen ontwikkelt, heeft objectdetectiemodellen getraind met transfer learning met behulp van PyTorch in SageMaker. Voertuigen hebben beperkte rekenkracht en batterij; het bedrijf moet de modelgrootte en runtime verminderen zonder de nauwkeurigheid significant te schaden. Welke aanpak zal de computationele efficiëntie van het model verbeteren?

De juiste aanpak is het gebruik van Amazon SageMaker Debugger. SageMaker Debugger kan tijdens de training inzicht geven in de interne werking van het model, inclusief gewichten, gradiënten en activaties. Deze informatie is cruciaal voor het identificeren van filters met lage belangrijkheid die kunnen worden gesnoeid (pruning), wat resulteert in een kleiner en sneller model zonder significante nauwkeurigheidsverlies. Het snoeien van filters vermindert de computationele complexiteit. De andere opties zijn minder effectief: Het gebruik van CloudWatch metrics voor het inspecteren van trainingsgewichten, gradiënten, biases en activaties is niet de primaire functie van CloudWatch; SageMaker Debugger is hiervoor specifiek ontworpen. SageMaker Ground Truth is voor het labelen van data, niet voor het optimaliseren van modelgrootte of runtime van een reeds getraind model. Meer data zal de nauwkeurigheid kunnen verbeteren, maar niet direct de computationele efficiëntie verminderen. SageMaker Model Monitor is voor het monitoren van modelprestaties na implementatie en het detecteren van drift, niet voor het optimaliseren van het model zelf tijdens training. Het verhogen van de leersnelheid kan de training versnellen, maar garandeert geen kleiner of efficiënter model.