EdgeAI tworzy model wizji komputerowej, który musi wdrożyć na flocie heterogenicznych urządzeń brzegowych (Raspberry Pi 3, NVIDIA Jetson TX2 i bramy arm64 Linux). Chcą zmaksymalizować przepustowość wnioskowania i zmniejszyć zużycie pamięci. Które stwierdzenie dotyczące używania kompilacji SageMaker Neo jest najbardziej trafne w tym scenariuszu?
Wybierz odpowiedź
Dotknij opcji, aby sprawdzić swoją odpowiedź.
Poprawna odpowiedź: Użyj SageMaker Neo do skompilowania wytrenowanego modelu oddzielnie dla każdej platformy docelowej (raspberrypi3, jetson_tx2 i linux_aarch64). Neo zastosuje optymalizacje grafu i opcjonalnie kwantyzację, tworząc zoptymalizowane pod kątem platformy artefakty, które często zapewniają wielokrotne zwiększenie przepustowości i mniejsze zużycie pamięci w porównaniu z oryginalnym modelem..
Dlaczego to jest odpowiedź
Poprawna odpowiedź jest najbardziej trafna, ponieważ SageMaker Neo kompiluje modele dla określonych platform docelowych, co pozwala na optymalizacje specyficzne dla sprzętu, takie jak optymalizacja grafu i kwantyzacja. To prowadzi do znacznego zwiększenia przepustowości wnioskowania i zmniejszenia zużycia pamięci na heterogenicznych urządzeniach brzegowych, takich jak Raspberry Pi, Jetson i bramy arm64 Linux. Niepoprawne opcje: Neo nie kompiluje pojedynczego uniwersalnego pliku binarnego, który działa optymalnie na wszystkich urządzeniach; wymaga kompilacji dla każdego celu, aby osiągnąć optymalną wydajność. SageMaker Neo nie jest przeznaczony wyłącznie do instancji Inferentia lub GPU w AWS; obsługuje szeroki zakres urządzeń brzegowych. Neo obsługuje wiele frameworków, w tym TensorFlow i PyTorch, i może optymalizować modele z obu frameworków.
Zdaj egzamin — bez niekończącego się szukania odpowiedzi
Uzyskaj wszystkie zweryfikowane pytania i wyjaśnienia do tego egzaminu w jednym miejscu i zaoszczędź godziny przygotowań. Ponad 1000 certyfikacji · Ponad 20 języków · Zacznij za darmo.
Zdaj egzamin szybciej → Karta nie jest wymagana