Amazon MLS-C01: Deep Learning & Computer Vision — Studiegids
Onderdeel van de AWS Machine Learning Specialty MLS-C01 — Studiegids. Oefen met geverifieerde antwoorden in het Amazon-examencentrum, of doe getimede oefentests op ExamRoll.io.
Optimalisatie, implementatie en monitoring van inference voor GPU en edge
Voor het optimaliseren van inference moet de gehele pipeline worden geprofiled, niet alleen de GPU-compute. Een lage GPU-benutting is vaak het gevolg van CPU-gebonden preprocessing, kleine batchgroottes, synchrone endpoint-latency of I/O-wachttijden. Profileer met SageMaker Debugger en CloudWatch-metrics om knelpunten te identificeren en pas vervolgens oplossingen toe: verhoog de batchgrootte of gebruik asynchrone inference; converteer modellen naar TorchScript/ONNX en schakel TensorRT-optimalisaties in op instances met NVIDIA-ondersteuning; gebruik mixed precision (AMP/bfloat16) op p4/p3-instances; compileer met SageMaker Neo voor de doelhardware of implementeer Elastic Inference om fractionele acceleratie toe te voegen aan CPU-instances voor een gematigde doorvoer. Gebruik voor edge-implementaties SageMaker Edge Manager of AWS IoT Greengrass met door Neo gecompileerde modellen, pas kwantisatie en pruning toe om de modelgrootte te verkleinen en voer waar mogelijk on-device batching uit. Configureer SageMaker multi-model endpoints of provisioned concurrency om cold starts op te vangen en gebruik automatisch schaalbeleid op basis van GPU-geheugengebruik en request-latency. Schakel ook Model Monitor in om input-drift te detecteren en SageMaker Model Registry voor gecontroleerde promotie van modellen; veelvoorkomende valkuilen zijn het compileren van modellen met niet-ondersteunde operaties voor Neo of het vergeten van het provisioneren van IAM-rollen en VPC-endpoints voor private S3-toegang, wat leidt tot implementatiefouten.
Praktijkprobleem: Use-Case Scenario
Scenario: QuickServe Corp heeft een on-premise kassasysteem en gebruikt SageMaker voor het trainen en uitvoeren van modellen; afbeeldingen van winkelcamera’s worden opgeslagen in een private S3-bucket met KMS-encryptie. Ze willen een productiepipeline om de lengte van de wachtrij bij kassa’s te detecteren en een lichtgewicht model implementeren op edge-apparaten voor real-time waarschuwingen.
Uitdaging: Bouw en implementeer een nauwkeurig, low-latency model voor het tellen van wachtrijen dat de databeveiliging respecteert (private S3, KMS) en draait op beperkte edge-hardware, terwijl veilige hertraining met nieuwe gelabelde data mogelijk wordt gemaakt.
Aanbevolen Aanpak:
- Train een detector met een vooraf getrainde MobileNetV3-backbone (in een SageMaker PyTorch-container) die is gefinetuned op bounding boxes gelabeld met Ground Truth en opgeslagen in een met KMS versleutelde S3; gebruik gegroepeerde splits per winkel om datalekken te voorkomen.
- Gebruik augmentatie (random crop, horizontal flip, brightness jitter) en focal loss om de klassenonbalans tussen frames met en zonder wachtrij aan te pakken; valideer met AP50 en per-class recall.
- Exporteer het model naar TorchScript/ONNX, compileer het met SageMaker Neo gericht op het edge-apparaat, en implementeer het via AWS IoT Greengrass of SageMaker Edge Manager met modelondertekening en een IAM-rol die alleen de noodzakelijke S3-artefacten toestaat.
- Monitor de prestaties met periodieke batch-uploads naar S3, voer SageMaker Processing-jobs uit voor drift-detectie, en hertrain in SageMaker met geversioneerde datasets in S3 en Model Registry met een gecontroleerde uitrol naar de edge.
Rationale: Deze aanpak maakt gebruik van efficiënte transfer learning en apparaatspecifieke compilatie om te voldoen aan de latency- en groottebeperkingen, handhaaft de beveiliging via KMS en IAM, en implementeert een gemonitorde hertrainingscyclus om de nauwkeurigheid te behouden en datalekken te voorkomen.
← Modelleren — Gesuperviseerd · Alle domeinen · Natural Language Processing →
Oefen deze vragen → · Getimede oefening op ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Slaag voor je examen →