Amazon MLS-C01: ディープラーニングとコンピュータビジョン — 学習ガイド
こちらの一部です： AWS Machine Learning Specialty MLS-C01 — 学習ガイド. 検証済みの解答で練習： Amazon試験ハブ, または時間制限付き模擬試験に挑戦： ExamRoll.io.
GPUとエッジ向けの推論の最適化、デプロイ、モニタリング
推論の最適化には、GPUコンピューティングだけでなく、パイプライン全体のプロファイリングが必要です。GPU使用率が低い原因は、多くの場合、CPUバウンドな前処理、小さなバッチサイズ、同期エンドポイントのレイテンシー、またはI/O待機にあります。SageMaker DebuggerとCloudWatchメトリクスでプロファイリングしてボトルネックを特定し、対策を講じます。具体的には、バッチサイズを増やすか非同期推論を使用する、モデルをTorchScript/ONNXに変換してNVIDIA搭載インスタンスでTensorRT最適化を有効にする、p4/p3インスタンスで混合精度（AMP/bfloat16）を使用する、SageMaker Neoでターゲットハードウェア向けにコンパイルする、またはElastic InferenceをデプロイしてCPUインスタンスに部分的なアクセラレーションをアタッチし、中程度のスループットを実現するなどです。エッジへのデプロイでは、SageMaker Edge ManagerまたはAWS IoT GreengrassをNeoでコンパイルしたモデルとともに使用し、量子化とプルーニングを適用してモデルサイズを縮小し、可能な場合はデバイス上でバッチ処理を実行します。コールドスタートに対処するためにSageMakerのマルチモデルエンドポイントまたはプロビジョンドコンカレンシーを設定し、GPUメモリ使用率とリクエストレイテンシーに基づく自動スケーリングポリシーを使用します。また、Model Monitorを有効にして入力データのドリフトを検出し、SageMaker Model Registryを使用して制御されたモデルのプロモーションを行います。よくある落とし穴として、Neoでサポートされていないオペレーションを含むモデルをコンパイルしたり、プライベートS3アクセス用のIAMロールとVPCエンドポイントのプロビジョニングを忘れたりすることがあり、これらはデプロイの失敗につながります。
実践的な問題：ユースケースシナリオ
シナリオ： QuickServe社はオンプレミスのPOSシステムを運用しており、モデルのトレーニングと推論にSageMakerを使用しています。店舗のカメラからの画像は、KMSで暗号化されたプライベートS3バケットに保存されています。同社は、レジの待ち行列の長さを検出する本番パイプラインを構築し、リアルタイムアラートのために軽量モデルをエッジデバイスにデプロイしたいと考えています。
課題： データセキュリティ（プライベートS3、KMS）を尊重し、制約のあるエッジハードウェアで動作し、新しいラベル付きデータによる安全な再トレーニングを可能にする、高精度で低レイテンシーの待ち行列カウントモデルを構築・デプロイすること。
推奨アプローチ：
- KMSで暗号化されたS3に保存されている、Ground Truthでラベル付けされたバウンディングボックスでファインチューニングした、事前学習済みのMobileNetV3バックボーン（SageMaker PyTorchコンテナ内）を使用して検出器をトレーニングします。データのリークを避けるため、店舗ごとにグループ化してデータを分割します。
- オーグメンテーション（ランダムクロップ、水平反転、輝度ジッター）とフォーカルロスを使用して、待ち行列あり/なしのフレーム間のクラス不均衡に対処します。AP50とクラスごとの再現率で検証します。
- モデルをTorchScript/ONNXにエクスポートし、SageMaker Neoでエッジデバイスをターゲットにコンパイルし、モデル署名と必要なS3アーティファクトのみを許可するIAMロールを使用して、AWS IoT GreengrassまたはSageMaker Edge Manager経由でデプロイします。
- S3への定期的なバッチアップロードでパフォーマンスをモニタリングし、ドリフト検出のためにSageMaker Processingジョブを実行し、S3のバージョン管理されたデータセットとModel Registryを使用してSageMakerで再トレーニングを行い、エッジへの制御されたロールアウトを実施します。
論理的根拠： このアプローチは、効率的な転移学習とデバイス固有のコンパイルを使用してレイテンシーとサイズの制約を満たし、KMSとIAMを介してセキュリティを強化し、データのリークを防ぎながら精度を維持するためのモニタリング付き再トレーニングループを実装します。
← モデリング — 教師ありと教師なし（古典的なML） · すべてのドメイン · 自然言語処理と音声 →
これらの問題を練習する → · ExamRoll.ioで時間制限付き練習 →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
試験に合格する →