Amazon MLS-C01: Dağıtım, Çıkarım ve Sunma (ML Uygulama ve Operasyonları) — Çalışma kılavuzu

By Laurynas Brazys · 26 July 2026 · #amazon #mls-c01 #certification #exam-prep #study-guide

Şunun bir parçası: AWS Machine Learning Specialty MLS-C01 — Çalışma kılavuzu. Doğrulanmış cevaplarla şurada pratik yapın: Amazon sınav merkezi, veya şurada süreli deneme sınavları çözün: ExamRoll.io.

Dağıtım desenleri ve sunum seçenekleri

Model sunum seçenekleri; gecikme süresi, maliyet, iş çıkarma kapasitesi (throughput) ve operasyonel karmaşıklığı dengeler. Gerçek zamanlı SageMaker uç noktaları (sağlanan veya sunucusuz), interaktif API’lar için uygun olan 100 ms altından saniye düzeyine kadar gecikme süreleri sunar; CPU modelleri için ml.c5/m5, GPU modelleri için ml.g4dn veya ml.p3 ya da düşük maliyetli yüksek iş çıkarma kapasiteli Inferentia çıkarımı için ml.inf1 gibi örneklem ailelerini (instance families) seçin. Asenkron çıkarım ve Batch Transform, büyük toplu işler veya değişken gecikmeli kullanım senaryolarına uygundur: Batch Transform, büyük çevrimdışı işler için idealdir (büyük S3 nesnelerini parçalara (shard) ayırın ve gerektiğinde ml.m5/c5 veya GPU örneklemlerini kullanın), SageMaker Asynchronous Inference ise, neredeyse gerçek zamanlı toplu işler için kuyruklama ile daha büyük veri yüklerini (payload) destekler. Çok modelli uç noktalar (Multi-model endpoints), tek bir container arkasında birçok modeli barındırır ve modelleri talep üzerine yükleyerek depolama ek yükünü azaltır; modellerin küçük olduğu, makul soğuk başlatma (cold-start) maliyetlerine sahip olduğu ve erişim desenlerinin seyrek olduğu durumlarda en iyi performansı gösterirler. Öngörülemeyen, düşük iş çıkarma kapasiteli iş yükleri için örneklem yönetiminden kaçınmak amacıyla SageMaker Serverless Inference’ı seçin; soğuk başlatmalara (cold start) ve sınırlı çalışma zamanına (runtime) dikkat edin. Temel karar kriterleri arasında gecikme süresi SLO’ları, çağrı başına maliyet, eş zamanlılık deseni, model boyutu ve soğuk başlatma toleransı bulunur. Yaygın bir tuzak, aşırı yüksek hacimli toplu iş yükleri için gerçek zamanlı uç noktaları kullanmaktır—bu pahalıdır; bunun yerine Batch Transform, Async Inference kullanın veya toplu işleme (batching) ve eş zamanlı çalışanlar (concurrent workers) aracılığıyla uç noktaları çağırın.

Ölçeklendirme, trafik şekillendirme ve maliyet optimizasyonu

Otomatik ölçeklendirme, trafik kaydırma ve maliyet kontrolü, dağıtım topolojisi ile birlikte tasarlanmalıdır. Çağrı metriklerine veya özel CloudWatch metriklerine dayalı hedef izleme (target-tracking) politikalarıyla SageMaker uç nokta varyantlarını ölçeklendirmek için Application Auto Scaling’i kullanın; sarsıntıyı (thrashing) önlemek için makul minimum/maksimum kapasiteler ve bekleme süreleri (cooldowns) tanımlayın. Mavi/yeşil (blue/green) dağıtımlar ve kanarya (canary) sürüm yayınlamaları için, trafik bölme yüzdeleri ve kademeli artışlarla çok varyantlı uç noktaları veya EndpointConfig güncellemelerini kullanın; trafik kaydırmayı otomatikleştirmek için AWS CodeDeploy ile entegre edin. Maliyet optimizasyonları arasında model budama (pruning), nicemleme (quantization) (FP16 veya int8), Inf1 için SageMaker Neo veya AWS Neuron ile derleme ve gecikmeye duyarlı olmayan iş yüklerini Batch Transform’a veya sunucusuz çıkarıma taşıma yer alır. Spot örneklemler eğitim maliyetlerini düşürür ancak gerçek zamanlı uç noktalar için geçerli değildir; bunun yerine örneklem türlerini (cpu vs gpu vs inferentia) doğru boyutlandırın ve uygun olan yerlerde modelleri çok modelli uç noktalarla birleştirin. Örneklem başına iş çıkarma kapasitesini anlamadan hedef izleme kullanırken aşırı kaynak sağlama (over-provisioning) gibi tuzaklara veya çok modelli uç noktaların bellek sınırlarını ortadan kaldırdığını varsaymaya dikkat edin—model yükleme hala bellek gerektirir ve gecikmeyi artırabilir. Ayrıca, depolama ve soğuk başlatma sürelerini azaltmak için model yapıtlarını (artifacts) (ONNX, gz ile TF SavedModel) sıkıştırın ve tembel yükleme (lazy-loading) stratejilerini kullanın.

Uç (Edge), düşük gecikmeli çıkarım ve ön/son işleme yerleşimi

Ultra düşük gecikmeli veya bağlantısız ortamlar için modelleri AWS IoT Greengrass’e (v2) dağıtın veya uç cihazlardaki (edge devices) modelleri paketlemek ve izlemek için SageMaker Edge Manager’ı kullanın; bellek/CPU kısıtlamalarını karşılamak için SageMaker Neo veya AWS IoT Greengrass bileşenleriyle derleyin ve nicemleme (quantization) kullanın. Uçtan uca gecikmeyi ve maliyeti en aza indirecek şekilde ön işleme ve özellik çıkarımını (feature extraction) yerleştirin: basit filtreler cihazın donanım yazılımında (firmware) veya Greengrass Lambda’da çalışabilirken, toplu işleme (batching) ve ağır dönüşümler bir uç ağ geçidinde (edge gateway) veya bulutta yer almalıdır. Akış halindeki olay pencereleri (örneğin, kayan 10 dakikalık pencereler) için, veriyi Amazon Kinesis Data Streams veya Amazon MSK ile alın, pencereleme (windowing) ve toplama (aggregation) için Kinesis Data Analytics veya Flink/Apache Spark kullanın ve özetlenmiş özellikleri bir SageMaker uç noktasına veya uçta (on-edge) çalışan hafif bir modele iletin—bu, ağ çıkış trafiğini (egress) ve model çağırma sıklığını azaltır. Uç cihazlarda model sürümlemeyi göz ardı etmek veya model yapıtları için yeterli cihaz depolama alanı sağlamamak gibi tuzaklara dikkat edin. Sunucu tarafı mikroservisler için, soğuk çağrı (cold-call) ek yükünden kaçınmak ve modele gönderilen veri yükü (payload) boyutlarını azaltmak için ön işlemeyi (API Gateway + Lambda veya ALB + Fargate) aynı yerde konumlandırın (colocate).

İzleme, denetim, yönetişim ve veri işleme

Operasyonel ML, sürekli model sağlığı ve veri yönetişimi gerektirir. Eğitim verilerini bir DataQualityJob ile temel almak (baseline) ve veri kaymasını (data drift), model kalitesi gerilemelerini, eksik değerleri ve özel kısıtlamaları tespit etmek için sürekli izlemeyi yapılandırmak üzere SageMaker Model Monitor’ü kullanın; girdileri/çıktıları S3’e yakalamak ve Model Monitor işlerini tetiklemek için uç noktalarda (endpoint) DataCaptureConfig’i etkinleştirin. Özellik (feature) seviyesinde köken takibi (lineage) ve denetim için, veri kümesi erişimini ve dönüşümlerini izlemek üzere Amazon SageMaker Feature Store’u (çevrimiçi ve çevrimdışı mağazalar) AWS Glue Data Catalog ve CloudTrail ile birlikte kullanın; Amazon Macie ve Glue/SageMaker Processing işleri, eğitimden önce PII’yi keşfedebilir ve redakte edebilir. Şifrelemedeki tuzaklar arasında SSE-KMS yer alır: S3 nesneleri müşteri tarafından yönetilen bir CMK ile şifrelendiğinde, SageMaker yürütme rolünün (execution role) kms:Decrypt ve kms:GenerateDataKey izinlerine sahip olduğundan ve CMK politikasının erişim izni verdiğinden emin olun; ayrıca S3 bucket politikalarının ve VPC uç noktalarının erişimi engellemediğinden emin olun. Günlük büyük S3 nesneleri (ör. 100 GB) için tek dosyalı alımdan (ingestion) kaçının—çok sayıda daha küçük nesneye bölümleyin (partition), Parquet formatında saklayın ve sıkıştırın, şema tespiti için Athena/Glue kullanın. Yaygın tuzaklar arasında yetersiz izleme programları, Model Monitor için uygun bir temel (baseline) oluşturmamak ve şifre çözmesi gereken tüm hizmet sorumlularına (service principal) (SageMaker, Glue, Lambda) KMS erişimi vermeyi unutmak yer alır.

Pratik Problem: Kullanım Senaryosu

Senaryo: Streamlytic Media, AWS üzerinde bir podcast analiz platformu işletmektedir. Kullanıcı olaylarını almak için Kinesis Data Streams kullanıyor, toplanmış özellikleri S3’te saklıyor ve gerçek zamanlı etkileşim tahmini için modelleri SageMaker’da barındırıyorlar. Veriler ara sıra PII içeriyor ve SSE-KMS müşteri tarafından yönetilen bir anahtar ile şifreleniyor.

Zorluk: Kayan 10 dakikalık bir olay penceresi üzerinde düşük gecikmeli tahminler sağlayın, model eğitiminden önce PII’yi redakte edin, SageMaker’ın şifreli S3 verilerini okuyabildiğinden emin olun ve özellik kayması (feature drift) için sürekli izleme uygulayın.

Önerilen Yaklaşım:

1. Olayları almak için bir Kinesis Data Stream oluşturun, kayan 10 dakikalık pencereleri sürdürmek için Kinesis Data Analytics (Flink) çalıştırın ve toplanmış özellikleri saatlik bölümlerle (partition) Parquet formatında S3’e yayınlayın (emit).
2. Keşif için Amazon Macie ve deterministik redaksiyon/tokenizasyon uygulamak için bir SageMaker Processing işi (veya AWS Glue işi) kullanarak PII’yi tespit edin ve redakte edin; sonuçları eğitim için bir Feature Store çevrimdışı mağazasında saklayın.
3. SageMaker yürütme rolüne (execution role) CMK üzerinde kms:Decrypt ve kms:GenerateDataKey izinlerini verin, rolü CMK anahtar politikasına ekleyin ve S3 bucket politikasının veya VPC uç noktasının SageMaker için erişime izin verdiğinden emin olun.
4. Modeli ml.inf1 örnekleri (instance) üzerinde bir SageMaker gerçek zamanlı uç noktası (endpoint) olarak dağıtın, DataCaptureConfig’i etkinleştirin, eğitim verilerinden bir Model Monitor temeli (baseline) oluşturun ve CloudWatch’a uyarılar gönderen sürekli izlemeyi yapılandırın.

Gerekçe: Kinesis + Flink ile akış tabanlı toplama (aggregation), olay hacmini ve gecikmeyi en aza indirir; işleme zamanında redaksiyon, gizliliği ve uyumluluğu korur; açık KMS izinleri erişim hatalarını önler; Inferentia destekli uç noktalar ve Model Monitor, düşük çıkarım maliyetini operasyonel gözlemlenebilirlik ile dengeler.

← Eğitim · Tüm alanlar · Güvenlik →

Bu soruları çözün → · ExamRoll.io’da süreli pratik →

Amazon'a göz atın →