Amazon AIF-C01: MLOps ve Dağıtım — Çalışma kılavuzu

By Laurynas Brazys · 30 July 2026 · #amazon #aif-c01 #certification #exam-prep #study-guide

Şunun bir parçası: AWS AI Practitioner AIF-C01 — Çalışma kılavuzu. Doğrulanmış cevaplarla şurada pratik yapın: Amazon sınav merkezi, veya şurada süreli deneme sınavları çözün: ExamRoll.io.

Dağıtım ve çıkarım desenleri: gerçek zamanlı, toplu, sunucusuz ve uç (edge)

Bir çıkarım deseni seçimi; gecikme süresi, iş hacmi, maliyet ve operasyonel karmaşıklık gibi hizmet seviyesi ödünleşimleriyle başlar. Düşük gecikme süresi ve yüksek iş hacmi gereksinimleri için, sağlanmış (provisioned) Amazon SageMaker gerçek zamanlı uç noktaları (tek modelli veya çok modelli uç noktalar) veya otomatik ölçeklendirme ve GPU örnekleri ile SageMaker Real-Time Inference tipik seçeneklerdir; kanarya (canary) veya mavi/yeşil (blue/green) dağıtımları uygulamak için uç nokta varyantlarını (endpoint variants) kullanın. Gecikme süresinin kritik olmadığı büyük çevrimdışı işler için SageMaker Batch Transform veya AWS Glue/EMR üzerinde dağıtık işleme, uygun maliyetlidir ve ölçeklendirmesi basittir. Tahmin edilemeyen veya düşük QPS’li (saniye başına sorgu) iş yükleri için SageMaker Serverless Inference veya modelleri AWS Lambda’dan çağırmak (gerektiğinde sağlanan eşzamanlılık ile), yönetim yükünü ve maliyeti azaltır. Uç (edge) dağıtımları, modellerin SageMaker Edge Manager ile paketlenmesini ve kesintili bağlantıya sahip, katı gecikme süresi veya gizlilik gereksinimleri olan cihazlar için AWS IoT Greengrass aracılığıyla dağıtılmasını gerektirir. Uygulamada sıkça düşülen tuzaklar arasında, seyrek trafik için gerçek zamanlı uç noktaları seçmek (yüksek maliyete yol açar), sunucusuz dağıtımlar için soğuk başlatmaları (cold start) test etmemek ve çok modelli uç noktalar için bellek/GPU ihtiyaçlarını hafife almak yer alır. Kararlar; SLO’lar (p99 gecikme süresi, iş hacmi), model boyutu, eşzamanlılık desenleri ve beklenen güncelleme sıklığı tarafından yönlendirilmelidir; bir barındırma desenine karar vermeden önce temsili trafikle profil oluşturma yapmak kritik öneme sahiptir.

Model kayıt defteri, ardışık düzenler ve tekrarlanabilir teslimat için CI/CD

Sağlam bir üretim iş akışı, yapıtları (artifact) sürümlemek, model soyunu (lineage) yakalamak ve onay iş akışlarını yönetmek için SageMaker Model Registry’yi; tekrarlanabilir eğitim, doğrulama ve dağıtım adımlarını oluşturmak için ise SageMaker Pipelines’ı kullanır. Git tabanlı kaynak kontrolünü AWS CodePipeline ve CodeBuild ile entegre etmek, model kodu için CI (Sürekli Entegrasyon) sağlar: birim testleri, veri şeması kontrolleri ve kayıt defterine (registry) yükseltmeyi denetleyen otomatik model değerlendirmesi. Dağıtım otomasyonu, aşamalı ortamları (geliştirme → hazırlık → üretim) uygulamalı ve uç nokta varyantları, mavi/yeşil dağıtımlar veya Lambda tabanlı yönlendirme aracılığıyla otomatik geri alma (rollback) veya trafik kaydırmayı desteklemelidir. Özellik depoları (SageMaker Feature Store), özellik tanımlarını ve zaman damgalarını saklayarak eğitim ve çıkarım tutarlılığını sağlar. Sıkça düşülen tuzaklar arasında hiperparametreleri ve ortam sürümlerini kaydetmemek, doğrulama testlerini (veri şeması, performans eşikleri) otomatikleştirmemek ve değişmez (immutable) yapıtlara sahip olmamak (model yapıtlarını S3 veya ECR’de saklayın) yer alır. Uç nokta yapılandırması için kod olarak altyapı (CloudFormation veya CDK) kullanın, kütüphaneleri ve seed’leri sabitleyerek tekrarlanabilirliği sağlayın ve aynı ardışık düzene (pipeline) entegre edilmiş yeniden eğitim tetikleyicilerini (veri kayması, periyodik programlar) planlayın.

İzleme, Model Monitor ve operasyonel kontroller

Operasyonel izleme; veri kaymasını (data drift), konsept kaymasını (concept drift), performans düşüşünü, gecikme süresini ve kaynak kullanımını kapsamalıdır. Amazon SageMaker Model Monitor, eğitim dağılımlarını temel alabilir (baseline) ve çıkarım trafiğini özellik kayması (feature drift), eksik değerler ve şema değişiklikleri için sürekli olarak profillendirebilir; gerçek veriler (ground truth) mevcut olduğunda, Model Monitor tahmin kalitesini ve hedef kaymasını (target drift) da izleyebilir. Çıkarım günlük kaydını Amazon S3 ve CloudWatch’a yönlendirin ve gerçek zamanlı uyarılar ile otomatik ardışık düzen tetikleyicileri için günlükleri Amazon Kinesis veya Amazon EventBridge’e akıtın. Her kayma uyarısını bir yeniden eğitim sinyali olarak ele almak —geçici kaymalar ve mevsimsellik yanlış pozitiflere neden olabilir— veya doğal değişkenliği anlamadan eşikler belirlemek gibi yaygın hatalardan kaçının. Dengesiz sınıflar için, anlamlı bir bozulmayı tespit etmek amacıyla doğruluk (accuracy) yerine kesinlik (precision), duyarlılık (recall) ve F1 skorunu tercih edin. Model yapıtları için RBAC ve şifrelemeyi (KMS) uygulayın, güvenli hizmet erişimi için VPC uç noktalarını ve AWS PrivateLink’i kullanın ve denetim izlerini AWS CloudTrail aracılığıyla yakalayın. Düzeltme için operasyonel playbook’lar (eylem planları) bulundurun: veri ardışık düzenlerini doğrulayın, son kohort performansını karşılaştırın ve yeniden eğitin, geri alın veya kalibrasyon ve özellik düzeltmeleri uygulayın.

Temel değerlendirme metrikleri ve ne zaman kullanılacakları
- Doğruluk (Accuracy): genel doğruluk; dengesiz verilerde yanıltıcıdır
- Kesinlik (Precision): pozitif tahminlerin doğruluğu; yanlış pozitiflerin maliyetli olduğu durumlarda kullanılır
- Duyarlılık (Recall/Sensitivity): pozitif vakaları bulma yeteneği; yanlış negatiflerin maliyetli olduğu durumlarda kullanılır
- F1 skoru: kesinlik ve duyarlılığın harmonik ortalaması; dengesiz sınıflar için dengeli bir seçimdir
- AUC-ROC: eşik değerler arasındaki sıralama kalitesi; eşikten bağımsız ikili sınıflandırıcılar için kullanışlıdır

Açıklanabilirlik, Model Kartları ve uyumluluğa hazır kontroller

Açıklanabilirlik; operasyonel, denetlenebilir ve paydaş ihtiyaçlarına göre ayarlanmış olmalıdır. Amazon SageMaker Clarify, eğitim öncesi yanlılık kontrolleri, eğitim sonrası yanlılık metrikleri ve çıkarım zamanında veya çevrimdışı toplu işler halinde üretilebilen SHAP aracılığıyla tahmin başına özellik atıfları sağlar. İzlenebilirlik sağlamak için çalışma zamanı açıklamaları, tahminler ve girdi parmak izleriyle birlikte günlüğe kaydedilmelidir; açıklamaları S3’te saklayın ve geri alım için dizinleyin. Model Kartları; amaçlanan kullanımı, veri kökenini, ilgili dilimler üzerindeki değerlendirme metriklerini, bilinen sınırlamaları ve performansla ilgili uyarıları belgeler; yönetişimi karşılamak için model kartı sürümlerini Model Registry içinde muhafaza edin. Finansal ve düzenlemeye tabi kullanım senaryoları, deterministik denetim izleri gerektirir: model yapıtlarını, hiperparametreleri, değerlendirme verilerini ve açıklama günlüklerini koruyun; yüksek etkili kararlar için insan döngüsü içinde onay kapıları uygulayın ve zorlu durumlar için karşı olgusal açıklamaları sürdürün. Yönetilen temel modellerle güvenli entegrasyon için, bir VPC içinden Amazon Bedrock’u çağırmak üzere AWS PrivateLink arayüz uç noktalarını kullanın, yükleri KMS ile şifreleyin ve ayrıntılı IAM ve ağ kontrolleri uygulayın. Gömülmüş veri (embedding) depolama ve vektör arama için hizmet seçimleri, geri alım ihtiyaçlarına bağlıdır; seçenekleri performans ve operasyonel maliyete göre karşılaştırın:

Amazon OpenSearch Service (k-NN): entegre analitik özellikli ölçeklenebilir vektör arama
Amazon Kendra: yerleşik bağlayıcılara ve kurumsal özelliklere sahip yönetilen anlamsal arama
Amazon RDS (Postgres + pgvector): işlemsel vektör depolama, ilişkisel veri setleri için daha basit
Amazon EKS veya ECS üzerinde özel ANN: NMSLIB/FAISS için en yüksek esneklik, ancak daha fazla operasyonel yük

Pratik Problem: Kullanım Senaryosu

Senaryo: FinSight, model eğitimi için SageMaker, yardımcı üretken açıklamalar için Bedrock ve veriler için Amazon S3 kullanarak AWS’te bir kredi karar verme işlem hattı işletmektedir. Modeller, bir VPC içinde SageMaker gerçek zamanlı uç noktaları olarak dağıtılır ve gelen özellikleri profillemek için Model Monitor etkindir.

Zorluk: Model Monitor, eşiklerin ötesinde özellik kaymasını işaretlemiştir ve iş düzenlemeleri, herhangi bir otomatik kredi limiti değişikliği için denetlenebilir, açıklanabilir kararlar gerektirmektedir.

Önerilen Yaklaşım:

Kayma verilerini bir SageMaker Pipelines yeniden eğitim iş akışına gönderen bir EventBridge kuralını tetiklemek için SageMaker Model Monitor uyarılarını kullanın ve mevcut çıkarım ile son girdi verilerinin anlık görüntüsünü bir S3 karantina bucket’ına alın.
SageMaker Pipelines içinde, son veri dağılımlarını temel çizgiyle karşılaştıran, değerlendirme metriklerini (precision/recall/F1) hesaplayan ve temsili bir kohort için SageMaker Clarify ile örnek başına SHAP açıklamaları üreten otomatik bir doğrulama işi çalıştırın.
Otomatik kontroller geçerse, yeni modeli performans dilimlerini ve açıklamaları içeren güncellenmiş bir Model Kartı ile SageMaker Model Registry’ye kaydedin; aşamalı dağıtım için uç nokta varyantı ve trafik kaydırmayı kullanın. Kontroller başarısız olursa, operasyon kuyruğunda bir olay oluşturun ve herhangi bir dağıtımdan önce insan incelemesi adımını başlatın.
İnsan tarafından okunabilir açıklamalar üreten güvenli Bedrock çağrıları için, Bedrock trafiğini AWS PrivateLink üzerinden yönlendirin ve yükleri KMS ile şifreleyin; tüm açıklama çıktılarını S3’te günlüğe kaydedin ve denetlenebilirlik için bunları çıkarım kayıtlarına bağlayın.

Gerekçe: Bu yaklaşım, otomatik tespiti, tekrarlanabilir doğrulamayı ve denetim izleri ile karar başına açıklamalar içeren korumalı dağıtımı birleştirir. Bu sayede operasyonel kontrolleri düzenleyici şeffaflıkla uyumlu hale getirir ve yanlış yeniden eğitim/geri alma eylemlerini en aza indirir.

← Model Eğitimi · Tüm alanlar · AI →

Bu soruları çözün → · ExamRoll.io’da süreli pratik →