Amazon AIF-C01: Sorumlu AI ve Yönetişim — Çalışma kılavuzu

By Laurynas Brazys · 30 July 2026 · #amazon #aif-c01 #certification #exam-prep #study-guide

Şunun bir parçası: AWS AI Practitioner AIF-C01 — Çalışma kılavuzu. Doğrulanmış cevaplarla şurada pratik yapın: Amazon sınav merkezi, veya şurada süreli deneme sınavları çözün: ExamRoll.io.

İlkeler: adillik, yanlılığı azaltma ve insan merkezli tasarım

Sorumlu Yapay Zeka, iş bağlamında adilliğin ne anlama geldiği ve model çıktılarının insanları nasıl etkilediği hakkında net kararlar alınmasıyla başlar. Korunan nitelikleri, kabul edilebilir orantısız etki eşiklerini ve hem doğruluğu hem de hakkaniyeti içeren başarı metriklerini tanımlayın. Veri toplama ve etiketleme sırasında, eğitimde iyi performans gösteren ancak yeni popülasyonlarda başarısız olan modellere yol açan temsil boşluklarından kaçınmak için kaynak takibi (provenance), örnekleme stratejileri ve gizliliği koruyan kontroller uygulayın. İnsan müdahalesini (human in the loop) içeren sistemler tasarlayın: insan tarafından geçersiz kılma yolları, eskale etme politikaları ve açıklamalara rol tabanlı erişim gibi. Karar kriterleri, istatistiksel düzeltmeleri (yeniden ağırlıklandırma, çekişmeli yanlılık giderme, işlem sonrası kalibrasyon) operasyonel kısıtlamalarla dengelemelidir; daha müdahaleci düzeltmeler yeniden eğitim ve daha güçlü bir yönetişim gerektirir. Uygulamacıların düştüğü yaygın tuzaklar arasında yalnızca toplu metriklere güvenmek (genel doğruluk, alt grup başarısızlığını gizler), eğitim-sunum çarpıklığı (training-serving skew) (eğitimde mevcut olan özelliklerin çıkarım sırasında mevcut olmaması) ve geçmiş etiketlere aşırı uyuma (overfitting) neden olan erken optimizasyon yer alır. Aşırı uyumu ve dağılımsal kaymayı (distributional drift) tespit etmek için çapraz doğrulama (cross-validation), ayırma (holdout) periyotları ve zamansal bölmeleri kullanın. Yüksek etkili alanlar için, konservatif dağıtım yöntemlerini (gölge modu, aşamalı sunum) benimseyin ve runbook’larda hata modlarını ve insan sorumluluklarını açıkça belgeleyin.

Açıklanabilirlik ve şeffaflık: araçlar ve mimari desenler

Açıklanabilirlik; operatörler için eyleme geçirilebilir, düzenleyiciler için denetlenebilir ve etkilenen kullanıcılar için anlaşılır olmalıdır. Geliştirme ve çıkarım sırasında özellik atfı (feature attribution) ve karşı olgusal (counterfactual) teknikleri kullanın. Amazon SageMaker Clarify, eğitim öncesi ve sonrası yanlılık tespiti ve SHAP tabanlı açıklamalar sunarken, yerel açıklayıcılar (SHAP, LIME) bireysel tahminleri araştırmaya yardımcı olur. Temel modeller (foundation models) ve artırılmış bilgi erişimli üretim (retrieval-augmented generation) için, çıktıları kaynak takibi (provenance) ile destekleyin: halüsinasyonları azaltmak için Amazon Kendra, Amazon OpenSearch Service veya bir vektör deposundan alınan belge kimliklerini veya snippet konumlarını dahil edin. Yüksek riskli tahminleri manuel doğrulama için ortaya çıkarmak amacıyla Amazon Augmented AI (A2I) ile insan inceleme iş akışları uygulayın. Düşünce zinciri (chain‑of‑thought) açıklamaları talep eden prompt mühendisliğine dikkat edin: bu, şeffaflığı artırabilir ancak hassas veya kararsız olabilen dahili mantığı açığa çıkarabilir ve kulağa makul gelen ancak yanlış gerekçeler üretebilir. Dağıtım için, model tahminlerinin yanına yapılandırılmış açıklama çıktılarını (özellik önemleri, en yakın komşular, bilgi erişim izleri) ekleyin; böylece alt sistemler ve kullanıcılar bilinçli kararlar verebilir.

Operasyonel yönetişim: izleme, kayma (drift) ve sürekli iyileştirme

Operasyonel yönetişim; izleme, yeniden eğitim ve olay müdahalesini (incident response) ML yaşam döngüsüne dahil eder. Modelleri zengin telemetri ile donatın: tahmin dağılımları, güven skorları, girdi özellik özetleri, gecikme süreleri ve iş KPI’ları. Amazon SageMaker Model Monitor, veri ve tahmin kaymasını (drift) izler ve otomatik yeniden eğitim için SageMaker Pipelines’ı tetikleyebilir. AWS CloudTrail, Amazon CloudWatch aracılığıyla logları ve denetim izlerini merkezileştirin ve adli bilişim (forensic) ihtiyaçları için arşivlenmiş istekleri şifreleme (AWS KMS) ve değişmezlik (S3 Object Lock) ile Amazon S3’te saklayın. Eğitim/sunum çarpıklığını (training/serving skew) önlemek ve özellik soy ağacını (feature lineage) sağlamak için özellik depolarını (Amazon SageMaker Feature Store) kullanın. Tekrarlanabilir dağıtımları sürdürmek için modeller için CI/CD (CodePipeline, CodeBuild) ve Kod Olarak Altyapı (Infrastructure as Code) yaklaşımlarını benimseyin. Yaygın tuzaklar arasında etiket kaymasını (label drift) (etiketlerin anlamının değişmesi) izlememek, sürekli yeniden eğitimde maliyet/gecikme ödünleşimlerini ihmal etmek ve veri veya model yapıtlarını (artifact) sürümlememek yer alır; bunları meta veri depoları, model kayıt defterleri ve iyi tanımlanmış geri alma prosedürleri ile çözün. İnsan müdahalesinin (human in the loop) olduğu durumlarda, insan inceleme verimi için SLA’lar tanımlayın.

Dokümantasyon, denetlenebilirlik ve mevzuata uygunluk

Etkili yönetişim, yeniden üretilebilir yapıtlar gerektirir: model kartları, veri sayfaları, eğitim günlükleri ve model çıktılarını iş eylemlerine eşleyen imzalı karar alma politikaları. Amaçlanan kullanımı, alt gruplar arasındaki performansı, eğitim verilerinin kaynağını, bilinen sınırlamaları ve iletişim noktalarını belirten özlü model kartları oluşturun. Değişmez denetim kanıtlarını saklayın: CloudTrail aracılığıyla API istek/yanıt günlüklerini, gerekli saklama süreleri için yaşam döngüsü ve Object Lock ile şifrelenmiş S3 bucket’larında depolayın. Kontrolleri sürekli olarak değerlendirmek için AWS Audit Manager ve AWS Config kullanın; hassas veri keşfi ve ayrıntılı erişim kontrolü için Amazon Macie ve AWS Lake Formation’dan yararlanın. Sürümlenmiş veri kümeleri, hiperparametreler, doğrulama notebook’ları ve SageMaker Clarify’dan alınan yanlılık/netlik raporları gibi özel olarak hazırlanmış yapıt paketleriyle harici denetimlere hazırlanın. İfşa ve saklama için temel karar kriterleri yasal gereklilikler, iş riski ve gizlilik yasalarıdır—kullanıcı verilerini saklarken diferansiyel gizlilik veya kimliksizleştirme uygulayın. Uygulayıcıların düştüğü tuzaklar arasında ön işleme adımlarının yetersiz dokümantasyonu, yeniden üretilebilir seed’lerin eksikliği ve takip edilmeyen veri kümelerinde yapılan anlık manuel düzenlemeler yer alır—bunlar denetlenebilirliği ve yasal savunulabilirliği zayıflatır.

Pratik Problem: FinTrust Bank — Açıklanabilirlikle Kredi Kararları

Senaryo: FinTrust Bank, temel modellere erişim için Amazon Bedrock, model geliştirme için Amazon SageMaker, veri gölleri için S3, şifreleme için AWS KMS ve API günlük kaydı için CloudTrail kullanarak özel bir AWS AI ortamı işletmektedir. Katı yasal açıklanabilirlik ve saklama gereksinimlerini karşılarken, kredi yetkililerini model destekli kararlarla desteklemeleri gerekmektedir.

Zorluk: Denetlenebilir, açıklanabilir kredi önerileri sunan, her isteği/yanıtı yedi yıl boyunca kaydeden, yanlılığı tespit eden ve insan müdahalesine olanak tanıyan temel model tabanlı bir karar asistanı dağıtmak.

Önerilen Yaklaşım:

Amazon Bedrock’u (veya onaylanmış, ince ayar yapılmış bir SageMaker modelini) bir VPC endpoint içinde yapılandırın, AWS KMS ile şifrelemeyi zorunlu kılın ve API çağrılarını CloudTrail günlük kaydı ile Amazon API Gateway üzerinden S3’e yönlendirin (7 yıllık değişmezlik için S3 Object Lock’u etkinleştirin).
Yanlılık metrikleri ve SHAP açıklamaları için tahminleri SageMaker Clarify ile donatın ve mantıksal çıkarımı temel almak için yanıtları Amazon Kendra veya OpenSearch’ten alınan erişim kaynağı bilgileriyle zenginleştirin.
Amazon A2I kullanarak insan denetimli bir gözden geçirme süreci uygulayın: yüksek riskli veya düşük güvenilirlikli önerileri kredi yetkilisinin onayı için işaretleyin ve gözden geçiren kişinin kararlarını denetim kaydına kaydedin.
Sapma (drift) için SageMaker Model Monitor ve CloudWatch alarmları ile izlemeyi otomatikleştirin, zamanlanmış yeniden eğitim için SageMaker Pipelines ile entegre edin ve model kartlarını ve bir yönetişim klasörünü değişmez bir yapıt deposunda saklayın.

Gerekçe: Bedrock/SageMaker’ı Clarify, A2I ve değişmez günlük kaydı ile birleştirmek; insan denetimini korurken açıklanabilirliği, yanlılık tespitini ve denetlenebilir saklamayı zorunlu kılar ve operasyonel kontrolleri yasal ve yönetişim en iyi uygulamalarıyla uyumlu hale getirir.

← AWS AI · Tüm alanlar · AI Güvenliği ve Gizlilik →

Bu soruları çözün → · ExamRoll.io’da süreli pratik →