Amazon AIF-C01: AWS AI/ML Hizmetleri — Çalışma kılavuzu
Şunun bir parçası: AWS AI Practitioner AIF-C01 — Çalışma kılavuzu. Doğrulanmış cevaplarla şurada pratik yapın: Amazon sınav merkezi, veya şurada süreli deneme sınavları çözün: ExamRoll.io.
Temel modeller, Amazon Bedrock ve çıkarım desenleri
Amazon Bedrock aracılığıyla barındırılan temel modeller, Q ve Nova gibi yüksek verimli ve talimat ayarlı seçenekler de dahil olmak üzere birden fazla model ailesini kullanarak üretken yeteneklere hızlı bir yol sağlar. Bağlam içi öğrenme ve özelleştirme arasında seçim yapın: few-shot prompt’ları yinelemek ucuzdur ancak prompt enjeksiyonuna karşı hassastır ve dağılım kaymalarında kararsızdır; parametre verimli ince ayar veya tam özelleştirme, veri yönetişimi ve yeniden eğitim karmaşıklığı pahasına çıkarım başına maliyeti ve gecikmeyi azaltır. Çıkarım maliyeti ve gecikmesi öncelikli olarak model boyutuna ve işlenen girdi ve çıktı token’larının sayısına göre belirlenir, bu nedenle prompt’ları kısa ve öz olacak şekilde tasarlayın, sık verilen yanıtları önbelleğe alın ve yüksek hacimli endpoint’ler için daha küçük, özelleşmiş modelleri tercih edin. Uygulamada sık düşülen tuzaklar arasında, LLM çıktılarını temel almadan (grounding) yetkili kabul etmek, prompt’lara beslenen hassas verileri kontrol edememek ve prompt şablonlarını ve sürümlerini izlememek (instrumenting) yer alır. Karar kriterleri gecikme, token maliyeti, gizlilik ve model sahipliğini tartmalıdır: yasal kısıtlamalar veri izolasyonu gerektirdiğinde Bedrock’un özel bağlantı ve KMS şifrelemesini kullanın veya eğitim yapıtları (artifacts) ve açıklanabilirlik araçları üzerinde tam kontrol gerektiğinde SageMaker’da barındırılan modelleri seçin. Prompt tabanlı saldırıları ve sistem prompt’larının sızmasını azaltmak için girdi temizleme (input sanitization), değiştirilemez (immutable) sistem düzeyinde talimatlar ve katmanlı güvenlik kontrolleri uygulayın.
Eğitim, dağıtım ve model yönetişimi için SageMaker
Tam eğitim kontrolü, açıklanabilirlik ve üretim seviyesinde MLOps gerektiğinde, Amazon SageMaker ana yönetilen yol olmaya devam etmektedir. Büyük veri setleri için SageMaker Training ve dağıtık eğitim örneklerini (instances), uçtan uca geliştirme için SageMaker Studio’yu ve sürüm kontrolü için Model Registry’yi kullanın. Birbiriyle ilişkili çok sayıda SKU için zaman serisi tahmini yaparken, SageMaker DeepAR olasılıksal tahminler sunar ve en iyi sonucu çok sayıda benzer seriniz ve kovaryetiniz (covariates) olduğunda verir. SageMaker Clarify yanlılığı (bias) tespit etmeye ve adalet metriklerini hesaplamaya yardımcı olurken, SageMaker Model Monitor üretim ortamındaki veri kaymasını (data drift) ve tahmin kalitesini izler. Sık düşülen tuzaklar arasında Studio notebook’larını geniş S3 izinleriyle bırakmak, dağıtık eğitim için örnek türlerini (instance types) yetersiz boyutlandırmak ve veri seti kökenini (provenance) atlamak yer alır. Bedrock ve SageMaker arasındaki karar kriterleri genellikle özelleştirme ihtiyaçları, yasal denetimler ve açıklanabilirlik etrafında döner: yüksek kaliteli FM’lerle hızla prototip oluşturmak için Bedrock’u; özellik seviyesinde izleme (feature-level tracing), SHAP açıklamaları, yanlılık denetimleri veya VPC endpoint’leri ve S3 VPC gateway’leri kullanarak özel, internetsiz yürütme ortamları gerektirdiğinizde ise SageMaker’ı seçin.
Geri getirme, çok modlu alım ve temel alma (grounding) stratejileri
Güvenilir, olgusal çıktılar, yapılandırılmamış külliyatların (corpora) Geri Getirme Destekli Üretim (Retrieval Augmented Generation) ile temel alınmasını (grounding) gerektirir. Taranmış formlar ve OCR için Textract, konuşma işlem hatları (pipelines) için Transcribe ve Polly, görüntü analizi ve güvenlik filtreleri için Rekognition ve varlık çıkarma (entity extraction) ile PII tespiti için Comprehend kullanarak belgeleri alın (ingest). Vektör gömülmelerini (vector embeddings) bir OpenSearch veya özelleşmiş bir vektör veritabanında saklayın; zengin bağlayıcılara (connectors) ve alaka düzeyi ayarlamasına (relevance tuning) sahip yönetilen anlamsal arama gerektiğinde Amazon Kendra’yı kullanın. Chatbot’ları üretim (generation) için Bedrock ve geri getirme (retrieval) için Kendra veya bir gömülme (embeddings) deposu ile tasarlayın; Amazon Lex ise deterministik akışlarda niyet yönlendirme (intent routing) ve alan doldurma (slot filling) için kullanışlı olmaya devam eder. Agents for Bedrock, araç kullanımını, harici API’leri veya çok adımlı akıl yürütmeyi düzenlerken kullanışlıdır, ancak güvenli olmayan eylemlerden kaçınmak için sağlam kimlik bilgileri ve araç doğrulayıcıları gerektirir. Uygulamada karşılaşılan zorluklar arasında büyük külliyatları (corpora) sayfalandırmamak, geri getirme (retrieval) gecikmesinin kullanıcı deneyimi üzerindeki etkilerini göz ardı etmek ve geri getirme dizinini (index) sürümlememek yer alır; kararlar güncelliği, dizin güncelleme sıklığını ve vektör depolama maliyetini halüsinasyon riskine karşı dengelemelidir.
Güvenlik, gizlilik, açıklanabilirlik ve değerlendirme
Güvenlik ve yönetişim, paylaşılan sorumluluk modelini takip eder: AWS hizmet altyapısını yönetirken, müşteri verileri sınıflandırmalı, IAM rollerini yönetmeli, verileri KMS ile şifrelemeli ve VPC uç noktaları ile PrivateLink aracılığıyla ağ erişimini kontrol etmelidir. Hassas veya düzenlemeye tabi iş yükleri için, SageMaker’ı S3 ağ geçidi uç noktalarına sahip internetsiz bir VPC’de çalıştırın ve Bedrock özel ağ seçeneklerini kullanın. Eğitimden önce Comprehend ve Textract ön işlemesini kullanarak otomatik PII (Kişisel Tanımlanabilir Bilgi) ayıklaması uygulayın ve veri setleri gizli bilgiler içerdiğinde diferansiyel gizlilik veya veri minimizasyonunu göz önünde bulundurun. Açıklanabilirlik ve yanlılık tespiti, SageMaker Clarify, SHAP açıklayıcıları gibi araçlar ve uç durumlar için Amazon Augmented AI aracılığıyla insan incelemesi iş akışları gerektirir. Modelleri, özellik kayması, tahmin kayması gibi Model Monitor metrikleri ve RAG işlem hatları için özel olgusallık kontrolleri ile izleyin. Yaygın hatalar arasında hazır model güvenliğini yeterli görmek, denetim için istemleri ve yanıtları günlüğe kaydetmemek ve kontrollü erişime sahip doğrulama veri setlerini saklamamak yer alır; yönetişim kararları, model çıkarımı veya veri sızıntısı için silme politikalarını ve olay müdahale adımlarını içermelidir.
Pratik Problem: Kullanım Senaryosu
Senaryo: Nimbus Retail, küresel çapta fiziksel mağazalar işletmekte ve satış ile ürün görseli verilerini Amazon S3’te tutmaktadır. AWS AI ortamları SageMaker Studio, Amazon Bedrock erişimi, Amazon Kendra, OpenSearch Service ve BI (İş Zekası) için Amazon QuickSight’ı içermektedir.
Zorluk: Nimbus’un, olgusal doğruluğu sağlarken, müşteri ve tedarikçi gizli verilerini korurken ve mağaza müdürleri için haftalık en çok satanlar listeleri oluştururken bağlamsal ürün açıklamaları ve yerelleştirilmiş çeviriler üretecek LLM destekli bir asistana ihtiyacı var.
Önerilen Yaklaşım:
- Ürün belgelerinden yapılandırılmış öznitelikleri çıkarmak için Amazon Textract’ı ve ürün görsellerini doğrulamak ve etiketlemek için Rekognition’ı kullanın; temizlenmiş varlıkları KMS ve katı IAM rolleri ile şifrelenmiş bir S3 bucket’ında saklayın.
- OpenSearch’te veya bir Bedrock kodlayıcısından gelen gömmelerle (embeddings) doldurulmuş yönetilen bir vektör deposunda bir embeddings dizini oluşturun; politika ve spesifikasyon belgelerinin anlamsal olarak getirilmesi için Kendra’yı kullanın.
- Bir RAG işlem hattı uygulayın: Getirme bağlamıyla üretim için Bedrock’u kullanın, Comprehend ve dizinlenmiş korpusa karşı özel doğrulama sorguları kullanarak bir olgusallık filtresi uygulayın ve tüm istemleri ve yanıtları CloudTrail’e ve bir denetim S3 bucket’ına günlüğe kaydedin.
- S3 veri gölü üzerindeki Athena sorgularından elde edilen toplu satışlarla beslenen Amazon QuickSight ile haftalık grafikler oluşturun ve yüksek etkili düzenlemeler için A2I aracılığıyla insan incelemesi ile UX (Kullanıcı Deneyimi) tüketimi için model tarafından oluşturulan açıklamaları bir SageMaker uç noktasında sunun.
Gerekçe: Bu yaklaşım, halüsinasyonları azaltmak için üretken çıktıları getirme ve belge doğrulaması ile temellendirir, verileri en az ayrıcalıklı erişimle şifrelenmiş S3’te güvence altına alır ve hız, yönetişim ve doğruluğu dengelemek için dizinleme, üretim ve BI (İş Zekası) için yönetilen hizmetleri kullanarak sorumlulukları ayırır.
← Generative AI Kavramları · Tüm alanlar · Sorumlu AI ve Yönetişim →
Bu soruları çözün → · ExamRoll.io’da süreli pratik →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Sınavınızı geçin →