Amazon AIF-C01: Generative AI Kavramları — Çalışma kılavuzu

Şunun bir parçası: AWS AI Practitioner AIF-C01 — Çalışma kılavuzu. Doğrulanmış cevaplarla şurada pratik yapın: Amazon sınav merkezi, veya şurada süreli deneme sınavları çözün: ExamRoll.io.

Temel modeller, belirteçler, gömme vektörleri ve çok modlu temeller

Temel modeller, metin, görüntü ve diğer modalitelerde güçlü, genel amaçlı yetenekler sağlayan büyük, önceden eğitilmiş sinir ağlarıdır; AWS üzerinden erişilebilen örnekler arasında Amazon Bedrock’un Titan ve diğer satıcı modellerine erişimi ile özel modellerin eğitimi ve barındırılması için SageMaker ortamları bulunur. Belirteçler, LLM’lerin girdi ve çıktı için kullandığı atomik parçalardır (kelime altı birimler veya karakterler); belirteçlere ayırma (tokenization), bağlam penceresi kullanımını, maliyeti ve kesilme riskini belirler. Gömme vektörleri (embeddings), anlamsal anlamı kodlayan yoğun sayısal vektörlerdir ve benzerlik araması, kümeleme ve sonraki aşama geri getirme (retrieval) işlemleri için birleştirici bir rol oynar; gömme vektörleri, Bedrock modelleri veya SageMaker üzerinde barındırılan modeller tarafından oluşturulabilir. Çok modlu modeller metin, görüntü ve sesi kabul eder ve bunları birbirine bağlar; tipik AWS yapı taşları arasında görsel özellik çıkarma için Amazon Rekognition, taranmış belgeler için Amazon Textract ve sesten metne dönüştürme için Amazon Transcribe yer alır; modaliteleri birleştirmek için ise Bedrock veya SageMaker modelleri kullanılır. Uygulayıcılar için temel değiş tokuşlar (tradeoffs), bir temel modele ince ayar yapma (daha yüksek maliyet, daha uzun hazırlık süresi, görevle daha iyi uyum) ile prompt mühendisliği ve RAG (daha hızlı, daha düşük maliyet, veri gizliliği için daha güvenli) arasında seçim yapmayı içerir. Yaygın tuzaklar arasında, prompt oluşturma sırasında belirteç sınırlarını göz ardı etmek, gömme vektörlerini veya dizinleri sürümlememek ve görüntü ile belge girdileri için ön işleme ihtiyaçlarını hafife almak bulunur.

Prompt mühendisliği, model kontrolleri ve akıl yürütme teknikleri

Prompt mühendisliği, güvenilir çıktılar elde etmek için talimatları ve bağlamı yapılandırır; etkili prompt’lar sistem talimatlarını (rol, koruma mekanizmaları), kullanıcı içeriğini ve isteğe bağlı az sayıda örneği (few-shot examples) birbirinden ayırır. Stili, kısıtlamaları ve çıktı formatını tanımlamak için öz sistem prompt’ları kullanın ve zamanla oluşabilecek sapmaları önlemek için standart şablonları saklayın. Bedrock veya SageMaker’da temperature, top-p ve max_tokens gibi çıkarım parametrelerine ayar yapmak, yaratıcılığı ve determinizmi etkiler; daha düşük temperature ve daha dar top-p, yaratıcılıktan ödün vererek daha tutarlı yanıtlar üretir. Akıl yürütme teknikleri arasında düşünce zinciri (chain-of-thought) (çok adımlı görevleri iyileştirmek için açık ara akıl yürütme), kendi içinde tutarlılık (self-consistency) (birden fazla akıl yürütme yolunu örnekleyip birleştirmek) ve doğrulama döngüleri (modelden kaynakları kontrol etmesini veya belirtmesini istemek) bulunur. Yaygın tuzaklar, prompt enjeksiyonu (güvenilmeyen girdilerin sistem davranışını değiştirmesi), niyetten ziyade stile aşırı uyum sağlayan (overfit) kırılgan az sayıda örnekler (few-shot examples) ve denetlenebilirlik için prompt’ları kaydetmeyi ihmal etmektir. Teknikler için karar kriterleri: şeffaflığın önemli olduğu karmaşık akıl yürütme işlemleri için düşünce zinciri (chain-of-thought) kullanın, ancak sonuçların gerçek dünya üzerinde etkileri olduğunda doğrulama ekleyin; tekrarlanabilirliği sağlamak için üretim ortamındaki kullanıcı arayüzleri (UI) için deterministik ayarları tercih edin.

Geri Getirme Destekli Üretim (RAG), vektör depoları, ajanlar ve mimariler

RAG, bir geri getirme (retrieval) katmanını bir üretici modelle birleştirir: belgeleri dizinleyin, gömme vektörlerini hesaplayın, bağlamı geri getirmek için benzerlik araması yapın ve ardından LLM’i geri getirilen pasajlarla koşullandırın. AWS’de, belge kaynakları genellikle Amazon S3’te bulunur, çıkarma işlemi Textract veya özel işlem hatları (pipeline) kullanılarak yapılır, gömme vektörleri Bedrock veya SageMaker aracılığıyla oluşturulur ve vektörler k-NN ile Amazon OpenSearch Service’te veya DynamoDB ya da OpenSearch üzerine katmanlanmış özel vektör depolarında saklanır; kurumsal düzeyde anlamsal arama ve bağlayıcılar (connector) gerektiğinde Amazon Kendra kullanılabilir. Ajanlar, araçları (arama, veritabanı sorguları, hesap makineleri) ne zaman çağıracaklarına karar veren LLM tabanlı denetleyicilerdir ve araçları güvenli bir şekilde yürütmek için model çağrılarını AWS Lambda veya Step Functions ile düzenleyerek (orchestrating) uygulanabilirler. Mimari desenler arasında sohbet botları için senkron RAG ve özetleme işleri için asenkron toplu RAG (büyük külliyatları ön işlemek için Athena veya EMR kullanılır) bulunur. Uygulayıcı tuzakları: güncelliğini yitirmiş dizinler (gömme vektörlerini yenilememek), belirteç pencerelerini aşan uzun bağlamları aşırı dahil etmek ve geri getirilen içerik için kaynak bağlantılarını eklememek. Kendra ve OpenSearch arasında karar verirken bağlayıcılara, güvenliğe ve anlamsal sıralama ihtiyacına göre hareket edin.

Halüsinasyonlar, yanlılık, açıklanabilirlik, izleme ve yönetişim

Halüsinasyonlar, modeller kulağa makul gelen ancak yanlış olan gerçekler uydurduğunda ortaya çıkar; hafifletme stratejileri, yanıtları temellendirmeye (RAG), alınan kaynaklardan açıkça alıntı yapmaya, çıktıları doğrulayan doğrulama modellerine ve yüksek riskli alanlar için insan denetimine (human-in-the-loop) odaklanır. Yanlılık, çarpık eğitim verilerinden veya etiket dağılımlarından kaynaklanır; veri kümesi yanlılığını tespit etmek, özellik önemlerini (feature importances) incelemek ve açıklanabilirlik çıktıları (artifacts) üretmek için Amazon SageMaker Clarify’ı kullanın. Model performansı ve sapması (drift) için, veri ve tahmin sapmasını tespit etmek üzere Amazon SageMaker Model Monitor’ü dağıtın, denetim (auditing) için çıkarım (inference) girdilerini/çıktılarını CloudWatch ve S3’e kaydedin ve istemlerin (prompts) ve alınan kaynakların köken (provenance) bilgilerini koruyun. Değerlendirme, teknik metrikleri (hassasiyet/duyarlılık (precision/recall), F1, tespit için mAP, özetleme için ROUGE, uygun olduğunda şaşkınlık (perplexity)) yardımseverlik, güvenlik ve gecikme (latency) gibi insan merkezli metriklerle birleştirmelidir. Pratik yönetişim uygulamaları arasında çıktıların zorlama testlerine (red-teaming) tabi tutulması, otomatik içerik filtreleri, Amazon Comprehend PII ile PII tespiti ve ayıklanması (redaction), modellerin ve gömülü vektörlerin (embeddings) versiyonlanması ve kullanım amacı ile sınırlamaların belgelenmesi yer alır. Yaygın tuzaklar arasında yalnızca sentetik testlere güvenmek, uyumluluk için yetersiz günlük kaydı ve düzenlemeye tabi bağlamlarda dağıtımdan önce yanlılık azaltmayı atlamak bulunur.

Pratik Problem: Kullanım Senaryosu

Senaryo: MedData Analytics, üretim (generation) için Amazon Bedrock’u, Amazon S3’te saklanan hasta kılavuzlarını ve görüntüleme raporlarını ve model deneyleri için bir SageMaker eğitim ardışık düzenini (pipeline) kullanan bir dahili teşhis asistanı işletmektedir. Klinisyenler için halüsinasyonları ve yanlılığı en aza indirirken şeffaf, doğrulanabilir teşhis önerileri sunmaları gerekmektedir.

Zorluk: Model çıktılarını güvenilir belgelere dayandırmak, açıklanabilirlik ve yanlılık kontrollerini sağlamak ve köken (provenance) bilgilerini ve insan denetimini koruyan bir üretim RAG ardışık düzeni oluşturmak.

Önerilen Yaklaşım:

  1. PDF’lerden yapılandırılmış metin çıkarmak için Amazon Textract’ı ve hassas alanları ayıklamak (redact) için Amazon Comprehend PII’ı kullanın; temizlenmiş belgeleri Amazon S3’te saklayın ve nesne etiketleme (object tagging) ile sürümleri takip edin.
  2. Bir Amazon Bedrock gömülü vektör (embedding) modeliyle (veya SageMaker’da barındırılan bir kodlayıcıyla) gömülü vektörler oluşturun, vektörleri Amazon OpenSearch Service’te k-NN ile dizinleyin ve köken (provenance) bağlantıları için meta verileri DynamoDB’de saklayın.
  3. Lambda’nın (veya Step Functions’ın) en iyi_k pasajı aldığı, bir sistem istemi (prompt) şablonu oluşturduğu ve düşük sıcaklık (temperature) ve açık “kaynakları belirt” talimatlarıyla üretim için Amazon Bedrock’u çağırdığı bir RAG orkestrasyonu oluşturun.
  4. Yanlılığı tespit etmek için eğitim/etiket verileri üzerinde SageMaker Clarify’ı uygulayın, sapma (drift) uyarıları için SageMaker Model Monitor’ü kullanın, istemleri (prompts) ve alınan kaynakların kimliklerini CloudWatch/S3’e kaydedin ve yüksek riskli çıktıları klinisyen incelemesi için Amazon A2I üzerinden yönlendirin.

Gerekçe: Çıktıları RAG aracılığıyla temellendirmek ve açık kaynak gösterimi halüsinasyonları azaltır; Clarify, Model Monitor ve insan denetimini birleştirmek, uygulayıcıların en iyi pratikleriyle tutarlı bir şekilde açıklanabilirlik, yanlılık tespiti ve güvenli operasyonel yönetişim sağlar.


AI ve ML Temelleri · Tüm alanlar · AWS AI

Bu soruları çözün → · ExamRoll.io’da süreli pratik →

Pass the whole exam — not just this question

You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.

Sınavınızı geçin →

Amazon'a göz atın →

Related guides

Hepsi bir arada erişim

Tek abonelik. Her sınav.

Her plan, sınırsız cevap aramayı, pratik testlerini, AI açıklamalarını ve tam kaynak kütüphanesini — 20'den fazla dilde — açar.

Aylık
24.87
Just €0.83/day
Her şey dahil:
  • Sınırsız cevap arama
  • Sınırsız pratik testi
  • AI destekli açıklamalar
  • Tam kaynak kütüphanesi
  • 20+ dil
  • Haftalık içerik güncellemeleri
  • Ödüller ve yönlendirmeler
  • Öncelikli destek
Ücretsiz denemeyi başlat

Kredi kartı gerekmez*

En iyi değer
12 ay
179.87
Just €0.49/daySave 40%
Her şey dahil:
  • Sınırsız cevap arama
  • Sınırsız pratik testi
  • AI destekli açıklamalar
  • Tam kaynak kütüphanesi
  • 20+ dil
  • Haftalık içerik güncellemeleri
  • Ödüller ve yönlendirmeler
  • Öncelikli destek
Ücretsiz denemeyi başlat

Kredi kartı gerekmez*

✓ Ücretsiz plan dahil · ✓ İstediğiniz zaman iptal edin · ✓ Tüm planlar tam ürünü açar