Amazon DEA-C01: Veri Sorgulama ve Analitik — Çalışma kılavuzu

Şunun bir parçası: Amazon Data Engineer Associate DEA-C01 — Çalışma kılavuzu. Doğrulanmış cevaplarla şurada pratik yapın: Amazon sınav merkezi, veya şurada süreli deneme sınavları çözün: ExamRoll.io.

Bu alan, büyük veri setleri üzerinde analitik sorguları ve BI’ı destekleyen AWS hizmetlerinin tasarlanmasını, ayarlanmasını ve işletilmesini kapsar. Athena, Redshift, OpenSearch ve QuickSight genelinde maliyet-etkin, yüksek performanslı sorgu desenlerine ve bu hizmetlerin S3, Glue ve işlemsel depolarla nasıl birlikte çalıştığına odaklanır. Bu alanda uzmanlaşmak, taranan bayt miktarını ve ağdaki dengesizliği (network skew) en aza indirirken düşük gecikmeli içgörüler sunmak için depolama formatı, partition’lama, işlem (compute) türü ve veri yerleşimini dengelemeyi gerektirir.

Amazon Athena sorgu optimizasyonu

Athena fiyatlandırması taranan bayt miktarına dayalıdır, bu nedenle fiziksel veri düzeni ve meta veriler birincil optimizasyon araçlarıdır. Boyutu ve CPU kullanımını azaltmak için sıkıştırma (Parquet için Snappy, Zlib/ORC seçenekleri) ile birlikte sütunlu formatlar (Parquet veya ORC) kullanın. Verileri yüksek kardinaliteye sahip, sorgu ile filtrelenen sütunlara (tarih, bölge gibi) göre partition’layın ve partition’ları Glue Veri Kataloğu’na kaydedin. Tipik desenler:

Sorgular işlemsel depolarla join gerektirdiğinde, RDS, DynamoDB veya Redshift ile kaynaklar arası join’ler gerçekleştirmek için Athena Federated Query’yi (Lambda bağlayıcıları) kullanın. Bağlayıcılar, Lambda fonksiyonları olarak dağıtılır ve Athena’da veri kaynakları olarak kaydedilir; örnek konsol akışı: Athena > Veri kaynakları > Bağlayıcılar > Yeni. Karar kriterleri:

Amazon Redshift sorgu ayarı ve dağıtımı

Redshift performansı, veri hareketini en aza indirmek ve zone haritalamayı (zone mapping) etkinleştirmek için dağıtım stiline (distribution style) ve sıralama anahtarlarına (sort keys) bağlıdır. Bu karar noktalarını kullanarak DIST stillerini seçin:

Zone haritalarını etkinleştirmek ve disk okumalarını azaltmak için aralık filtrelerinde veya ORDER BY’da kullanılan sütunlarda SORTKEY’ler tanımlayın. Yaygın operasyonel komutlar:

Log analitiği için Amazon OpenSearch Service

OpenSearch, veri alımı (ingest) ve hızlı, anlık (ad-hoc) log analitiği için optimize edilmiştir; indeks ve küme yapılandırması, verim (throughput) ve maliyeti belirler. İndeks tasarımı ve yaşam döngüsü:

BI ve görselleştirme için QuickSight

QuickSight, iki ana veri alım moduyla hızlı dashboard’lar sunar: SPICE (bellek içi) ve doğrudan sorgu (direct query). SPICE, dashboard’lar için saniye altı performans sunar ve tekrarlanan okumalar için uygundur; doğrudan SQL sorguları (Athena, Redshift, RDS’e) ise çok büyük veri setleri veya sık değişen veriler için tercih edilir. Temel yapılandırma ve en iyi uygulamalar:

Yaygın Hatalar ve Karar Kriterleri

Pratik Problem: Kullanım Senaryosu

Acme Retail’in, Amazon RDS’teki işlem (transactional) siparişlerini, S3’teki tıklama akışı (clickstream) olaylarını ve DynamoDB’deki kullanıcı profillerini birleştiren günlük BI raporlarına ihtiyacı vardır. Bu raporlar, maliyet sınırları dahilinde kalmalı ve son veriler için bir dakikanın altında dashboard yenilemeleri sağlamalıdır.

  1. S3’teki tıklama akışı (clickstream) verilerini tarih bazlı bölümlenmiş (partitioned) Parquet formatına dönüştürün, Snappy ile sıkıştırın ve bir crawler aracılığıyla meta verileri AWS Glue’ye kaydedin.
  2. S3 üzerindeki anlık (ad-hoc) sorgular için Athena’yı kullanın ve küçük boyutlu (small-dimension) join işlemleri yapmak üzere RDS ile DynamoDB için Federated Query bağlayıcılarını (connectors) dağıtın; sorgular tekrarlanıyorsa, sık yapılan join sonuçlarını Parquet olarak somutlaştırın (materialize).
  3. Yoğun analitik join işlemleri için Redshift’i provizyonlayın: toplulaştırılmış anlık görüntüleri (snapshots) Redshift’e yükleyin, yüksek kardinaliteli customer_id üzerinde DISTKEY ayarlayın ve order_date üzerinde SORTKEY tanımlayın; S3’teki soğuk (cold) geçmiş veriler için Spectrum kullanın.
  4. Uygulama loglarını günlük indeks desenleriyle (daily index patterns) OpenSearch’e alın (ingest); son indeksleri hot node’larda tutmak ve maliyet tasarrufu için eski indeksleri UltraWarm’a taşımak üzere ILM uygulayın.
  5. QuickSight dashboard’ları oluşturun: bir dakikanın altında algılanan yanıt süresi için son toplulaştırılmış verileri zamanlanmış artımlı yenilemelerle (incremental refreshes) SPICE’a aktarın ve her zaman güncel (fresh) metrikler için doğrudan sorguları (direct queries) kullanın.

Gerekçe: Bu yaklaşım, bölümleme (partitioning) ve sütun bazlı formatlar aracılığıyla Athena tarama maliyetlerini en aza indirir, uygun dağıtım (distribution) ve sıralama (sort) anahtarlarıyla Redshift ağındaki veri karışıklığını (network shuffle) azaltır, Redshift’te soğuk (cold) veri depolamaktan kaçınmak için Spectrum’u kullanır, depolama maliyetini optimize etmek için OpenSearch ILM’yi uygular ve doğrudan sorgular (direct queries) aracılığıyla kritik güncelliği korurken hızlı yanıt veren dashboard’lar için SPICE’tan yararlanır.


Veri Orkestrasyonu ve İş Akışı Yönetimi · Tüm alanlar · Veri Güvenliği

Bu soruları çözün → · ExamRoll.io’da süreli pratik →

Pass the whole exam — not just this question

You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.

Sınavınızı geçin →

Amazon'a göz atın →

Related guides

Hepsi bir arada erişim

Tek abonelik. Her sınav.

Her plan, sınırsız cevap aramayı, pratik testlerini, AI açıklamalarını ve tam kaynak kütüphanesini — 20'den fazla dilde — açar.

Aylık
24.87
Just €0.83/day
Her şey dahil:
  • Sınırsız cevap arama
  • Sınırsız pratik testi
  • AI destekli açıklamalar
  • Tam kaynak kütüphanesi
  • 20+ dil
  • Haftalık içerik güncellemeleri
  • Ödüller ve yönlendirmeler
  • Öncelikli destek
Ücretsiz denemeyi başlat

Kredi kartı gerekmez*

En iyi değer
12 ay
179.87
Just €0.49/daySave 40%
Her şey dahil:
  • Sınırsız cevap arama
  • Sınırsız pratik testi
  • AI destekli açıklamalar
  • Tam kaynak kütüphanesi
  • 20+ dil
  • Haftalık içerik güncellemeleri
  • Ödüller ve yönlendirmeler
  • Öncelikli destek
Ücretsiz denemeyi başlat

Kredi kartı gerekmez*

✓ Ücretsiz plan dahil · ✓ İstediğiniz zaman iptal edin · ✓ Tüm planlar tam ürünü açar