Amazon AIF-C01: Koncepcje generatywnej AI — Przewodnik do nauki

Część AWS AI Practitioner AIF-C01 — Przewodnik do nauki. Ćwicz ze zweryfikowanymi odpowiedziami w centrum egzaminów Amazon, albo rozwiąż testy na czas na ExamRoll.io.

Modele fundamentalne, tokeny, embeddingi i podstawy multimodalności

Modele fundamentalne to duże, wstępnie wytrenowane sieci neuronowe, które zapewniają potężne, uniwersalne możliwości w zakresie tekstu, obrazów i innych modalności; przykłady dostępne w AWS to m.in. dostęp Amazon Bedrock do modeli Titan i innych dostawców oraz środowiska SageMaker do trenowania i hostowania niestandardowych modeli. Tokeny to atomowe jednostki — części słów lub znaki — których LLM używają do wprowadzania i generowania danych; tokenizacja determinuje wykorzystanie okna kontekstowego, koszt i ryzyko obcięcia danych. Embeddingi to gęste wektory numeryczne, które kodują znaczenie semantyczne i stanowią spoiwo dla wyszukiwania podobieństw, klastrowania i późniejszego odzyskiwania danych; embeddingi mogą być generowane przez modele w Bedrock lub przez modele hostowane na SageMaker. Modele multimodalne akceptują i łączą tekst, obrazy i dźwięk; typowe komponenty budulcowe w AWS to Amazon Rekognition do ekstrakcji cech wizualnych, Amazon Textract do zeskanowanych dokumentów i Amazon Transcribe do konwersji mowy na tekst, przy czym modele z Bedrock lub SageMaker służą do łączenia modalności. Kluczowe kompromisy dla praktyków obejmują wybór między dostrajaniem modelu fundamentalnego (wyższy koszt, dłuższy czas realizacji, lepsze dopasowanie do zadania) a inżynierią promptów i RAG (szybciej, niższy koszt, bezpieczniejsze dla prywatności danych). Częste pułapki to ignorowanie limitów tokenów podczas tworzenia promptów, brak wersjonowania embeddingów lub indeksów oraz niedoszacowanie potrzeb wstępnego przetwarzania danych wejściowych w postaci obrazów i dokumentów.

Inżynieria promptów, sterowanie modelem i techniki rozumowania

Inżynieria promptów polega na strukturyzowaniu instrukcji i kontekstu w celu uzyskania wiarygodnych wyników; skuteczne prompty oddzielają instrukcje systemowe (rola, zabezpieczenia), treść użytkownika i opcjonalne przykłady few-shot. Używaj zwięzłych promptów systemowych do definiowania stylu, ograniczeń i formatu wyjściowego oraz przechowuj kanoniczne szablony, aby uniknąć rozbieżności. Dostrajanie parametrów inferencji, takich jak temperature, top-p i max_tokens w Bedrock lub SageMaker, wpływa na kreatywność i determinizm — niższa wartość temperature i węższy top-p dają bardziej spójne odpowiedzi kosztem kreatywności. Techniki rozumowania obejmują chain-of-thought (jawne rozumowanie pośrednie w celu ulepszenia zadań wieloetapowych), self-consistency (próbkowanie wielu ścieżek rozumowania i agregacja wyników) oraz pętle weryfikacyjne (proszenie modelu o sprawdzenie lub cytowanie źródeł). Częste pułapki to wstrzykiwanie promptów (prompt injection), czyli niezaufane dane wejściowe zmieniające zachowanie systemu, kruche przykłady few-shot, które nadmiernie dopasowują się do stylu zamiast do intencji, oraz zaniedbywanie logowania promptów w celach audytowych. Kryteria decyzyjne dotyczące technik: używaj chain-of-thought do złożonego rozumowania, gdy liczy się przejrzystość, ale dodaj weryfikację, gdy wyniki mają konsekwencje w świecie rzeczywistym; preferuj ustawienia deterministyczne dla interfejsów użytkownika w środowiskach produkcyjnych, aby zapewnić powtarzalność.

Retrieval-Augmented Generation (RAG), bazy wektorowe, agenci i architektury

RAG łączy warstwę wyszukiwania (retrieval) z modelem generatywnym: indeksuje dokumenty, oblicza embeddingi, przeprowadza wyszukiwanie podobieństw w celu odnalezienia kontekstu, a następnie warunkuje LLM na odnalezionych fragmentach. W AWS źródła dokumentów zazwyczaj znajdują się w Amazon S3, do ekstrakcji używa się Textract lub niestandardowych potoków, embeddingi są generowane przez Bedrock lub SageMaker, a wektory są przechowywane w Amazon OpenSearch Service z k-NN lub w wyspecjalizowanych bazach wektorowych zbudowanych na DynamoDB lub OpenSearch; można użyć Amazon Kendra, gdy wymagane jest semantyczne wyszukiwanie korporacyjne i konektory. Agenci to kontrolery oparte na LLM, które decydują, kiedy wywołać narzędzia — wyszukiwanie, zapytania do bazy danych, kalkulatory — i mogą być implementowani poprzez orkiestrację wywołań modelu za pomocą AWS Lambda lub Step Functions w celu bezpiecznego wykonywania narzędzi. Wzorce architektoniczne obejmują synchroniczny RAG dla chatbotów oraz asynchroniczny, wsadowy RAG do zadań streszczania (z użyciem Athena lub EMR do wstępnego przetwarzania dużych korpusów danych). Pułapki dla praktyków: nieaktualne indeksy (brak odświeżania embeddingów), dołączanie zbyt długiego kontekstu, który przekracza okna tokenów, oraz brak dołączania linków do źródła (provenance) dla odnalezionych treści. Decyzję między Kendra a OpenSearch należy podjąć na podstawie dostępnych konektorów, wymogów bezpieczeństwa i potrzeby rankingu semantycznego.

Halucynacje, stronniczość, wyjaśnialność, monitorowanie i ład (governance)

Halucynacje występują, gdy modele tworzą wiarygodnie brzmiące, ale nieprawdziwe fakty; strategie mitygacji koncentrują się na uziemianiu odpowiedzi (RAG), jawnym cytowaniu pobranych źródeł, modelach weryfikacyjnych sprawdzających fakty na wyjściu oraz przeglądzie przez człowieka (human-in-the-loop) w domenach wysokiego ryzyka. Stronniczość (bias) wynika z niezrównoważonych danych treningowych lub dystrybucji etykiet; użyj Amazon SageMaker Clarify do wykrywania stronniczości w zbiorze danych, badania ważności cech (feature importances) i tworzenia artefaktów wyjaśnialności. W celu oceny wydajności i dryftu modelu, wdróż Amazon SageMaker Model Monitor do wykrywania dryftu danych i predykcji, loguj dane wejściowe i wyjściowe wnioskowania do CloudWatch i S3 w celach audytowych oraz utrzymuj pochodzenie (provenance) promptów i pobranych źródeł. Ewaluacja powinna łączyć metryki techniczne (precision/recall, F1, mAP dla detekcji, ROUGE dla podsumowań, perplexity w odpowiednich przypadkach) z metrykami zorientowanymi na człowieka, takimi jak pomocność, bezpieczeństwo i opóźnienie (latency). Praktyczne zasady ładu (governance) obejmują red-teaming wyników, automatyczne filtry treści, wykrywanie i redagowanie danych PII za pomocą Amazon Comprehend PII, wersjonowanie modeli i osadzeń (embeddings) oraz dokumentowanie zamierzonego zastosowania i ograniczeń. Częste pułapki to poleganie wyłącznie na testach syntetycznych, niewystarczające logowanie na potrzeby zgodności (compliance) oraz pomijanie mitygacji stronniczości przed wdrożeniem w kontekstach regulowanych.

Problem praktyczny: Scenariusz użycia

Scenariusz: Firma MedData Analytics używa wewnętrznego asystenta diagnostycznego wykorzystującego Amazon Bedrock do generowania treści, przechowuje podręczniki dla pacjentów i raporty z obrazowania w Amazon S3 oraz korzysta z potoku treningowego SageMaker do eksperymentów z modelami. Firma musi dostarczać klinicystom transparentne, weryfikowalne sugestie diagnostyczne, minimalizując jednocześnie halucynacje i stronniczość.

Wyzwanie: Uziemienie odpowiedzi modelu w zaufanych dokumentach, zapewnienie wyjaśnialności i kontroli stronniczości oraz stworzenie produkcyjnego potoku RAG, który utrzymuje pochodzenie danych i nadzór człowieka.

Zalecane podejście:

  1. Użyj Amazon Textract do ekstrakcji ustrukturyzowanego tekstu z plików PDF oraz Amazon Comprehend PII do redagowania pól wrażliwych; przechowuj oczyszczone dokumenty w Amazon S3 i śledź wersje za pomocą tagowania obiektów.
  2. Generuj osadzenia (embeddings) za pomocą modelu osadzeń Amazon Bedrock (lub enkodera hostowanego na SageMaker), indeksuj wektory w Amazon OpenSearch Service z użyciem k-NN i przechowuj metadane w DynamoDB w celu śledzenia pochodzenia.
  3. Zbuduj orkiestrację RAG, w której Lambda (lub Step Functions) pobiera top_k fragmentów, składa szablon promptu systemowego i wywołuje Amazon Bedrock do generowania z niską temperaturą (temperature) i jawną instrukcją „cytuj źródła”.
  4. Zastosuj SageMaker Clarify na danych treningowych/etykietach, aby wykryć stronniczość, użyj SageMaker Model Monitor do alertów o dryfcie, loguj prompty i identyfikatory pobranych danych do CloudWatch/S3 oraz kieruj wyniki wysokiego ryzyka przez Amazon A2I do przeglądu przez klinicystę.

Uzasadnienie: Uziemienie odpowiedzi za pomocą RAG i jawne cytowanie źródeł redukuje halucynacje; połączenie Clarify, Model Monitor i przeglądu przez człowieka zapewnia wyjaśnialność, wykrywanie stronniczości i bezpieczny ład operacyjny (governance) zgodny z najlepszymi praktykami.


Podstawy AI i ML · Wszystkie domeny · Usługi AWS AI

Przećwicz te pytania → · Testy na czas na ExamRoll.io →

Pass the whole exam — not just this question

You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.

Zdaj egzamin →

Przeglądaj Amazon →

Related guides

Dostęp all-in-one

Jedna subskrypcja. Każdy egzamin.

Każdy plan odblokowuje nieograniczone wyszukiwanie odpowiedzi, testy praktyczne, wyjaśnienia AI i pełną bibliotekę zasobów — w ponad 20 językach.

Miesięczny
24.87
Just €0.83/day
Wszystko w cenie:
  • Nieograniczone wyszukiwanie odpowiedzi
  • Nieograniczone testy praktyczne
  • Wyjaśnienia wspomagane AI
  • Pełna biblioteka zasobów
  • Ponad 20 języków
  • Cotygodniowe aktualizacje treści
  • Nagrody i polecenia
  • Priorytetowe wsparcie
Rozpocznij bezpłatny okres próbny

Karta kredytowa nie jest wymagana*

Najlepsza wartość
12 miesięcy
179.87
Just €0.49/daySave 40%
Wszystko w cenie:
  • Nieograniczone wyszukiwanie odpowiedzi
  • Nieograniczone testy praktyczne
  • Wyjaśnienia wspomagane AI
  • Pełna biblioteka zasobów
  • Ponad 20 języków
  • Cotygodniowe aktualizacje treści
  • Nagrody i polecenia
  • Priorytetowe wsparcie
Rozpocznij bezpłatny okres próbny

Karta kredytowa nie jest wymagana*

✓ Plan darmowy w zestawie · ✓ Anuluj w dowolnym momencie · ✓ Wszystkie plany odblokowują pełny produkt