HealthBridge (aplikacja medyczna) udostępni LLM za pośrednictwem Amazon Bedrock. Zgodność wymaga blokowania instrukcji dotyczących diagnozy medycznej, usuwania wszelkich danych osobowych (PII) z wyników modelu oraz logowania naruszeń. Jaka jest odpowiednia konfiguracja i integracja Bedrock guardrail, aby spełnić te wymagania?

Poprawna odpowiedź jest najbardziej kompleksowa i bezpośrednio spełnia wszystkie wymagania. Włączenie Bedrock Guardrails z niestandardową polityką pozwala na blokowanie instrukcji dotyczących diagnozy medycznej, co jest kluczowe dla zgodności. Integracja Amazon Comprehend do wykrywania i redagowania PII w potoku odpowiedzi zapewnia automatyczne usuwanie danych osobowych przed zwróceniem wyników. Konfiguracja logowania audytu do CloudWatch Logs i S3 umożliwia monitorowanie naruszeń. Pozostałe opcje są nieodpowiednie: Poleganie wyłącznie na inżynierii promptów jest niewystarczające, ponieważ modele LLM mogą nie zawsze przestrzegać instrukcji systemowych, a CloudTrail monitoruje tylko wywołania API, nie treść odpowiedzi. Użycie polityki IAM i AWS WAF nie jest przeznaczone do filtrowania treści odpowiedzi LLM ani wykrywania PII, a skanowanie danych w S3 jest reaktywne, nie proaktywne. Wdrożenie modelu w SageMaker i użycie SageMaker Clarify jest możliwe, ale Bedrock Guardrails jest bardziej zintegrowanym i efektywnym rozwiązaniem dla wymagań zgodności w Bedrock, a poleganie na nocnych zadaniach wsadowych do redagowania PII jest zbyt późne.