Praktyk AI wytrenował niestandardowy model Bedrock, używając zestawu danych zawierającego poufne informacje. Chce on zapobiec generowaniu przez model wyników ujawniających te poufne dane. Jaki jest prawidłowy sposób zapobiegania takim odpowiedziom?

Prawidłową metodą jest usunięcie niestandardowego modelu, usunięcie poufnych danych z zestawu treningowego, a następnie ponowne wytrenowanie modelu. Modele AI uczą się na podstawie danych treningowych, więc jeśli poufne informacje są obecne w danych treningowych, model może je ujawnić. Jedynym skutecznym sposobem na zapobieżenie temu jest usunięcie tych danych ze źródła i ponowne wytrenowanie. Dynamiczne maskowanie lub szyfrowanie wyników wnioskowania nie zapobiega generowaniu poufnych informacji przez model, a jedynie próbuje je ukryć po fakcie, co jest mniej bezpieczne i może prowadzić do wycieków. Szyfrowanie danych w modelu za pomocą AWS KMS chroni dane w spoczynku, ale nie zapobiega ich ujawnieniu przez model podczas wnioskowania, jeśli zostały użyte do treningu.