Bank dostraja LLM na Amazon Bedrock, aby odpowiadać na pytania klientów dotyczące pożyczek. Jakie działanie powinien podjąć bank, aby upewnić się, że model nie ujawni prywatnych informacji o klientach?

Usunięcie danych osobowych (PII) z danych klienta przed dostrojeniem LLM to kluczowy krok w zapewnieniu prywatności. Dostrajanie modelu na danych zawierających PII mogłoby spowodować, że model nauczy się tych informacji i potencjalnie ujawni je w swoich odpowiedziach. Amazon Bedrock Guardrails to mechanizm bezpieczeństwa, który pomaga filtrować niepożądane treści i blokować wrażliwe dane w czasie rzeczywistym, ale nie zapobiega uczeniu się PII przez model podczas dostrajania. Zwiększenie parametru Top-K wpływa na różnorodność generowanych odpowiedzi, a nie na bezpieczeństwo danych. Przechowywanie zaszyfrowanych danych w S3 jest dobrą praktyką bezpieczeństwa, ale szyfrowanie danych przed dostrojeniem nie zapobiega ich wykorzystaniu przez model, jeśli zostaną odszyfrowane do treningu.