Een bank verfijnt een LLM op Amazon Bedrock om vragen van klanten over leningen te beantwoorden. Welke actie moet de bank ondernemen om ervoor te zorgen dat het model geen privéklantinformatie blootlegt?

Het verwijderen van persoonlijk identificeerbare informatie (PII) uit de trainingsdata is cruciaal om te voorkomen dat de LLM deze gevoelige gegevens leert en mogelijk blootlegt tijdens interacties. Dit is een fundamentele stap in gegevensprivacy en modelveiligheid. Amazon Bedrock Guardrails kunnen helpen bij het filteren van output, maar het is beter om PII al in de inputfase te verwijderen. Het verhogen van de Top-K parameter beïnvloedt de diversiteit van de output, niet de privacy. Het opslaan van gegevens in Amazon S3 met versleuteling beschermt de gegevens tijdens opslag, maar garandeert niet dat de LLM de PII niet leert als deze in de trainingsdata aanwezig is.