Eine Bank optimiert ein LLM auf Amazon Bedrock, um Kundenfragen zu Krediten zu beantworten. Welche Maßnahme sollte die Bank ergreifen, um sicherzustellen, dass das Modell keine privaten Kundeninformationen preisgibt?

Die Entfernung von PII aus den Kundendaten vor der Optimierung (Feinabstimmung oder Pre-Training) eines LLM ist entscheidend, um zu verhindern, dass das Modell diese sensiblen Informationen lernt und potenziell preisgibt. Ein optimiertes Modell kann Muster aus den Trainingsdaten extrahieren, einschließlich PII, wenn diese vorhanden sind. Die Verwendung von Amazon Bedrock Guardrails ist eine wichtige Schutzmaßnahme, um unerwünschte oder unsichere Ausgaben des Modells in Echtzeit zu filtern. Sie verhindert jedoch nicht, dass das Modell PII aus den Trainingsdaten gelernt hat. Das Erhöhen des Top-K-Parameters beeinflusst die Generierungsvielfalt, hat aber keinen direkten Einfluss auf den Schutz vor PII-Lecks. Das Speichern und Verschlüsseln von Daten in Amazon S3 schützt die Daten während der Speicherung, verhindert aber nicht, dass PII in das Modell trainiert wird, wenn die Daten vor dem Training nicht bereinigt werden.