Una banca sta ottimizzando un LLM su Amazon Bedrock per rispondere alle domande dei clienti sui prestiti. Per garantire che il modello non esponga informazioni private dei clienti, quale azione dovrebbe intraprendere la banca?

La rimozione delle informazioni di identificazione personale (PII) dai dati di addestramento è fondamentale per prevenire la fuga di dati sensibili. Se l'LLM viene ottimizzato con PII, esiste il rischio che queste informazioni vengano esposte nelle risposte del modello. Amazon Bedrock Guardrails è utile per filtrare contenuti indesiderati nelle risposte, ma non impedisce che le PII vengano apprese dal modello durante l'ottimizzazione. Aumentare il parametro Top-K influisce sulla diversità delle risposte, non sulla sicurezza dei dati. Archiviare i dati in S3 e crittografarli è una buona pratica di sicurezza per i dati a riposo, ma non impedisce che le PII vengano utilizzate e potenzialmente esposte dal modello una volta che i dati vengono caricati per l'ottimizzazione.