Un banco está ajustando un LLM en Amazon Bedrock para responder preguntas de clientes sobre préstamos. Para asegurar que el modelo no exponga información privada de los clientes, ¿qué acción debería tomar el banco?

Eliminar la información de identificación personal (PII) de los datos del cliente antes de ajustar el LLM es crucial para evitar la exposición de datos sensibles. Si la PII permanece en los datos de entrenamiento, el modelo podría aprender a generarla o revelarla en sus respuestas. Usar Amazon Bedrock Guardrails es una buena práctica para la seguridad y la moderación, pero actúa como una capa posterior al modelo, no previene que el modelo aprenda la PII si está en los datos de entrenamiento. Aumentar el parámetro Top-K del LLM afecta la diversidad de las respuestas del modelo, no su capacidad para proteger la PII. Almacenar los datos en Amazon S3 y cifrarlos protege los datos en reposo y en tránsito, pero no elimina la PII de los datos que se utilizan para el entrenamiento, lo que sigue siendo un riesgo de exposición por parte del modelo.