Durante i test di sicurezza di un modello di base, i tester aggirano intenzionalmente le protezioni di sicurezza del modello per produrre contenuti dannosi. Come si chiama questo tipo di tecnica?

Il jailbreak è una tecnica in cui i tester aggirano intenzionalmente le protezioni di sicurezza di un modello di base per indurlo a generare contenuti dannosi, inappropriati o non conformi alle sue politiche di sicurezza. Questo metodo mira a scoprire le vulnerabilità del modello. Il "fuzzing dei dati di training" si riferisce all'introduzione di dati casuali o malformati nel training per trovare bug, non per aggirare le protezioni di un modello già addestrato. Il "Denial of Service (DoS)" mira a rendere un servizio non disponibile, non a estrarre contenuti dannosi. Il "test di penetrazione autorizzato" è un termine generico per test di sicurezza autorizzati, ma "jailbreak" è la terminologia specifica per questo tipo di attacco ai modelli di base.