Tijdens beveiligingstests van een funderingsmodel omzeilen testers opzettelijk de veiligheidsmaatregelen van het model om schadelijke inhoud te produceren. Hoe wordt dit soort techniek genoemd?

De juiste term is Jailbreak. Dit verwijst naar het opzettelijk omzeilen van de veiligheidsmaatregelen van een funderingsmodel om het te laten handelen op manieren die niet de bedoeling waren, vaak om schadelijke of ongepaste inhoud te genereren. Fuzzing van trainingsgegevens is een techniek om kwetsbaarheden te vinden door ongeldige of onverwachte invoer te leveren, maar het doel is niet direct het genereren van schadelijke inhoud door het model te omzeilen. Denial of Service (DoS) is een aanval die gericht is op het ontoegankelijk maken van een dienst, niet op het manipuleren van de output van een model. Geautoriseerde penetratietest is een brede term voor beveiligingstests, maar "jailbreak" is de specifieke term voor deze context bij funderingsmodellen.