Lors de tests de sécurité d'un modèle de fondation, les testeurs contournent intentionnellement les protections de sécurité du modèle pour produire du contenu nuisible. Comment appelle-t-on ce type de technique ?

Le jailbreak est une technique où les utilisateurs tentent de contourner les garde-fous et les restrictions de sécurité d'un modèle de fondation pour le forcer à générer du contenu qu'il est censé refuser, souvent du contenu nuisible ou inapproprié. C'est exactement ce que décrit la question. Le "fuzzing des données d'entraînement" est une technique de test qui consiste à injecter des données malformées ou inattendues dans les données d'entraînement pour trouver des vulnérabilités, mais pas à contourner les protections d'un modèle déjà entraîné. Une "attaque par déni de service (DoS)" vise à rendre un service indisponible en le submergeant de requêtes, ce qui n'est pas le cas ici. Le "test d'intrusion autorisé" est un test de sécurité éthique et contrôlé, mais le terme spécifique pour contourner les protections d'un modèle est le jailbreak.