Mithilfe der Generative AI Security Scoping Matrix identifiziert ein Unternehmen vier Lösungsbereiche. Welcher Bereich überträgt dem Unternehmen die größte Verantwortung für die Sicherheit?

Die Entwicklung und das Training eines generativen KI-Modells von Grund auf unter Verwendung kundeneigener Daten bedeutet, dass das Unternehmen die volle Kontrolle und damit die größte Verantwortung für alle Aspekte der Sicherheit trägt, einschließlich der Datenzugriffskontrolle, Modellintegrität, Bias-Minderung und Output-Filterung. Bei den anderen Optionen wird ein Teil der Sicherheitsverantwortung an den Drittanbieter delegiert. Die Feinabstimmung eines bestehenden FM mit eigenen Daten erfordert zwar auch Sorgfalt, aber das Basissicherheitsniveau des Modells wird vom Drittanbieter bereitgestellt. Die Erstellung einer Anwendung auf einem Drittanbieter-FM oder die Verwendung einer Drittanbieter-Anwendung mit integrierter KI verlagert die Hauptsicherheitslast auf den Drittanbieter, wobei das Unternehmen lediglich für die sichere Nutzung und Konfiguration verantwortlich ist.