Ein Kreditgeber entwickelt eine generative KI-Lösung, um neuen Antragstellern Rabatte anzubieten, und möchte Vorurteile minimieren, die sich negativ auf einige Kunden auswirken könnten. Welche Maßnahmen sollte er ergreifen? (Wählen Sie zwei.)

Um Vorurteile in einer generativen KI-Lösung zu minimieren, die Rabatte anbietet, ist es entscheidend, zunächst Ungleichgewichte oder Disparitäten in den Trainingsdaten zu erkennen. Datenverzerrungen sind eine Hauptursache für Modellverzerrungen, da das Modell Muster aus den vorhandenen, möglicherweise voreingenommenen Daten lernt. Das Erkennen dieser Ungleichgewichte ist der erste Schritt zur Korrektur. Zweitens ist die Bewertung des Modellverhaltens unerlässlich. Dies ermöglicht es dem Kreditgeber, zu verstehen, wie das Modell Entscheidungen trifft und ob diese Entscheidungen fair und unvoreingenommen sind, was wiederum Transparenz gegenüber Stakeholdern schafft. Das häufige Ausführen des Modells garantiert nicht die Reduzierung von Vorurteilen. Die ROUGE-Metrik wird für die Bewertung von Textzusammenfassungen oder -generierungen verwendet und ist nicht direkt auf die Erkennung von Vorurteilen anwendbar, zudem ist 100% Genauigkeit in der KI selten erreichbar und nicht gleichbedeutend mit Fairness. Die Inferenzzeit des Modells bezieht sich auf die Leistung und Geschwindigkeit, nicht auf die Fairness oder Vorurteile.