Tijdens het bouwen van een model om afbeeldingen van mensen in verschillende beroepen te genereren, ontdek je dat de trainingsdata bevooroordeeld zijn en sommige attributen de outputs vertekenen. Welke mitigatietechniek pakt dit probleem aan?

Data-augmentatie voor onevenwichtige klassen is de meest directe mitigatietechniek. Als trainingsdata bevooroordeeld zijn en bepaalde attributen (zoals beroepen) ondervertegenwoordigd zijn, kan data-augmentatie helpen door synthetische voorbeelden van die ondervertegenwoordigde klassen te creëren. Dit vergroot de diversiteit en kwantiteit van de trainingsdata voor de minderheidsgroepen, waardoor het model beter leert generaliseren en minder bevooroordeelde outputs genereert. Modelmonitoring voor klassendistributie is nuttig om bias te detecteren na de implementatie, maar pakt de bias in de trainingsdata zelf niet aan. Retrieval Augmented Generation (RAG) is een techniek voor taalmodellen om antwoorden te genereren op basis van opgehaalde informatie, niet direct relevant voor het mitigeren van afbeeldingsgeneratiebias door scheve trainingsdata. Watermerkdetectie voor afbeeldingen is een beveiligingsmaatregel en heeft geen betrekking op het corrigeren van bias in modeloutputs.