Een universiteitsstudent kopieert materiaal van generatieve AI-outputs om essays te schrijven. Welke zorg met betrekking tot verantwoorde generatieve AI illustreert dit voorbeeld?

De student die materiaal van generatieve AI-outputs kopieert om essays te schrijven, illustreert direct de zorg over plagiaat. Generatieve AI-modellen produceren tekst op basis van de gegevens waarop ze zijn getraind. Als deze tekst wordt overgenomen en als eigen werk wordt gepresenteerd zonder bronvermelding, is dat plagiaat. Toxiciteit verwijst naar schadelijke of aanstootgevende inhoud die door AI kan worden gegenereerd. Hallucinaties zijn feitelijk onjuiste of verzonnen outputs van de AI. Privacy heeft betrekking op de bescherming van persoonlijke gegevens, zowel in de trainingsdata als in de outputs van de AI. Hoewel deze ook belangrijke zorgen zijn bij generatieve AI, zijn ze niet de primaire zorg die wordt geïllustreerd door het kopiëren van AI-gegenereerde tekst voor academische doeleinden.