Een convolutioneel neuraal netwerk eindigt met een volledig verbonden laag van 10 outputs die 10 dierenklassen vertegenwoordigen. Welke functie moet op die laag worden toegepast, zodat het model een waarschijnlijkheidsverdeling over de 10 klassen uitvoert?

Softmax is de juiste keuze omdat het een waarschijnlijkheidsverdeling over meerdere klassen produceert. Het neemt een vector van reële getallen (de logits van de volledig verbonden laag) en transformeert deze in een waarschijnlijkheidsverdeling, waarbij de som van alle waarschijnlijkheden gelijk is aan 1. Dit is essentieel voor classificatietaken waarbij u de waarschijnlijkheid wilt weten dat een invoer tot elk van de 10 dierenklassen behoort. Dropout is een regularisatietechniek om overfitting te voorkomen, geen activeringsfunctie. Smooth L1 loss is een verliesfunctie die wordt gebruikt voor regressietaken, niet voor het genereren van waarschijnlijkheidsverdelingen. ReLU is een activeringsfunctie die wordt gebruikt in de verborgen lagen van neurale netwerken om niet-lineariteit te introduceren, maar het produceert geen waarschijnlijkheidsverdeling over meerdere klassen.