Een ML-engineer heeft een sentimentanalysemodel geïmplementeerd op een SageMaker-endpoint en moet belanghebbenden uitleg geven over hoe het model voorspellingen doet. Welke oplossing genereert verklaringen voor de outputs van het model?

SageMaker Clarify is ontworpen voor het detecteren van bias en het uitlegbaar maken van ML-modellen (explainability). Het kan attributie van kenmerken genereren voor modelvoorspellingen, wat essentieel is om belanghebbenden te laten begrijpen hoe het model tot zijn output komt. SageMaker Model Monitor is bedoeld voor het monitoren van modelkwaliteit en datadistributie in de loop van de tijd, niet voor het genereren van verklaringen voor individuele voorspellingen. Het tonen van distributies in CloudWatch of het vergelijken van voorspellingen met een shadow endpoint helpt bij het evalueren van modelprestaties of het detecteren van drift, maar biedt geen inzicht in de interne werking van het model voor specifieke voorspellingen.