HealthData Labs, klinik bir risk modeli için özellik atıflarındaki (SHAP değerleri) kaymayı izlemek istiyor. Eğitim seti SHAP değerlerini zaten hesapladılar ve bunları s3://healthdata-baselines/shap/ konumunda depoladılar. Üretim uç noktası, girişleri ve model çıktılarını s3://healthdata-capture/ konumuna yakalar. Hangi yaklaşım, zaman içindeki SHAP dağılımlarındaki değişiklikleri tespit etmek için SageMaker izlemeyi kullanmalarına olanak tanır?

Doğru cevap, SageMaker Clarify'ın açıklanabilirlik izleme yeteneklerini en iyi şekilde kullanır. Temel SHAP değerlerini eğitim verileri üzerinde hesaplamak ve depolamak, üretimdeki SHAP dağılımlarını karşılaştırmak için bir referans noktası sağlar. Üretim için veri yakalamayı etkinleştirmek, izleme için gerekli olan canlı çıkarım verilerini toplar. Son olarak, bir Model Explainability MonitoringSchedule oluşturmak, yakalanan veriler üzerinde periyodik olarak SHAP'ı hesaplar ve bu yeni atıf dağılımlarını önceden tanımlanmış temel çizgiyle karşılaştırarak kaymayı otomatik olarak tespit eder. Diğer seçenekler, SageMaker'ın yerleşik izleme özelliklerini tam olarak kullanmaz veya SHAP değerlerini doğru bir şekilde izlemek için yeterli mekanizmaya sahip değildir.