FinSight LLC 使用 SageMaker Clarify 對儲存在 S3 儲存桶 (s3://finsight-prod/data) 中的貸款核准資料集執行預訓練偏差評估。Clarify 預訓練報告顯示目標標籤的類別不平衡 (Class Imbalance, CI) = 0.12 (可接受的範圍為 0.2 以下)，以及性別 (男性與女性) 的正向比例差異 (Difference in Positive Proportions, DPP) = 0.18 (超出政策閾值 0.10)。模型團隊計畫在 ml.c5.4xlarge 訓練實例上重新訓練。在重新訓練之前，為了解決這些 Clarify 結果，最適合的立即行動是什麼？

正確答案是建立一個預處理管道，在 S3 上實作群組感知重採樣或樣本重新加權 (透過 SageMaker Processing job)，以減少跨性別群組的 DPP，然後重新訓練。這是因為Clarify報告顯示DPP超出政策閾值，表示模型在不同性別群組間存在偏見。在訓練前透過預處理技術（如重採樣或樣本重新加權）來平衡資料集，是解決這種預訓練偏見的有效方法，可以確保模型在訓練時減少對敏感屬性的依賴。SageMaker Processing job是執行此類大規模資料預處理的理想工具。 忽略CI並在訓練後修正DPP是錯誤的，因為DPP是預訓練偏見，應在訓練前解決。移除性別欄位也錯誤，因為敏感屬性可能與其他特徵相關聯，簡單移除可能無法完全消除偏見，甚至可能導致模型性能下降。在部署後使用Model Monitor偵測DPP漂移是監控模型性能的良好實踐，但它無法解決預訓練階段已存在的偏見，應在訓練前解決。