FinSight LLC は、S3 バケット (s3://finsight-prod/data) に保存されているローン承認データセットに対して、SageMaker Clarify を使用して事前トレーニングバイアス評価を実行しています。Clarify の事前トレーニングレポートでは、ターゲットラベルのクラス不均衡 (CI) が 0.12 (許容範囲は 0.2 未満) であり、性別 (男性 vs 女性) の陽性割合の差 (DPP) が 0.18 (ポリシーしきい値 0.10 を超える) であることが示されています。モデルチームは、ml.c5.4xlarge トレーニングインスタンスで再トレーニングすることを計画しています。再トレーニングの前に、これらの Clarify の結果に対処するために最も適切な即時アクションは何ですか？

DPPがポリシーしきい値を超えているため、モデルの再トレーニング前にこのバイアスに対処する必要があります。SageMaker Processingジョブを使用して、S3上のデータに対してグループを考慮したリサンプリングまたはサンプル再重み付けを行うことで、性別グループ間のDPPを効果的に削減できます。これにより、より公平なモデルをトレーニングするためのデータが準備されます。 CIは許容範囲内ですが、DPPは許容範囲外であるため、CIを無視してトレーニングに進むのは不適切です。DPPはトレーニング後の結果ではなく、トレーニングデータに起因するバイアスであるため、トレーニング前に修正すべきです。性別列を削除すると、モデルが性別に関連する有用なパターンを学習できなくなり、全体的なパフォーマンスが低下する可能性があります。デプロイ後にModel Monitorを使用するのは、バイアスがすでにモデルに組み込まれているため、予防的な対策としては遅すぎます。