대출 기관에서 신규 신청자에게 할인을 제공하기 위한 생성형 AI 솔루션을 구축 중이며, 일부 고객에게 부정적인 영향을 미칠 수 있는 편향을 최소화하고자 합니다. 어떤 조치를 취해야 할까요? (두 가지 선택)

데이터의 불균형 또는 불일치를 감지하는 것은 편향을 줄이는 데 중요합니다. 훈련 데이터에 특정 그룹이 과소 또는 과대 대표되면 모델이 해당 그룹에 대해 편향된 예측을 할 수 있기 때문입니다. 모델의 동작을 평가하여 이해 관계자에게 투명성을 제공하는 것은 모델이 어떻게 결정을 내리는지 이해하고 잠재적인 편향을 식별하며, 공정성을 보장하는 데 필수적입니다. 모델이 자주 실행되도록 하는 것은 편향 감소와 직접적인 관련이 없으며, ROUGE 지표는 주로 텍스트 요약이나 생성 모델의 성능 평가에 사용되므로 대출 할인 모델의 정확성이나 편향을 측정하는 데 적합하지 않습니다. 추론 시간은 성능 지표이지만 편향 감소와는 무관합니다.