한 은행이 대출 승인 속도를 높이기 위해 대규모 언어 모델을 미세 조정했습니다. 외부 감사 결과, 이 모델이 특정 인구 통계에 대해 다른 인구 통계보다 대출을 더 빨리 승인하는 것으로 나타났습니다. 가장 비용 효율적인 해결책은 무엇입니까?

가장 비용 효율적인 해결책은 더 다양한 훈련 데이터를 포함하고 모델을 다시 미세 조정하는 것입니다. 모델의 편향은 훈련 데이터의 불균형에서 비롯될 가능성이 높으므로, 더 대표성 있는 데이터를 추가하면 모델이 모든 인구 통계에 대해 공정하게 학습할 수 있습니다. RAG는 생성 모델의 사실성을 높이는 데 사용되지만, 기존 모델의 내재된 편향을 직접적으로 해결하지는 못합니다. AWS Trusted Advisor는 AWS 리소스의 최적화 및 보안에 중점을 두며, LLM의 편향을 직접적으로 감지하거나 제거하는 도구가 아닙니다. 새로운 LLM을 처음부터 사전 훈련하는 것은 시간과 비용이 매우 많이 드는 작업으로, 기존 모델을 미세 조정하는 것보다 훨씬 비효율적입니다.