Uma empresa de mídia social deseja comparar a toxicidade das saídas de vários LLMs disponíveis no SageMaker JumpStart, minimizando o trabalho operacional. Qual abordagem de avaliação tem a menor sobrecarga operacional?

A avaliação automática de modelo é a abordagem com menor sobrecarga operacional porque utiliza métricas e ferramentas pré-definidas para analisar a toxicidade das saídas dos LLMs sem intervenção humana direta. Isso a torna escalável e eficiente para comparar múltiplos modelos. A avaliação por crowdsourcing e a avaliação com revisores humanos envolvem a participação de pessoas, o que aumenta significativamente a complexidade, o tempo e o custo operacional. O Aprendizado por Reforço a partir de Feedback Humano (RLHF) é um método de treinamento que refina o modelo com base no feedback humano, não uma abordagem de avaliação de toxicidade de baixo custo operacional para comparar modelos existentes.