Uma equipe que trabalha em um modelo de linguagem grande percebe que suas saídas carecem de variabilidade. Qual parâmetro eles devem alterar para aumentar a diversidade das saídas?

A temperatura (Temperature) controla a aleatoriedade das saídas de um modelo de linguagem. Valores mais altos (por exemplo, 0.7-1.0) aumentam a diversidade e a criatividade, tornando as saídas menos previsíveis, mas potencialmente menos coerentes. Valores mais baixos (por exemplo, 0.1-0.3) tornam as saídas mais determinísticas e focadas, mas menos variadas. Batch size (tamanho do lote) afeta a estabilidade do treinamento e a velocidade de convergência, não a variabilidade da saída durante a inferência. Learning rate (taxa de aprendizado) determina o tamanho dos passos dados durante a otimização do modelo, impactando a convergência. Optimizer type (tipo de otimizador) refere-se ao algoritmo usado para ajustar os pesos do modelo durante o treinamento. Nenhum desses três parâmetros influencia diretamente a diversidade das sa saídas geradas após o treinamento.