Un profesional de IA quiere que las salidas de un modelo de lenguaje grande (LLM) sean más diversas y creativas. ¿Qué parámetro de inferencia debería ajustar?

Aumentar el valor de temperature es la opción correcta porque este parámetro controla la aleatoriedad de las predicciones del modelo. Un valor de temperature más alto hace que el modelo sea más "creativo" o "divergente", seleccionando tokens con menor probabilidad y generando respuestas más diversas e inesperadas. Disminuir el valor de Top K reduciría la diversidad, ya que el modelo consideraría menos opciones para cada token. Aumentar la longitud de la respuesta no afecta directamente la diversidad o creatividad de la generación de tokens, solo la extensión. Disminuir la longitud del prompt tampoco influye directamente en la creatividad de la salida, sino en la cantidad de contexto que se le da al modelo.