Una empresa creó un chatbot con un modelo fundacional elegido y necesita que el bot responda preguntas técnicas con el tono específico de la empresa sin ayuda humana. ¿Qué enfoque ayudará al modelo a producir respuestas que coincidan con el tono de la empresa?

La opción correcta es refinar y probar iterativamente el prompt. Los modelos fundacionales son altamente sensibles a la formulación del prompt. Al ajustar y probar el prompt repetidamente, se puede guiar al modelo para que genere respuestas que se ajusten al tono deseado de la empresa. Limitar el número máximo de tokens podría truncar respuestas útiles y no influye directamente en el tono. Usar inferencia por lotes se refiere a cómo se procesan múltiples solicitudes y no afecta el tono de las respuestas individuales. Aumentar el parámetro de temperatura haría que las respuestas del modelo fueran más aleatorias y creativas, lo que es contraproducente para mantener un tono específico y consistente.