Uma empresa deseja ajustar um modelo de base com ajuste de instruções para que ele possa responder a perguntas específicas do domínio. Como a empresa deve preparar os dados de treinamento?

Ajustar um modelo de base com ajuste de instruções (instruction tuning) requer dados de treinamento no formato de pares de instruções (perguntas) e respostas esperadas. Para que o modelo responda a perguntas específicas do domínio, os dados de treinamento devem ser compostos por perguntas e respostas que abordem diretamente esse domínio. A opção de reunir documentos e mesclá-los em um único arquivo não prepara os dados no formato de pares de instrução/resposta. Coletar avaliações e rotulá-las como positivas ou negativas é adequado para análise de sentimento, não para ajuste de instruções para perguntas e respostas. Criar prompts few-shot é uma técnica de inferência, não de preparação de dados para treinamento.