Een bedrijf wil een foundation model instruction-fine-tunen zodat het domeinspecifieke vragen kan beantwoorden. Hoe moet het bedrijf de trainingsdata voorbereiden?

Instruction fine-tuning vereist gestructureerde data in de vorm van prompt-response paren. Door specifieke vraag-antwoordparen te creëren die gerelateerd zijn aan het domein van het bedrijf, leert het foundation model nauwkeurig en relevant te reageren op domeinspecifieke vragen. Het samenvoegen van documenten tot één bestand (optie 1) is meer geschikt voor retrieval-augmented generation (RAG) of pre-training, niet voor instruction fine-tuning. Het labelen van recensies (optie 2) is een taak voor sentimentanalyse, geen instruction fine-tuning voor domeinspecifieke vragen. Few-shot prompts (optie 4) zijn een inferentietechniek en geen methode voor het voorbereiden van trainingsdata voor fine-tuning.