Un'azienda sta utilizzando un modello linguistico di grandi dimensioni (LLM) pre-addestrato che deve gestire diversi compiti che richiedono conoscenze tecniche specifiche del dominio. L'LLM non dispone di informazioni su alcuni argomenti del dominio e l'azienda ha a disposizione dati di dominio non etichettati per la messa a punto. Quale approccio di fine-tuning dovrebbe utilizzare l'azienda?

L'addestramento continuo (continued pre-training) è l'approccio più adatto perché l'azienda ha a disposizione dati di dominio non etichettati e l'LLM manca di conoscenze specifiche del dominio. Questo metodo consente al modello di apprendere il vocabolario, i concetti e le relazioni specifici del dominio dai dati non etichettati, migliorando la sua comprensione generale dell'argomento prima di qualsiasi compito specifico. Le opzioni errate sono: L'addestramento completo (full training) non è necessario e sarebbe inefficiente, poiché il modello è già pre-addestrato. Il fine-tuning supervisionato (supervised fine-tuning) richiede dati etichettati, che l'azienda non ha per questo scopo. La Retrieval Augmented Generation (RAG) è una tecnica per migliorare l'accuratezza delle risposte al momento dell'inferenza, ma non risolve la mancanza di conoscenze interne del modello sul dominio.