Un'azienda sta creando un chatbot per rispondere a domande sulle policy HR utilizzando un modello linguistico di grandi dimensioni e un ampio set di documenti digitali. Quale tecnica migliorerà al meglio la pertinenza delle risposte generate?

La Retrieval Augmented Generation (RAG) è la tecnica migliore perché consente al modello linguistico di attingere a un corpus di documenti esterni, in questo caso le policy HR, per generare risposte più accurate e contestualmente pertinenti. Invece di affidarsi solo alla conoscenza pre-addestrata, il modello recupera informazioni specifiche dai documenti e le utilizza per arricchire la sua generazione. Il few-shot prompting migliorerebbe la qualità delle risposte, ma non garantirebbe la pertinenza specifica ai documenti HR. Impostare la temperatura a 1 aumenterebbe la casualità, rendendo le risposte meno affidabili. Diminuire la dimensione del token limiterebbe la lunghezza delle risposte, non la loro pertinenza.