Ein Unternehmen erstellt einen Chatbot, der mithilfe eines großen Sprachmodells und einer großen Sammlung digitaler Dokumente Fragen zu HR-Richtlinien beantworten soll. Welche Technik verbessert die Relevanz der generierten Antworten am besten?

Retrieval Augmented Generation (RAG) ist die beste Technik, da sie das große Sprachmodell (LLM) mit relevanten, aktuellen Informationen aus einer externen Wissensdatenbank (hier: HR-Dokumente) anreichert, bevor es eine Antwort generiert. Dies stellt sicher, dass die Antworten des Chatbots faktisch korrekt und spezifisch für die HR-Richtlinien des Unternehmens sind. Few-shot Prompting würde dem Modell lediglich einige Beispiele für Fragen und Antworten geben, was die Relevanz der Antworten nicht so stark verbessert wie RAG. Die Temperatur auf 1 zu setzen, würde die Zufälligkeit der Antworten erhöhen, was für faktische HR-Richtlinien unerwünscht ist. Die Token-Größe zu verringern, würde die Länge der generierten Antworten begrenzen, aber nicht deren Relevanz oder Genauigkeit verbessern.