Quel est le rôle des plongements vectoriels (vector embeddings) dans un grand modèle linguistique (LLM) ?

Les plongements vectoriels (vector embeddings) transforment des mots, phrases ou documents en vecteurs numériques dans un espace multidimensionnel. Cette représentation permet d'encoder la signification sémantique du texte, où des textes ayant des significations similaires sont situés plus près les uns des autres dans cet espace vectoriel. Cela rend possible la comparaison mathématique (par exemple, via la similarité cosinus) entre différents morceaux de texte, ce qui est fondamental pour des tâches comme la recherche sémantique, la classification ou la recommandation. Les autres options décrivent des processus différents : la division en morceaux (tokenization ou chunking), le regroupement de caractères (tokenization à un niveau plus fin), ou le comptage de mots (analyse fréquentielle), qui ne sont pas le rôle principal des plongements vectoriels eux-mêmes.