在生成式 AI 系統中，「token」一詞指的是什麼？

在生成式AI系統中，token是模型處理文字時的最小單位。這可以是完整的單字、單字的一部分（子詞），甚至是標點符號或特殊字元。模型會將輸入的文字分解成這些token，並根據這些token的序列來理解語義並生成回應。選項「模型內部單字或概念的數字或向量表示」描述的是「嵌入」（embeddings），這是token經過數值轉換後的結果，而非token本身。選項「模型的預訓練權重值」指的是模型訓練過程中學習到的參數，與token的定義無關。選項「提供給模型以產生輸出的實際提示或指令」是「提示」（prompt），是輸入給模型的一段文字，但提示本身是由多個token組成的。