一個託管在 Amazon Bedrock 上的基礎模型每天會被提示 10 個範例一次,且表現良好。公司希望降低每月成本。在保持相同基礎模型的情況下,哪種做法可以降低成本?
選擇一個答案
點擊一個選項來檢查您的答案。
正確答案: 減少每個提示中使用的 token 數量。.
為什麼這是答案
正確答案是減少每個提示中使用的 token 數量。在 Amazon Bedrock 中,基礎模型的計費通常基於輸入和輸出的 token 數量。減少每個提示中的 token 數量會直接降低每次 API 呼叫的成本,從而減少每月總費用。 微調(Fine-tuning)模型雖然可以提升模型效能或使其更貼合特定任務,但它本身會產生額外費用,且不直接降低每次提示的成本,因此不是降低成本的直接方法。增加每個提示中使用的 token 數量會導致每次呼叫的成本增加,與降低成本的目標背道而馳。使用 Provisioned Throughput 適用於需要穩定高吞吐量且可預測成本的場景,但對於降低現有使用模式下的成本,它通常會比按需計費更昂貴,除非用量極大且穩定。
通過考試 — 無需無休止地尋找答案
集中一處獲取此考試的所有核實題目和解釋,節省數小時的準備時間。1,000 多種認證 · 20 多種語言 · 免費開始。
更快通過您的考試 → 無需信用卡