一个托管在Amazon Bedrock上的基础模型每天被提示10个示例,并且表现良好。公司希望降低每月成本。在保持相同基础模型的情况下,哪种操作可以降低成本?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 减少每个提示中使用的token数量。.
为什么这是答案
Amazon Bedrock的成本主要基于模型输入和输出的token数量。因此,减少每个提示中使用的token数量会直接降低每次调用的成本,从而降低每月总成本。微调模型本身会产生额外费用,并且不直接减少推理成本。增加每个提示中使用的token数量会增加成本。预置吞吐量适用于需要保证吞吐量或有大量稳定请求的场景,虽然可以提供更可预测的成本,但通常不直接降低总成本,甚至可能在低使用率时增加成本。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡