一个对话助手通过 Amazon Bedrock 将请求路由到 Anthropic Claude。用户注意到，多次问相似的问题有时会得到不同的答案。为了使响应更一致、更少随机性，机器学习工程师应该应用哪些参数更改？

要使对话助手的响应更一致、更少随机性，应减少 temperature 和 topk 参数。temperature 参数控制模型输出的随机性。较低的 temperature 值会使模型选择概率最高的词，从而产生更确定和可预测的响应；较高的值则会增加随机性，导致更多样但可能不一致的输出。topk 参数限制了模型在生成下一个词时考虑的词汇范围。减少 topk 值意味着模型只从概率最高的少数词中选择，这同样会降低随机性并提高一致性。因此，同时降低这两个参数能有效减少响应的随机性，使其更一致。