AWS Machine Learning Blog· Sai Pavan Kasani·· 7 天前AI 评分40
影响 Amazon Bedrock 成本的四个推理选项
Four Amazon Bedrock inference choices that affect cost
AI 导读
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下改变 token 处理量与计费费率。
来源:AWS Machine Learning Blog · aws.amazon.com