AWS Machine Learning Blog· Meghan Kothari·· 2 天前AI 评分50
如何降低生成式 AI 成本:用代码处理规则,用模型处理判断
Cut generative AI costs: Code for rules, models for judgment
AI 导读
AWS 提出在生成式 AI 工作流中先判断每一步是否真的需要调用模型:能用格式、schema、关键词或数值范围等规则校验的步骤应交给确定性代码,只有开放式任务才用 Amazon Bedrock 上合适规模的模型。
来源:AWS Machine Learning Blog · aws.amazon.com