AWS Machine Learning Blog· Alan Yao·· 20 小时前AI 评分40
Airbnb 如何用每任务成本在 Amazon Bedrock 上运营编码智能体
How Airbnb uses cost per task to operate coding agents on Amazon Bedrock
AI 导读
Airbnb 通过 LLM gateway 在 Amazon Bedrock 上运行编码智能体 AirChat,并用“每任务成本”指导模型选型。约五周内上线八款新模型,到 10 月中旬约三分之二的编码智能体请求已流向这些新模型。Airbnb 在发布前用自有任务评测各模型的得分与每任务成本,发布后借助 CloudWatch 的延迟、限流和 token 指标核对生产表现。
来源:AWS Machine Learning Blog · aws.amazon.com