跳到正文
原文
AWS Machine Learning Blog· Evandro Franco·· 6 天前AI 评分41

Amazon Bedrock AgentCore runtime 快速会话启动的架构模式

Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtime

AI 导读

Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。V2 还会回收会话未使用的内存,使计费贴合实际用量。文章给出四种模式,包括用 build hook 预加载大文件、CLI 或浏览器,以及在用户打开应用或聊天窗口时后台预热会话。

来源:AWS Machine Learning Blog · aws.amazon.com