AWS Machine Learning Blog· Evandro Franco·· 6 天前AI 评分41
Amazon Bedrock AgentCore runtime 快速会话启动的架构模式
Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtime
AI 导读
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。V2 还会回收会话未使用的内存,使计费贴合实际用量。文章给出四种模式,包括用 build hook 预加载大文件、CLI 或浏览器,以及在用户打开应用或聊天窗口时后台预热会话。
来源:AWS Machine Learning Blog · aws.amazon.com