跳到正文

全部动态

今日 2 条
11月14日周六
  1. AWS Machine Learning Blog41

    Amazon Bedrock AgentCore runtime 快速会话启动的架构模式

    Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。V2 还会回收会话未使用的内存,使计费贴合实际用量。文章给出四种模式,包括用 build hook 预加载大文件、CLI 或浏览器,以及在用户打开应用或聊天窗口时后台预热会话。

  2. Hugging Face Blog62

    llama.cpp 与 ggml 发布 v1.0.0,确立语义化版本规则

    llama.cpp 与 ggml 发布 v1.0.0,并规定此后公共 C API 的破坏性变更将以主版本号递增来标记。项目已支持超过 150 种模型架构变体及主流投机解码方法,并通过 Docker、Homebrew、conda-forge、Winget、XCFramework 等渠道分发。

    推荐理由:llama.cpp 与 ggml 同步发布 v1.0.0,并明确此后以主版本号标记 API/ABI 不兼容变更,下游集成方可据此规划升级。

11月13日周五
  1. AWS Machine Learning Blog38

    在 Amazon Bedrock 上优化单任务成本并验证智能体 ROI

    AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的模型开销,并给出计算真实模型成本的框架。文章拆解了 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四类隐藏成本驱动因素,示例中单价高 2 倍的模型因单轮完成、输出更短,单任务成本反而低 65%。

  2. AWS Machine Learning Blog36

    用 CUR 2.0 和 AWS Budgets 按 IAM 主体追踪并限制 Amazon Bedrock 支出

    AWS 给出无需自写代码的方案,按 IAM 用户或角色追踪并限制 Amazon Bedrock 推理支出。Amazon Bedrock 自动记录每次推理请求的 IAM 主体身份,配合 principal tags 或会话标签、CUR 2.0 与 Cost Explorer 实现按身份的成本可见性,再用 AWS Budgets 预算操作在超阈值时下发 Deny IAM 策略。

  3. AWS Machine Learning Blog71

    AWS 发布新一代 AgentCore runtime,会话启动提速最高 15 倍

    AWS 发布新一代 Amazon Bedrock AgentCore runtime,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动最高快 15 倍、算力扩展至 4 倍(最高 8 vCPU 和 32 GB)、运行效率提升最高 68%。

    推荐理由:原文给出会话启动、算力上限与内存回收的具体变化,读者可据此判断智能体生产部署的成本与隔离取舍。

  4. Google DeepMind88

    Google DeepMind 发布 Gemini 4 Hydrogen 模型

    Google DeepMind 发布 Gemini 4 Hydrogen,面向日常编码与智能体工作流,并在 Google AI Studio、Gemini API、Gemini app 和 Google Search 等全线开放。

    推荐理由:原文给出 Hydrogen 与 Carbon、Argon 的定位分工及多项基准与定价,读者可据此判断它在多模型工作流中的位置。

11月12日周四
  1. AWS Machine Learning Blog34

    用反合一(anti-unification)对形式化策略做语义 diff

    开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。该引擎不导入 Cedar、Dogwood、OpenShell、CEL 的原生策略,而是把相关语法编码为项并声明等式。它可用于对比 LLM 自动形式化多次生成的候选,先审查变化部分。