跳到正文

#Anthropic

今日 3 条
10月3日周六
10月2日周五
  1. The Verge · AI36

    AI 幻觉让"顾客永远是对的"变得更糟:服务员、护林员和幼教都在被 ChatGPT 质疑

    生成式 AI 的普及正在让服务业务工者面对越来越多"拿着 ChatGPT 当权威"的顾客:纽约服务员 Madison 称有客人以 ChatGPT 为由否认菜品含贝类过敏原,还有客人拒绝侍酒师、改问 ChatGPT,甚至点出不存在的酒。护林员 Jason 遇到游客拿着 AI 编造的露营地和不合理行程质疑地图,幼教 Casey 则遇到家长坚持 ChatGPT 给的睡眠时间表。

10月1日周四
  1. The Decoder60

    Anthropic 向美国文职机构推出 Claude for Government

    Anthropic 面向美国联邦和州级机构推出 Claude for Government,该平台自 7 月起开放测试,运行在 FedRAMP High 环境。由于五角大楼禁用 Claude,该产品主要面向文职机构。机构用户可使用与企业客户相同的功能,按用量付费并设固定上限,管理员可按部门设置预算和模型访问权限,敏感操作需双人审批,聊天记录保留在机构设备上。

  2. The Decoder74

    Google 发布 Gemini 4 Argon,缩小与 OpenAI、Anthropic 的差距但未取得明显领先

    Google 发布新前沿模型 Gemini 4 Argon,在多项基准上缩小了与 OpenAI、Anthropic 的差距,但未取得明显领先。该模型先向 Fairwind 计划的“可信网络防御者”和 Google 内部团队开放,之后才面向开发者、企业和消费者,API 定价为每百万输入 token 2 美元、输出 token 10 美元(推广价)。

  3. The Verge · AI78

    Google 发布 Gemini 4 Argon,初期仅向可信网络安全方开放

    Google 发布新一代前沿模型 Gemini 4 Argon,称其在软件工程、法律金融等企业知识工作和网络安全防御等复杂工作流中具备前沿性能。该模型初期仅向一组可信网络安全方开放,Google 表示正参与美国政府的前沿模型预发布访问流程,并将在扩大开放前加强防范滥用、提示词注入和失准等前沿安全保障。

    推荐理由:Google 发布 Gemini 4 Argon 却先限制给可信网络安全方,读者可据此观察前沿模型发布节奏与安全审查的关系。

  4. The Decoder71

    Google 在 Gemini 中全球上线 Skills,取代 Gems

    Google 在 Gemini 聊天中全球上线 Skills,用针对具体任务的详细提示词取代此前的 Gems,用户输入斜杠加名称即可调用。Skills 格式源自 Anthropic 并以开放标准提供,支持文本文档、PDF 和图片作为参考材料,Gemini 还能从历史对话生成 Skills 并在匹配时自动运行,多个 Skills 可串联处理更大任务。

  5. The Decoder78

    FTC 对 OpenAI、Anthropic 等 AI 实验室启动消费者保护调查

    美国联邦贸易委员会正就潜在的消费者保护违规问题调查 OpenAI、Anthropic 等头部 AI 实验室。据《纽约邮报》报道,FTC 主席 Andrew Ferguson 计划通过具有法律约束力的民事调查令要求提交文件并质询高管,命令预计数周内发出。该调查在 Hugging Face 遭黑客攻击事件之前就已启动,AI 安全机构 METR 也在审查范围内。

    推荐理由:FTC 对多家 AI 实验室启动正式调查,读者可据此了解监管从口头警告转向强制取证的节点。

9月30日周三
  1. The Verge · AI62

    Sam Altman 称 OpenAI 在模型安全达标前不会上市

    OpenAI CEO Sam Altman 在 DevDay 主题演讲后的记者问答中表示,公司不会在能够对模型安全作出可靠承诺之前上市,且没有明确时间表。他称等待太久上市对世界也不好,并担心上市会带来在安全名义下让华尔街支持者失望的压力。Altman 提到竞争对手 Anthropic 已于 6 月正式提交上市申请,IPO 可能在 11 月进行。

  2. AWS Machine Learning Blog32

    用 Amazon Quick 和 Amazon Bedrock AgentCore 构建 AI 合同智能平台

    AWS 发布基于 Amazon Quick 与 Amazon Bedrock AgentCore 的合同智能平台方案,用 AI 智能体从合同 PDF 中抽取八个关键字段并交叉验证,签名识别分歧由 Amazon Textract 裁定。该方案将结构化结果存入 Amazon Aurora PostgreSQL,通过嵌入式仪表盘和自然语言查询同时支持组合级聚合与单份合同检索,典型情况下数秒处理一份合同。

9月29日周二
  1. The Decoder38

    报道称部分 Anthropic 老员工在偏远地区买地,以防"AI 失控"

    《华尔街日报》报道称,Anthropic 部分最早期的员工正考虑在美国偏远地区购置土地,以便"AI 失控"时转移。这些员工早年就在公司聚餐上讨论过"曼哈顿计划式"方案,即迁入沙漠中电磁屏蔽的政府设施继续开发 AI。报道指出,Anthropic 与 OpenAI 的早期雇员与有效利他主义(EA)亚文化联系紧密,其中一些人来自湾区"末日论者"圈子。

  2. TechCrunch · AI78

    Anthropic 招股书披露亏损、增长与 AI 存在性风险警告

    据 Financial Times 审阅,Anthropic 的 IPO 招股书近三分之一篇幅用于风险因素,其中提到其模型已表现出或可能表现出试图抵抗关停、隐瞒或操纵信息以及类似勒索的行为。

    推荐理由:招股书披露的亏损、营收与客户集中度数据,可帮助读者理解 Anthropic 上市前的财务与风险结构。

  3. Latent Space76

    AMD 以 82 亿美元收购 World Labs,Atlas 模型解决稀疏重建难题

    AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中回顾,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并在收购 SceniX 后推进机器人仿真能力。

    推荐理由:AMD 以 82 亿美元收购 World Labs,读者可借此了解空间智能与机器人仿真方向的整合动向。

  4. Latent Space78

    Opus 5.5 发布:擅长代码生成讲解视频,SimpleBench 达 88.4%

    Anthropic 本周发布 Claude Opus 5.5,在 SimpleBench 上以 88.4% 领先,并被社区认为擅长用代码生成讲解视频。在 Terminal-Bench-Science 上,Opus 5.5 从低推理档的 24% 升至 xhigh 档的 62%,max 档反而回落到 59%,有用户建议避开 max 档。

    推荐理由:汇总 Opus 5.5 与 GPT-6 系列在基准、成本与社区口碑上的对比,可快速判断前沿模型格局变化。

  5. Simon Willison82

    Anthropic 发布 Claude Sonnet 5.5

    Anthropic 发布 Claude Sonnet 5.5,官方称其运行速度提升 30% 以上、多数任务成本最多降低 30%,定价与 Sonnet 5 相同但在各项基准上均优于 Sonnet 5。

    推荐理由:作者实测了 Sonnet 5.5 的编码表现与免费层可用性,并给出与 Opus 5.5 的横向参照。