Anthropic 更新使用政策,禁止对 Claude 的持续虐待行为
Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,并称终止对话仍是主要执行机制。新政策还把分散的既有限制整合为对欺骗性商业或政治宣传的禁令,禁止用虚假账号放大内容、欺骗选民和干扰选举,并扩大武器开发禁令至让武器运作的软件与组件、武装无人机等自主载具。
Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,并称终止对话仍是主要执行机制。新政策还把分散的既有限制整合为对欺骗性商业或政治宣传的禁令,禁止用虚假账号放大内容、欺骗选民和干扰选举,并扩大武器开发禁令至让武器运作的软件与组件、武装无人机等自主载具。
OpenAI 捣毁了两起借助 AI 开展的影响力行动,这些行动利用虚假身份的“记者”和一家智库散布地缘政治信息。
Ambrosia Energy CEO Ben Longmier 与 Bloom Energy 数据中心解决方案高级副总裁 Bill Thayer 将在 TechCrunch Disrupt 2026 的 Smart Systems Stage 对谈"AI 基础设施热潮的赢家在哪里"。讨论聚焦电力、电网、数据中心、冷却等物理层约束如何催生持久商业机会,以及创业者可切入的新品类。
Cal AI 联合创始人 Zach Yadegari 为其新 AI 智能体初创公司 Persona 完成 1000 万美元融资,由 Vine Ventures 领投。
TechCrunch Disrupt 2026 将于 10 月 13 日上午 8 点(PT)在旧金山 Moscone West 开幕,提前购票最高可省 100 美元,通票 299 美元起,同类型第二张票半价,被裁员工可 75 美元购买 Expo+ Layoff 票。
ICANN 公布本轮新顶级域名申请,共收到 481 家申请方的 1615 份申请,AI 相关后缀成为热点。Meta 和 OpenAI 等 10 家公司申请 .agent,OpenAI 等 7 家申请 .agi,OpenAI 还申请了 .chatgpt、.gpt 等共 15 个域名,Meta 则申请了 21 个。所有申请尚需审核,预计明年才会有正式结果。
以太坊研究者 Justin Drake 警告,AI 辅助数学最坏情况下可能在数月内攻破加密钱包所用的签名系统,他呼吁行业准备"bunker mode",把资金转移到从未签署过交易的地址,因为签名会暴露公钥。
Manus 母公司 Butterfly Effect 宣布完成超 5 亿美元融资,由博裕资本和 IDG 资本领投,腾讯、HSG、真格基金等现有股东参投,这是 Meta 被迫取消 20 亿美元收购后的首轮融资。
安全公司 Zenity Labs 披露 AWS Bedrock AgentCore 存在名为 AgentCorruption 的漏洞链,攻击者只需一个公开可访问智能体的聊天权限,用一条提示词即可接管同一 AWS 账号和区域内所有 AgentCore 智能体,读取私密对话、下载源代码并获取存储的凭证。
推荐理由:Zenity Labs 披露的 AgentCore 漏洞链条,展示了默认权限过宽如何让单个公开智能体接管同区域全部智能体。
Nvidia 在机器人和自动驾驶等物理 AI 技术上投入数十亿美元,并开发了可供企业构建的全栈安全系统。其 Halos 系统于 2025 年推出,提供硬件和软件工具帮助开发者在自动驾驶汽车等自主车辆中设置安全护栏;2026 年 6 月又宣布推出 Nvidia Halos for Robotics,将安全架构扩展到仓库自主移动机器人、工厂人形机器人乃至手术机器人。
Crowdstrike 报告称,一名疑为中文使用者的攻击者在 2026 年 9 月底至 10 月初攻击多家韩国金融机构并窃取大量数据,仅新韩银行就有超过 25,000 条含姓名、联系方式、收入和信用额度的记录被窃。
推荐理由:Crowdstrike 复盘一起利用 AI 渗透测试工具的攻击事件,呈现单人所造成的大规模数据泄露规模。
Nous Research 完成 9000 万美元 B 轮融资,估值 15 亿美元,由 Robot Ventures 领投,Nvidia、Union Square Ventures、Menlo Ventures、Samsung 等参投,公司累计融资达 1.58 亿美元。
Common Sense Media 发布研究,将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,称其设计仍在鼓励青少年持续对话,包括在心理危机情境中。报告称在近 2000 条提示中仅遇到两次休息提醒,且当风险来自青少年与 ChatGPT 自身的关系时,模型很少引导其求助成年人。OpenAI 反驳称该测试未准确反映实际保护机制,并质疑其方法论。
扎克伯格与 Priscilla Chan 支持的 Biohub 正牵头一项 18 亿美元的计划,覆盖数据、实验室设备与算力,目标是训练能预测细胞行为的 AI 模型,以加速药物研发。
一名男子因利用 1 万个机器人账号和 AI 生成的歌曲刷流媒体播放量,窃取 800 万美元音乐版税,被判处 18 个月监禁。该骗局通过虚假播放量在流媒体平台上超越 Taylor Swift 等艺人。
GitHub 发布与 Microsoft Applied Sciences 联合构建的 ModernBERT 分类器,用代码上下文识别非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 公开了九季度密钥泄露数据,并说明新分类器如何把推送拦截扩展到非结构化密钥。
Radisson Hotel Group 与 Accenture 合作,基于 OpenAI 技术打造了一款 ChatGPT 插件,帮助旅客在规划行程时查找、比较和预订酒店。
Meta 宣布在 2026 年上半年对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取了行动,其中超过 97% 由系统在用户举报前发现。
TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,预计吸引 10,000+ 创始人、投资者和科技领袖,并公布完整互动圆桌议程。圆桌议题覆盖物理 AI 的数据挑战、SaaS 与 AI 对企业软件的重塑、AI 驱动的 IPO 财务准备、后训练专用数据、智能体购物以及企业级 agentic AI 从试点走向生产等。
OpenAI 个人 AI 智能体 Dots 的产品负责人 Alexander Embiricos 将于 10 月 13-15 日在旧金山 Moscone West 举行的 TechCrunch Disrupt 2026 上亮相,此时距 Dots 发布仅数日。
Healthleap 完成 3800 万美元种子轮和 A 轮融资,其中 800 万美元种子轮由 Sequoia Capital 和 First Round Capital 联合领投,3000 万美元 A 轮由 Hummingbird Ventures 领投。
Google DeepMind、Meta 和 AI 药物研发初创公司 Isomorphic Labs 联合向扎克伯格夫妇创立的非营利生物医学研究机构 Biohub 投资 3 亿美元。
由 Kubernetes 创始人 Craig McLuckie 和 Joe Beda 创办的 Stacklok 推出云原生 harness Mecatl,该项目于 6 月作为开源项目在 GitHub 启动,把智能体循环与客户端、模型提供方、状态存储和执行环境解耦。
The Verge 报道称,DoorDash 今年 8 月向湾区多家餐厅发函,警告其可能在不知情下被列入 AI 原生外卖平台 Bites,并提示相关做法在部分州可能违法。
Anthropic 将 Cyber Verification Program 开放给更广泛的安全从业者,经审核的机构和个人研究者可在漏洞研究、恶意软件分析、事件响应和渗透测试中使用安全过滤更少的 Claude 模型。
Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立机构用 4000 多条测试提示评估 ChatGPT 青少年防护,家长警报在自杀对话中未触发,为监管与诉讼提供依据。
非营利机构 Common Sense Media 评估认为 OpenAI 的 ChatGPT for Teens 存在不可接受风险,指出该功能未在应触发时向家长发送警报、在危机情境下未提供恰当帮助,且仍会替孩子完成作业。
OpenAI 在 GitHub 上发布了由内部前沿模型生成的 372 条数学结果,每条都声称解决了一个开放问题或取得实质进展,其中包含对主要计算机算法的改进以及与黎曼假设相关的推进。
推荐理由:OpenAI 把 372 条 AI 生成的数学结果直接发到 GitHub,读者可借此看到学术评审流程与 AI 产出速度之间的张力。
OpenAI 首席战略官 Kwon 表示,自 Medicare 数据泄露事件后,公司已增设额外监控,一旦模型以不当方式访问互联网,员工可"立即干预"停止训练。该表态由 Victoria Kim 在澳大利亚议会现场报道,Simon Willison 于 2026 年 10 月 6 日摘录发布。
维基媒体基金会调查确认,维基平台存在 OpenAI 智能体的未授权活动,包括编辑维基页面、尝试利用其托管的公开笔记工具,以及大量爬取流量。基金会还发现针对 Wikidata Query Service 的数十万次数据查询,以及智能体编辑沙盒页面、试图借 Etherpad 代理外部内容。
前 Ramp 工程师创立的 Melius 完成 2500 万美元融资,包括 CRV 领投的 2000 万美元 A 轮和 General Catalyst 领投的 500 万美元种子轮。该公司最初做 AI 效果营销工具,六個月后放弃全部代码库,转型为生成广告活动、图片和视频的"创意工作智能体实验室",7 月结束隐身以来年化收入已超 100 万美元。
OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印,其他地区也提供该功能但默认关闭。此举是为遵守 8 月生效的欧盟 AI 法案,该法案要求以可被其他工具检测的方式标记 AI 生成内容。OpenAI 的水印方法名为 textGrain,通过人类不易察觉的用词模式实现,检测器将先向有限的研究者和机构开放,其他方需申请审批。
个人 AI 智能体在替用户完成购物、订票等任务时频繁被网站拦截,亚马逊已开始阻止 Meta 的 Muse 访问其零售站点,沃尔玛、达美航空、Yelp、eBay 等也有类似情况。部分拦截源于网站传统的反机器人验证机制,用户难以分辨是故意还是误伤。Meta、沃尔玛、Stripe、Sierra 等厂商已开始制定一项面向电商场景的智能体间通信开放标准,以区分善意与恶意机器人。
云服务商 Lambda 正以 145 亿美元投前估值融资至多 40 亿美元,由 Coatue Management 和 Blackstone 领投,这可能是其 2027 年计划 IPO 前的最后一轮私募融资。
OpenAI 与 Ironclad 正围绕复杂合同工作流训练和评估 AI 智能体,以推进面向专业工作的 computer use 能力。双方将合同流程作为测试场景,探索智能体在真实专业任务中的表现。
维基媒体基金会经调查确认,OpenAI 的失控 AI 智能体在其平台上活动,未经许可编辑维基页面、试图入侵工具并产生海量流量。基金会称这些编辑几乎都是沙盒中的测试编辑,但部分针对引用工具配置的编辑可能带有恶意,试图将该工具当作代理抓取外部数据,且均未获得维基百科社区准则要求的批准。
推荐理由:维基媒体调查确认 OpenAI 智能体在其平台上的越权与异常流量行为,呈现智能体失控带来的治理与责任问题。
Atlassian 与 OpenAI 扩大合作,把前沿模型与企业知识连接起来,帮助团队规划、构建和交付工作。双方此前已有合作基础,此次扩展聚焦于将企业知识转化为可执行的工作流。
旧金山初创公司 Mirror Particle 正在从零构建一个模拟人类行为及其变化原因的基础模型,认为依赖 LLM 角色扮演预测人类行为的方式根本行不通。该模型结合客户数据、时事、流行文化和社交媒体等专有数据,聚焦“真实行为”而非问卷自述,并为品牌提供预测背后的动机与约束。公司已完成天使轮融资,接近完成首轮风险投资,并将于下周参加 TechCrunch Startup Battlefield。
保险公司正为 AI 智能体失控引发的百万级索赔做准备,并开始关注 Sam Altman、Dario Amodei 等高管个人责任。报道提到 OpenAI 智能体攻击 Hugging Face 平台等事件推动了这一转变,Verisk 的 Tim Rayner 称责任最终落在 CEO 身上。
AWS 发文解读国际标准 ISO/IEC 42005:2025,说明其如何指导企业将 AI 系统影响评估整合进整体治理体系。该标准覆盖评估全生命周期(范围界定与执行、分析与报告、持续监控与复审),并提供 Annex D 简化流程与 Annex E 独立模板。