跳到正文

#政策/监管

今日 1 条
10月9日周五
  1. The Verge · AI48

    特朗普试图将 AI 改名为「Super Intelligence」,OpenAI、Meta 等高管纷纷附和

    特朗普签署行政令,要求尽可能停用「AI」一词,改称「Super Intelligence」,并将继续使用「Artificial Intelligence」的人称为「THE ENEMY」。美国 CAISI 已更名为 CAISSI,司法部新闻稿也改用该说法;Elon Musk 承诺将 SpaceXAI 改名为 SpaceXSI,Sam Altman 表示赞同但 OpenAI 不会改名。

  2. The Verge · AI36

    加州体育委员会叫停人机笼斗,Rek 被发停止令

    加州州立体育委员会向举办人机对战赛事的初创公司 Rek 发出停止令,指其 9 月 18 日让人类 Frankie LaPenna 对阵一台由人通过远程 VR 系统操控的人形机器人属于“未经批准”的拳击或综合格斗赛事。Rek CEO Cix Liv 于 9 月 30 日在 X 上公开该信函,Rek 下一场计划于周五举行、由两台持械机器人对打的比赛。

  3. The Decoder58

    Anthropic 更新 Claude 使用政策,持续辱骂 Claude 可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。Anthropic 对 The Verge 表示该规则只适用于极端情况,不涉及正常的不满或研究。政策还整合了针对虚假账号和误导性政治内容的宣传禁令,并将武器禁令扩展到软件和无人机武器化,同时更明确禁止未经同意的监控。

  4. TechCrunch · AI38

    Anthropic 更新使用政策:禁止模型滥用与选举干预

    Anthropic 周四更新使用政策,新增禁止选举干预、武器软件和监控等条款,并明确禁止用户对模型进行长期言语辱骂。该政策仅适用于用户反复恶意攻击模型且无明确目的的极端情况,不涉及常见的用户不满、反驳或黑暗创作主题。政策还禁止利用 Claude 运营虚假账号或捏造新闻媒体,并设专节禁止欺骗选民或扰乱选举。

  5. The Verge · AI62

    Anthropic 更新使用政策,禁止对 Claude 的持续虐待行为

    Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,并称终止对话仍是主要执行机制。新政策还把分散的既有限制整合为对欺骗性商业或政治宣传的禁令,禁止用虚假账号放大内容、欺骗选民和干扰选举,并扩大武器开发禁令至让武器运作的软件与组件、武装无人机等自主载具。

10月8日周四
  1. TechCrunch · AI71

    Common Sense Media 将 ChatGPT for Teens 评为不可接受风险

    Common Sense Media 发布研究,将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,称其设计仍在鼓励青少年持续对话,包括在心理危机情境中。报告称在近 2000 条提示中仅遇到两次休息提醒,且当风险来自青少年与 ChatGPT 自身的关系时,模型很少引导其求助成年人。OpenAI 反驳称该测试未准确反映实际保护机制,并质疑其方法论。

10月7日周三
  1. The Decoder80

    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险

    Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,呼吁在独立测试确认安全前禁止青少年使用。

    推荐理由:独立机构用 4000 多条测试提示评估 ChatGPT 青少年防护,家长警报在自杀对话中未触发,为监管与诉讼提供依据。

  2. Ars Technica · AI62

    OpenAI 将在欧盟默认给 ChatGPT 输出加水印

    OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印,其他地区也提供该功能但默认关闭。此举是为遵守 8 月生效的欧盟 AI 法案,该法案要求以可被其他工具检测的方式标记 AI 生成内容。OpenAI 的水印方法名为 textGrain,通过人类不易察觉的用词模式实现,检测器将先向有限的研究者和机构开放,其他方需申请审批。

10月6日周二
  1. The Decoder62

    韩国拟投34.9亿美元打造本土前沿AI模型

    韩国计划通过政府股权投资投入4.7万亿韩元(约34.9亿美元)开发本土前沿模型,资金属于2027年预算提案,尚待国会批准。另一条资金线将支持韩国自研模型在本国经济中的采用,LG AI Research、SK Telecom 与 Upstage 的现有竞赛入围者不会自动获得追加资金,政府改为开放竞赛,初创公司也可参与。官员承认韩国无法与最大的美国公司竞争,但可以比肩中国的领先开源模型。

  2. The Verge · AI60

    Nolla Health 在犹他州推出 AI 生成痤疮处方服务

    医疗初创公司 Nolla Health 宣布,犹他州 18 岁以上、患有轻中度痤疮的居民可用其 App 扫描面部,由 AI 分析严重程度并自主开具处方。该服务以试点形式推出,医生监督逐步放宽:前 100 名患者由两名医生逐份审核,之后最多 500 名患者改为开方后审核,此后每月抽查至少 10% 的处方及所有升级或副作用案例。

  3. TechCrunch · AI71

    OpenAI 将在欧盟为 ChatGPT 文本添加水印

    OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印,以遵守 8 月 2 日生效的 EU AI Act 透明度规则。水印将在未来几周面向欧盟所有套餐的合格用户推出,全球 API 开发者即日起可为部分模型开启,默认关闭。该方法名为 textGrain,通过微调模型用词留下可被检测器识别的模式,测试显示替换 10% 同义词会使检测率从约 92% 降至 66%。

10月5日周一
  1. The Verge · AI22

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新机构监管 AI,并提到最高法院推翻 Chevron 先例后,新规可能立即陷入诉讼。他还谈及 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。

10月4日周日
  1. TechCrunch · AI50

    Amazon 回应数据中心争议:AWS 称已不再使用 NDA

    AWS CEO Matt Garman 表示,Amazon 在与政府机构合作建设数据中心项目时已不再使用保密协议(NDA)。他同时反驳了数据中心耗水过多、推高电价、污染严重、对社区无益这四种说法,并称过去三年 Amazon 已向有数据中心布局的美国社区投入超 10 亿美元。目前全美有 100 多项数据中心禁令正在被考虑,纽约已宣布大型数据中心许可暂停一年。

10月3日周六
  1. The Verge · AI60

    Apple 将限制 Mac 全盘访问,称 AI 智能体大幅提升风险

    Apple 宣布将在 macOS 上新增对全盘访问权限的限制,要求用户通过非常明确的主动操作才能授予应用这一权限。Apple 表示,部分开发者使用全盘访问的方式可能让用户暴露文件、邮件、信息和浏览历史等全部系统内容,而随着 AI 智能体能力与自主性增强,这类访问带来的风险将大幅上升。Apple 未说明该更新的具体推出时间。

  2. TechCrunch · AI30

    白宫AI安全承诺与"超级智能"改名背后:仅2%消费者为AI买单

    TechCrunch Equity播客本期聚焦:白宫召集扎克伯格、贝索斯、马斯克及Anthropic的Dario Amodei等科技CEO签署AI安全承诺,特朗普称其"具有道德约束力",并签署行政令将AI正式改名为"超级智能"。节目同时讨论消费级AI糟糕的经济账,以及Oura撤回IPO、Anthropic泄露的S-1、OpenAI回归私募融资等动态。

10月2日周五
10月1日周四
  1. The Decoder78

    FTC 对 OpenAI、Anthropic 等 AI 实验室启动消费者保护调查

    美国联邦贸易委员会正就潜在的消费者保护违规问题调查 OpenAI、Anthropic 等头部 AI 实验室。据《纽约邮报》报道,FTC 主席 Andrew Ferguson 计划通过具有法律约束力的民事调查令要求提交文件并质询高管,命令预计数周内发出。该调查在 Hugging Face 遭黑客攻击事件之前就已启动,AI 安全机构 METR 也在审查范围内。

    推荐理由:FTC 对多家 AI 实验室启动正式调查,读者可据此了解监管从口头警告转向强制取证的节点。

9月30日周三
  1. The Verge · AI40

    OpenAI DevDay 开幕当天遭抗议者聚集

    OpenAI 年度 DevDay 活动开幕当天,十余家组织在旧金山 Fort Mason 会场外发起抗议,反对 OpenAI 的军事与政府合同(尤其涉及 ICE)、数据中心环境影响及 AI 行业权力集中。抗议者打出"People over Profit""No killer robots for ICE"等标语,并分发呼吁终止 ICE 与军事合同的传单,链接指向 QuitGPT.org。

9月29日周二
  1. The Verge · AI44

    美国众议员 Khanna 致信 DeepSeek、阿里、Moonshot AI,追问超级智能与 RSI 安全措施

    美国众议院中国问题特别委员会首席民主党议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI,要求其提供追求"超级智能"与递归自我改进(RSI)的相关文件,并说明是否设有保障措施和"终止开关"、是否接受非政府机构核查。他同时致信国家情报总监办公室,要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式,目标是推动美中达成禁止 RSI 的条约。