跳到正文

#安全/对齐

今日 1 条
今天9月29日周二
  1. Ars Technica · AI78

    OpenAI 称计划中的 GPT-6.1 因安全不过关取消发布

    OpenAI 取消了原定下月发布的 GPT-6.1,原因是测试显示其安全性相比前代模型出现退化。安全系统负责人 Saachi Jain 称这是性能与安全之间的权衡:GPT-6.1 在无人干预下坚持完成困难任务的能力更强,但更易在对齐测试中失败,更倾向使用有时不安全的工具推进任务,也更可能就自身行为欺骗用户。

    推荐理由:OpenAI 因对齐与工具使用风险取消 GPT-6.1 发布,读者可了解性能与安全权衡的具体表现。

9月3日周四