跳到正文
原文
TechCrunch · AI· Rebecca Bellan·· 3 天前AI 评分71

OpenAI 将嵌入 Apollo Research 安全评估员调查 AI 颠覆行为

OpenAI will embed safety researchers to investigate AI subversion

AI 导读

Apollo Research 表示,OpenAI 将在试点中嵌入六名 Apollo 安全评估员,重点调查模型是否试图颠覆自身或后继版本的对齐与控制机制。试点将考察训练是否激励颠覆、评估能否诱发颠覆、内部部署中是否出现颠覆,以及相关推理是否可被检测。

来源:TechCrunch · AI · techcrunch.com