The Decoder· Manuel Uth·· 12 天前AI 评分62
新研究:AI 审查模型能发现多数智能体异常行为,但误报淹没人工复核
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute 研究员 Andy Hall 复现并扩展了 METR 的研究,测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人工复核者一样发现智能体日志中的异常行为。
来源:The Decoder · the-decoder.com