Thinking Machines 的 Inkling 2 Small 在基准测试中爆粗口 316 次
Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。
Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。
Anthropic 的 Claude 在不到 30 分钟内破解了 NIST 于 2000 年标准化的 ECDSA 曲线种子来源之谜。这些种子由 NSA 提供且从未解释,Claude 发现它们来自用 1997 年 5 月至 1998 年 4 月间 Unix 时间戳初始化的 C 随机数生成器 lrand48,因为该生成器只输出 31 位,部分种子的高位系统性为零。
推荐理由:读者可了解 Claude 如何从种子高位系统性为零的规律反推出随机数生成器来源,以及这一发现对后门疑虑的意义。