跳到正文

#推理

今日 0 条
11月8日周日
10月28日周三
10月23日周五
  1. Latent Space78

    AI 为何突然擅长数学:从提示序列与分支因子看模型解题优势

    作者 Ankit Maloo 分析 OpenAI、Anthropic 近期在数学开放问题上的进展,提出用最短提示序列长度 k 与分支因子 b 判断问题对 LLM 是否可解。他认为模型以深度优先方式把每条可行路径走完,配合自动验证器剪枝,把人类需要数月判断的尝试压缩到几分钟,因此擅长概念跳跃已完成、剩余工作繁重的证明。人类优势仍在搜索树深且分支多、需要直觉剪枝的问题上。

    推荐理由:文章用提示序列与分支因子两个变量解释模型为何在数学证明上占优,并指出人类直觉仍占优的问题类型。

10月17日周六
10月12日周一
  1. The Decoder62

    Karpathy 称外界只看到 AI 能力的预览,将 LLM 用户分为四个层级

    Anthropic 的 Andrej Karpathy 称外界只看到了 AI 实际能力的预览,并把大语言模型用户分为四个层级。约 60 亿人几乎没接触过 LLM,10 至 20 亿人是免费产品的普通用户,约 2000 万数学和编程领域的专业用户已看到智能体完成过去需数周数月的项目,而约 5000 人可接触内部前沿系统,看到数千智能体协作数周、挖掘零日漏洞和推进数学前沿。

10月11日周日
10月10日周六
10月7日周三
10月5日周一
10月2日周五
  1. MIT Technology Review · AI38

    别被迷惑——LLM 并不会推理

    前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 预测完成,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式推理常是事后编造;主张借鉴 AlphaGo 的游戏树搜索架构来构建真正的机器推理。

9月30日周三
9月22日周二
  1. Latent Space78

    TypeSafe AI 发布 Jev:面向软件而非聊天的 System 1 模型

    TypeSafe AI 发布首个大型可编程模型 Jev,定位为面向代码消费的 System 1 模型,按每美元智能优化,取名自杰文斯悖论。其核心创新是未发表的 RLCD(Reinforcement Learning for Calibrated Decisions),优化 System 1 任务上具有认知诚实概率的答案,而非 RLHF 的人类评分反馈或 RLVR 的可验证输出。

    推荐理由:Jev 提出面向代码消费的 System 1 模型与 RLCD 训练目标,读者可据此理解程序化 AI 与聊天模型的路线差异。