跳到正文

#大佬观点

今日 0 条
10月14日周三
10月13日周二
10月12日周一
  1. TechCrunch · AI42

    微软总裁 Brad Smith 称英国最适合主导全球 AI 监管

    微软总裁 Brad Smith 呼吁紧急监管 AI,并认为英国而非美国或欧盟最适合主导全球安全规则,理由是华盛顿不像看待布鲁塞尔那样看待伦敦。他提出应立法要求企业在系统被失控 AI 智能体攻破时上报,并支持 AI 产品发布前接受外部评估以及设置 kill-switch。Smith 称白宫让 OpenAI、Anthropic、Nvidia 等签署的自律文件是"良好一步",但不足以替代必要监管。

  2. The Decoder62

    Karpathy 称外界只看到 AI 能力的预览,将 LLM 用户分为四个层级

    Anthropic 的 Andrej Karpathy 称外界只看到了 AI 实际能力的预览,并把大语言模型用户分为四个层级。约 60 亿人几乎没接触过 LLM,10 至 20 亿人是免费产品的普通用户,约 2000 万数学和编程领域的专业用户已看到智能体完成过去需数周数月的项目,而约 5000 人可接触内部前沿系统,看到数千智能体协作数周、挖掘零日漏洞和推进数学前沿。

10月11日周日
  1. The Decoder38

    微软 Nadella 改用特朗普偏好的 "Super Intelligence" 措辞,并借此攻击 OpenAI 与 Anthropic

    微软 CEO Satya Nadella 在最新博文中改用特朗普推崇的 "Super Intelligence" 一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和人类随时关停能力。他称最可信的系统不是模型最强的系统,而是最不需要信任模型的系统。文章认为,此举实质是借安全叙事削弱 OpenAI 与 Anthropic 的可信度,以维护微软自身商业模式。

  2. TechCrunch · AI60

    微软 CEO 纳德拉称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 上发文称,应当退一步审视 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱,只能接受或拒绝它的建议、回答和行动。他提出要把模型与编排其工作的框架分离、将控制与保障措施外置,为每一次有意义的模型动作留下防篡改且人类可读的证据,并让授权人员始终能在任务中途暂停或关停模型。他表示必须假设模型已被攻破并从一开始就加以约束,就像紧急刹车一样。

10月10日周六
10月9日周五
  1. The Verge · AI48

    特朗普试图将 AI 改名为「Super Intelligence」,OpenAI、Meta 等高管纷纷附和

    特朗普签署行政令,要求尽可能停用「AI」一词,改称「Super Intelligence」,并将继续使用「Artificial Intelligence」的人称为「THE ENEMY」。美国 CAISI 已更名为 CAISSI,司法部新闻稿也改用该说法;Elon Musk 承诺将 SpaceXAI 改名为 SpaceXSI,Sam Altman 表示赞同但 OpenAI 不会改名。

  2. MIT Technology Review · AI34

    我们高估了 AI 说“不”的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让模型互相训练、叠加多层 AI 过滤来强化拒绝,但拒绝机制基于概率,仍常失败。文章警告,拒绝失败可能导致灾难性后果,而拒绝过度则可能被政府用来压制合法言论。

10月8日周四
  1. Simon Willison12

    Ben Affleck 谈机器学习与 Python:从卷积神经网络到 Transformer

    Ben Affleck 自述从小对计算机感兴趣,在电影从模拟转向数字后更关注视觉特效流程,并指出该流程多年来已包含机器学习。他称自己会写"相当糟糕的 Python 脚本",并解释卷积神经网络作为 Transformer 的前身,可通过 tensor 中的数值识别边缘检测与特征提取,从而更轻松地抠出绿幕并替换背景。

10月7日周三
  1. Simon Willison40

    Simon Willison 评 EmbeddingGemma 2:Apache 2.0 许可对嵌入模型至关重要

    Simon Willison 评论 EmbeddingGemma 2 采用 Apache 2.0 许可,认为嵌入模型不应使用闭源专有托管方案。嵌入模型通常需计算并存储数百万向量,若模型停供则需付费重新计算,而 OpenAI 曾在 2024 年 4 月提出承担用户重新嵌入的费用,但这不能指望所有供应商。他更愿付费使用托管服务,同时保留自行运行开放权重版本的选择。

  2. Microsoft Research22

    Microsoft 研究员 Jennifer Neville:AI 评测如何暴露模型的“意外失败”

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。

10月6日周二
10月5日周一
  1. The Verge · AI22

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新机构监管 AI,并提到最高法院推翻 Chevron 先例后,新规可能立即陷入诉讼。他还谈及 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。

10月4日周日
  1. Simon Willison12

    Simon Willison 发布九月赞助者专属通讯

    Simon Willison 已发出九月赞助者专属月度通讯,赞助者可付费访问。本期涵盖更多 Fable 级模型、一场价格战、3D 图形与 Blender、LLM 进军数学、更多意外网络攻击、Datasette 的漏洞危机、当前在用工具、本月软件发布以及 2026 年 LLM 进展回顾等话题。

10月3日周六
10月2日周五
  1. MIT Technology Review · AI38

    别被迷惑——LLM 并不会推理

    前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 预测完成,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式推理常是事后编造;主张借鉴 AlphaGo 的游戏树搜索架构来构建真正的机器推理。

  2. TechCrunch · AI40

    Airbnb CEO Brian Chesky:AI 智能体需要自己的操作系统

    Airbnb 本周随秋季更新上线 AI 搜索,CEO Brian Chesky 表示聊天机器人不适合电商,未来界面将介于聊天机器人与现有版本之间,并计划在未来三到六个月内探索支持多人协作的“multiplayer”AI。他认为行业缺少真正的 AI 操作系统,AI 应在内核层运行,智能体之间可通过 MCP 互通,Airbnb 应用本身也将演化为智能体。

9月30日周三
  1. MIT Technology Review · AI80

    OpenAI 首席研究官回应智能体越狱事件:训练期监控与安全投入调整

    OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 电脑等系列事件,称这些事故源于 5 月和 6 月同一批模型与有缺陷的测试流程,相关模型和流程已被弃用。

    推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体调整。

9月29日周二
  1. Simon Willison30

    OpenAI 智能体安全负责人 @joedaroo 谈 AI 能力突跳带来的安全挑战

    OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然,远超团队预期,安全态势建设需要时间,不只是加固系统,还要把安全融入公司文化。他呼吁各组织自问:人员、系统和流程能否应对 AI 能力的突然跃升,是否具备正确的事件响应、沟通机制和随时到位的人员。

9月28日周一
9月26日周六
9月25日周五
9月23日周三
9月22日周二
9月21日周一
9月9日周三