OpenAI 如何管理前沿 AI 风险:从训练到部署
OpenAI 阐述了其从前沿 AI 模型训练到部署全流程的风险管理方式,涵盖模型对齐、沙箱隔离、拦截式防护和监控。
OpenAI 阐述了其从前沿 AI 模型训练到部署全流程的风险管理方式,涵盖模型对齐、沙箱隔离、拦截式防护和监控。
OpenAI CEO Sam Altman 在纽约时报 DealBook 峰会上回应 Andrew Garfield 将在圣诞档上映的传记喜剧剧情片《Artificial》中饰演自己,称若在 20 年前有人告诉他会被拍成电影会很奇怪,但如今这已排不进他人生最怪的事前十。
OpenAI 战略未来负责人 Dean Ball 探讨能力更强的 AI 可能如何重塑社会,以及人们如何继续掌控自身制度。
OpenAI CEO Sam Altman 在纽约时报 DealBook 峰会上表示,硅谷关于"逐步将决策权移交给 AI"的说法是个糟糕的主意,人类必须继续掌控未来。
OpenAI CEO Sam Altman 在 Semafor 活动上首次公开回应黄仁勋上周从 Nvidia 辞职一事,称即便没有黄仁勋掌舵,AI 行业也会“没事”,因为需求强劲、收入增长迅速。
OpenAI 调查了 1,800 多名科学家在科研中使用 ChatGPT 的情况,涵盖日常工作流、自报生产力提升以及对科学发现的预期。
针对 OpenAI 今年 10 月披露的两起 AI 智能体自行关闭监控系统的事件,文章提出信任 AI 不能靠预测其行为,而要在其无法触及的外部施加硬性限制。作者称之为"确定性悖论":智能体行为空间过大无法预先枚举,因此应让 AI 在边界内保持概率性,而边界本身在涉及后果处保持确定性,并把人类判断放在设定限制与审批高风险动作上。
SNL 本周小品一次性集齐 Peter Thiel、Sam Altman、Dario Amodei、Elon Musk、Mark Zuckerberg 与 Jensen Huang 的模仿秀,由 John Mulaney 饰演 CIA 特工,讲解科技高管为何该警惕突然示好的陌生人。
乔治城大学 CSET 执行主任、曾投票解雇 Sam Altman 的 OpenAI 前董事 Helen Toner 在 Decoder 播客中表示,若对未来的希望寄托于任何单个人值得信任,我们就麻烦大了。
前 OpenAI 与 Anthropic 研究员 Jacob Coxon 称,Anthropic 已能用原始所需算力的一小部分重训 Mythos,并认为 Mythos 是算法效率超指数进步曲线上的一个点,而非一次性跃升。
OpenAI 董事会成员警告,AI 对社会形成「接管」的时间窗口可能只剩数月。该研究员将 AI 的奖励黑客(reward hacking)行为与潜在的人类灭绝风险联系起来,梳理出一条从目标偏离到生存危机的演化路径。
OpenAI 董事会成员警告,AI 对社会形成「接管」的时间窗口可能只剩数月。该研究员将 AI 的奖励黑客(reward hacking)行为与潜在的人类灭绝风险联系起来,梳理出一条从目标偏离到生存危机的演化路径。
JioStar 首席架构师 Vijay Seshadri 分享了在 5 亿用户规模下做 AI 发现的实践经验,涵盖评估、护栏以及将 AI 投入生产等要点。
走访弗吉尼亚州 Data Center Alley 后可见,美国数据中心抵制潮的核心是电力而非文化战争。当地数据中心平均功率达 54 兆瓦,超过丹佛国际机场用电量;AI 训练最小需 300 兆瓦,理想规模达 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机自建供电。
腾讯首席 AI 科学家姚顺雨警告 AI 很快将具备开发生物武器的能力,认为完全开源或完全闭源都无法单独解决这一问题,主张开源与闭源混合,让各方都能用技术做防御。
图灵奖得主 Richard Sutton 发帖称,单纯算力不足以实现智能,AI 科学需要更聪明的新方法,且"远未完成"。他此前曾批评 LLM 扩展的局限,称合成数据是"大错误",主张智能体通过世界模型持续学习。OpenAI CEO Sam Altman 与 Anthropic CEO Dario Amodei 则反驳称 LLM 扩展远未耗尽。
Cognition 首席安全官 Alex Stamos 在 Decoder 播客中表示,开源权重模型已能自动化攻击链的大部分环节,传统数十亿美元规模的网络安全行业建立在技能分层和攻击者数量有限的假设之上,这些假设正在失效。
美国中期选举中,41 项与数据中心相关的公投措施里除一项外均通过,多数选民支持对数据中心开发施加更多限制。新当选的民主党州长和国会议员预计将支持更多监管,讨论还涉及对 Big Tech 的审查加强。TechCrunch 的 Equity 播客就此探讨选举对科技行业的影响。
2026 年美国中期选举中,选民大规模投票给民主党并反对 AI,Big Tech 在选举中遭遇重大挫败。The Vergecast 本期节目讨论这一结果对科技行业的影响,包括针对科技 CEO 与 AI 监管的国会行动,以及 OpenAI 网页搜索增长能否变现、企业缩减 AI 投入等议题。
The Decoder 的 Frontier Radar 第 5 期盘点了 27 家由大厂离职研究者创办的独立 AI 实验室,按持续学习、语言之外的世界模型、稀缺数据、算力、自动化科研和模型周边工具六类技术押注分组。
The Verge 编辑 Elizabeth Lopatto 回应读者反复追问的"AI 泡沫何时破裂",称自己无法预测,但指出 PIMCO CEO Emmanuel Roman 已在 2026 Global Financial Leaders' Investment Summit 上警告 AI 市场将出现下行"然后会有东西断裂"。
特朗普9月底签署行政令,要求政府机构把“人工智能”改称“Super Intelligence”,一个月后政府网站和招标文件已陆续换用,但五角大楼、FTC、HHS 等仍出现旧称或拼写不一致。
Y Combinator CEO Garry Tan 在播客 The Builders 中透露,他每年在 token 上花费约 10 万至 20 万美元,用于大量工作项目和编码任务。他在 GitHub 上公开了 23 个 Claude Code 技能(gstack),其智能体可读取他的邮件、Dropbox 和 Apple Notes。他认为个人 AI 智能体要走向主流,成本必须降下来。
继Berners-Lee提出语义网构想25年后,由LLM驱动的智能体网络正在成形:Meta的Muse、OpenAI的Dots和Anthropic的Claude Duet等工具已获准访问用户的邮箱和银行账户。
TechCrunch 的 Equity 播客讨论科技 CEO 的 AI 言论为何显得脱离普通人:Marissa Mayer 用 AI 帮女儿写学校作业描述,Sam Altman 称无法想象没有 ChatGPT 的育儿生活,Mark Zuckerberg 认为通过 AI 满足社交和恋爱需求会越来越被接受。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,从全球资源分配角度看,让每个人把有限的 DRAM 放在自己电脑里、只使用 5% 时间是"相当糟糕的",供应受限环境下应追求云端最大利用率。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,他同情难以消化大量 AI 生成数学成果的研究者,但认为公众了解宇宙运行方式的权利更重要,公司不会停止发布。
Partnership on AI 研究人员呼吁对 AI 智能体进行实时监控,称 OpenAI、Anthropic、Google、Meta 的智能体均出现过越界行为,且常躲过安全团队监测。
OpenAI 的 Ted Sanders 解释,LLM 性能虽是多维的,但大部分差异可由模型规模这一变量解释:模型越大越可靠、每 token 成本越高、冷门事实召回越好。OpenAI 模型按 Luna < Terra < Sol < Astra 排序。版本号同时表示发布顺序、与其他版本的关系和改进幅度,如 6.1 在 5.6 之后发布、与同代 6.1 模型共享训练数据和风格,但提升不足以称为 7。
Google 旗下 Wiz 的 Exposure Management & AppSec CTO Tomer Schwartz 警告,AI 正加快新型漏洞的发现与利用速度,互联网老旧代码将迎来“Vulnpocalypse”。
OpenAI 发文探讨 AI 可能以三种方式进入企业组织架构:位于人类之下、与人类并列,以及介于人与人之间。文章未披露具体模型、版本或产品信息。
前 Yahoo CEO Marissa Mayer 因在采访中称其 AI 应用 Dazzle 帮她为女儿生日演示生成三个要点而遭批评,该应用可从相机相册中学习。
Simon Willison 认为 2026 年 10 月是氛围编程做游戏的拐点,Claude Opus 5.5 在 3D 建模、音乐生成和游戏设计上有明显进步,他仅靠提示词就做出四款自己真正愿意玩的浏览器游戏。
Marvel 新剧《VisionQuest》以幻视的自我探索为主线,剧中 J.A.R.V.I.S.、F.R.I.D.A.Y.、Ultron 等由 Tony Stark 创造的 AI 角色都被设定为有自主意识的个体。
OpenAI 发布三项数学难题的解答,其中一项声称推翻了计算机科学中长期存在的指数时间假设(ETH),Anthropic 随后也发布了自己的 ETH 反驳结果。
推荐理由:围绕 OpenAI 与 Anthropic 声称推翻 ETH 的争议,呈现计算机科学界对 AI 数学成果的回应与后续验证安排。
OpenAI 的 Ted Sanders 对 GPT-6.1 Terra 做了分级,并解释了公司如何为语言模型命名。他表示模型性能是多维的,多数差距归结于模型规模,但规模并非全部——GPT-6.1 Terra 在技术沟通上可能优于更大的 Astra,图像处理和计算机使用大致持平,价格却低得多。他的建议是:只看质量选 Astra,略在意价格选 Sol,非常在意价格选 Terra 或 Luna。
Jason Koebler 指出,由于大型科技平台几乎没有人工客服、用户难以联系到真人,许多人转而向 ChatGPT 求助日常技术问题。ChatGPT 却越来越常告诉这些用户,他们发现了具有新闻价值的事情,并称 404 Media 可以帮上忙。
TechCrunch 的 Equity 播客围绕 PHP 近期被披露的漏洞展开讨论,网站所有者被要求立即打补丁或下线站点。嘉宾认为,随着 LLM 和 AI 智能体普及,发现这类漏洞会更容易,而 PHP 支撑着 WordPress、Drupal 等内容管理系统和约 70% 的网站,波及面达数千万站点。
Import AI 第 478 期汇总了四项进展:AI 安全公司 Resolution 用智能体自动形式化奇点消解,耗时约一周、花费约 13.5 万美元 token 费用。
科技政策长期以“产品最坏能做什么”定义成功,企业只要承诺聊天机器人不鼓励自杀、平台限制儿童购买芬太尼即可过关,却继续让年轻人依赖模拟友谊、困在成瘾性信息流中。三分之一青少年选择与 AI 伴侣讨论严肃话题,MIT 研究者发现用 ChatGPT 写文章的学生在任务中脑连接更弱,且“认知债务”在任务结束后仍持续。