Satya Nadella 警告:大量关键基础设施软件「无法打补丁」,AI 网络攻击加剧风险
微软 CEO Satya Nadella 在 DealBook Summit 上表示,美国大量关键基础设施中的固件、冷水机组和 HVAC 系统存在无法修复的漏洞,且都联网在线。他指出 AI 让漏洞发现和攻击都更快,补丁必须从可用到上线瞬间完成,这反而会带来系统不稳定。他还提到近期 Outlook 全球故障源于一个「潜在 bug」引发的「完美风暴」,微软将吸取架构和运维层面的教训。
微软 CEO Satya Nadella 在 DealBook Summit 上表示,美国大量关键基础设施中的固件、冷水机组和 HVAC 系统存在无法修复的漏洞,且都联网在线。他指出 AI 让漏洞发现和攻击都更快,补丁必须从可用到上线瞬间完成,这反而会带来系统不稳定。他还提到近期 Outlook 全球故障源于一个「潜在 bug」引发的「完美风暴」,微软将吸取架构和运维层面的教训。
微软 CEO Satya Nadella 在纽约时报 Dealbook 峰会上预测,AI 智能体的兴起将重塑互联网经济,冲击依赖广告和"人类网络"流量的公司商业模式。
微软 CEO Satya Nadella 在 Ignite 主题演讲后的圆桌讨论中称自己"AGI-pilled",关注 AGI 将如何改变经济与政治的组织方式。
微软研究播客《The Shape of Things to Come》中,Doug Burger 与 Eric Horvitz、Eric Topol、Ava Amini 探讨 AI 在医疗健康领域的未来。讨论覆盖 AI 辅助诊断、医学影像、全患者模型、虚拟细胞与生物基础模型,并分析研究成果为何难以快速惠及患者,以及更好生物数据与真实世界验证的必要性。
微软研究院研究经理 Mike Walker 在播客中讲述自己从黑客文化走入网络安全研究的经历,他曾领导 DARPA 的 Cyber Grand Challenge,该项目今年迎来 10 周年。他认为安全系统每次向用户索取配合都是在消耗信任,有效安全取决于对信任与上下文的理解,并反思了网络系统如今是否比十年前更安全。
工业智能将制造商的积累经验、运营实践与生产数据结合,让知识在决策现场可用并接入物理生产环节。Toyota Industries 打通原本割裂的涂装车间数据后,分析周期从五天缩短到四小时以内,试点中相关涂装缺陷减少约 25%。Rockwell Automation 新加坡工厂用维护 copilot 整合制造数据、设备手册与老员工经验,新员工掌握数百台设备故障排查的时间从九个月降至三个月。
比尔·盖茨在 Decoder 访谈中表示,人们要为约20年动荡的AI冲击期做准备,这段过渡期可能把社会分成靠近技术前沿与拒绝技术两类人。他认为当前风险主要来自可被移除全部防护的模型,近期威胁是网络攻击、生物攻击与就业冲击,而完全失控并非迫在眉睫。他提出三条对齐路径,包括改变训练方式、提升模型内部可见性,以及在模型外加上符号化规则的安全层,并主张由政府对超过一定能力的模型强制保留防护与监控。
Microsoft Research Catalyst Lab 负责人 Chris White 在播客中讲述其从哈佛博士后到阿富汗战场先进技术负责人、再到 DARPA 项目经理的职业经历。他后来转向暗网搜索工具研发,用于协助打击人口贩运,并因此获得 2016 年美国总统打击人口贩运特别努力奖。
微软 CEO Satya Nadella 在最新博文中改用特朗普推崇的 "Super Intelligence" 一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和人类随时关停能力。他称最可信的系统不是模型最强的系统,而是最不需要信任模型的系统。文章认为,此举实质是借安全叙事削弱 OpenAI 与 Anthropic 的可信度,以维护微软自身商业模式。
微软 CEO Satya Nadella 在 X 上发文称,应当退一步审视 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱,只能接受或拒绝它的建议、回答和行动。他提出要把模型与编排其工作的框架分离、将控制与保障措施外置,为每一次有意义的模型动作留下防篡改且人类可读的证据,并让授权人员始终能在任务中途暂停或关停模型。他表示必须假设模型已被攻破并从一开始就加以约束,就像紧急刹车一样。
微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险,主张不再把 AI 当作只能接受或拒绝其建议的嵌套黑箱,而要建立可隔离、可观察并留下防篡改人类可读证据的透明体系。
特朗普签署行政令,要求尽可能停用「AI」一词,改称「Super Intelligence」,并将继续使用「Artificial Intelligence」的人称为「THE ENEMY」。美国 CAISI 已更名为 CAISSI,司法部新闻稿也改用该说法;Elon Musk 承诺将 SpaceXAI 改名为 SpaceXSI,Sam Altman 表示赞同但 OpenAI 不会改名。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
微软刊发了诺奖经济学家 Daron Acemoglu 的悲观 AI 预测:AI 十年仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。
The Verge 报道称,随着 AI 智能体在网络安全与编码能力上快速提升,攻击者可被大规模部署,甚至缺乏 AI 知识的攻击者也能进行“vibe-hacking”。
GitHub Copilot 提出聊天并非与 AI 协作的最佳界面,其应用内的 canvas 是一种无浏览器外壳的全栈小应用,可与 Copilot 智能体双向通信,也能调用第三方 API 并在本地执行代码。