OpenAI 战略未来负责人 Dean Ball 谈更强大 AI 如何重塑社会
OpenAI 战略未来负责人 Dean Ball 探讨能力更强的 AI 可能如何重塑社会,以及人们如何继续掌控自身制度。
OpenAI 战略未来负责人 Dean Ball 探讨能力更强的 AI 可能如何重塑社会,以及人们如何继续掌控自身制度。
微软研究播客《The Shape of Things to Come》中,Doug Burger 与 Eric Horvitz、Eric Topol、Ava Amini 探讨 AI 在医疗健康领域的未来。讨论覆盖 AI 辅助诊断、医学影像、全患者模型、虚拟细胞与生物基础模型,并分析研究成果为何难以快速惠及患者,以及更好生物数据与真实世界验证的必要性。
JioStar 首席架构师 Vijay Seshadri 分享了在 5 亿用户规模下做 AI 发现的实践经验,涵盖评估、护栏以及将 AI 投入生产等要点。
NVIDIA 深度学习高级产品研究工程师 Chris Alexiuk 通过 YouTube 教学,帮助开发者构建、微调和部署开源 LLM 应用与智能体,并自称“头号 Nemotron 粉丝”。
微软研究院研究经理 Mike Walker 在播客中讲述自己从黑客文化走入网络安全研究的经历,他曾领导 DARPA 的 Cyber Grand Challenge,该项目今年迎来 10 周年。他认为安全系统每次向用户索取配合都是在消耗信任,有效安全取决于对信任与上下文的理解,并反思了网络系统如今是否比十年前更安全。
Microsoft Research Catalyst Lab 负责人 Chris White 在播客中讲述其从哈佛博士后到阿富汗战场先进技术负责人、再到 DARPA 项目经理的职业经历。他后来转向暗网搜索工具研发,用于协助打击人口贩运,并因此获得 2016 年美国总统打击人口贩运特别努力奖。
AWS AI 服务副总裁 Shawn Bice 提出 Trust in Depth 框架,主张用独立分层的信任机制替代逐个人工审批,让智能体在可验证的范围内自主行动。
推荐理由:AWS 高管把形式化验证引入智能体治理,读者可了解四层信任框架如何界定自主与控制的边界。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作。
OpenAI 的 Chris Lehane 主张,AI 能力越强,就越需要更强的安全证据、共享标准与持久的政策行动,并呼吁在政策窗口仍然敞开时采取行动。
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 与对齐难题,称其如同"异类心智",呼吁加强安全防护并推动国际协调。