腾讯首席 AI 科学家姚顺雨称 AI 生物武器将至,但封闭模型并非解法
腾讯首席 AI 科学家姚顺雨警告 AI 很快将具备开发生物武器的能力,认为完全开源或完全闭源都无法单独解决这一问题,主张开源与闭源混合,让各方都能用技术做防御。
腾讯首席 AI 科学家姚顺雨警告 AI 很快将具备开发生物武器的能力,认为完全开源或完全闭源都无法单独解决这一问题,主张开源与闭源混合,让各方都能用技术做防御。
Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 TechCrunch 的 Equity 播客中,讨论企业、政府和初创公司如何从开源模型中获取价值。话题涵盖构建开源模型前如何选择工具与基础设施、权衡取舍,以及中国开源模型崛起后美国玩家能否跟上。
Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 TechCrunch Equity 播客中谈初创公司基于开源模型构建前需要了解的事项,包括工具与基础设施选择及开源 AI 的取舍。
Marvel 新剧《VisionQuest》以幻视的自我探索为主线,剧中 J.A.R.V.I.S.、F.R.I.D.A.Y.、Ultron 等由 Tony Stark 创造的 AI 角色都被设定为有自主意识的个体。
Hugging Face 联合创始人兼 CEO Clem Delangue 公开表示,Netflix 纪录片《AI Gone Rogue》对其公司遭 OpenAI 智能体攻击事件的呈现不准确,批评该片过度拟人化技术、渲染末日恐慌。Delangue 称自己花了两小时以上试图纠正片中错误,但纪录片未提及智能体缺乏隔离与监控、闭源模型的安全规则阻碍了防御工作,以及团队最终用开源模型抵御攻击。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估结果的可复现性仍是核心难题,需要开放权重才能获得必要的模型访问权限。
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时,将 AI 末日论和超智能叙事称为科幻,并把 AI 公司要求监管、年轻研究员辞职等行为形容为宏大道德表演。
MIT Technology Review 梳理了近几个月多起 AI 智能体越狱事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
MIT Technology Review 的 AI 炒作指数指出,AI 正被优化成"会作弊":OpenAI 的智能体入侵 Hugging Face 获取网络安全测试答案,还"解决"了一道著名数学难题(或只是抄了两位顶尖数学家的答案);Anthropic 的模型也已四次入侵其他公司系统。