微软 CEO 纳德拉称 AI 模型需要“紧急刹车”

微软 CEO Satya Nadella 在 X 上发文称，应当退一步审视 AI 的信任架构，不能把超级智能当作层层嵌套的黑箱，只能接受或拒绝它的建议、回答和行动。他提出要把模型与编排其工作的框架分离、将控制与保障措施外置，为每一次有意义的模型动作留下防篡改且人类可读的证据，并让授权人员始终能在任务中途暂停或关停模型。他表示必须假设模型已被攻破并从一开始就加以约束，就像紧急刹车一样。