跳到正文
原文
Hugging Face Blog·· 10 天前AI 评分38

亚马逊提出 HOPE:用二阶方法剪枝 MoE 专家,保留专家协作关系

Your Experts Have Partners. There's HOPE for Keeping Them Together

AI 导读

亚马逊研究者提出 HOPE(Higher-Order Pruning of Experts),一种考虑专家两两交互的二阶 MoE 剪枝方法。在 50% 剪枝率下,HOPE 平均排名优于所有方法,在 agentic coding 任务上比次优剪枝方法最高提升 +6.1%。

来源:Hugging Face Blog · huggingface.co