Google Research 提出 sleep 框架，让 LLM 在持续学习中保留知识

Google Research 提出 sleep 框架，在持续学习中引入睡眠阶段，让 LLM 把短期上下文巩固为长期参数，同时缓解灾难性遗忘和知识截止问题。该框架分为记忆巩固与梦境自改进两步，前者用 MoE 参数扩展和知识蒸馏写入新知识，后者通过随机专家激活、筛选合成样本和 RL 微调提升推理。