自适应并行推理：高效推理扩展的下一个范式

伯克利 AI 研究团队梳理了并行推理领域进展，指出当前方法多由外部固定并行结构，模型无法自行决定何时分解任务、开多少线程。文章重点讨论自适应并行推理，并提及 ThreadWeaver、ParaThinker、GroupThink、Hogwild! Inference 等方法。