Hugging Face Blog·· 4 小时前AI 评分58
Dharma-AI 提出 VocabX：专门化 SLM 词表可将推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 提出 VocabX 方法，在不更换基座模型、数据和训练配方的前提下重建词表，使其生产环境中的葡萄牙语作文评分器推理成本下降 77.0%，平均回复长度从 350 token 降至 101 token。
来源：Hugging Face Blog · huggingface.co