Hugging Face Blog·· 6 天前AI 评分53
Dharma AI 提出词表专用化方法 VocabX，在葡语作文批改器上实测推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma AI 介绍其 VocabX 方法，按每个 token 的成本而非出现频率为领域专用小模型重建词表，并同时在子词层和多词宏 token 两层做压缩。
来源：Hugging Face Blog · huggingface.co