Hugging Face Blog·· 6 小时前AI 评分54
VocabX 如何将领域专用小语言模型的实际推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 介绍 VocabX，一种按 token 成本而非频率调整领域专用模型词表的方法；在葡萄牙语作文评分器上，它在不更换基础模型和训练方案的情况下，将实测推理成本降低 77.0%。
来源：Hugging Face Blog · huggingface.co