模型与研究 11 天前
词表也会决定推理账单：Hugging Face 团队称 VocabX 将小模型实际推理成本降低 77%
Hugging Face 社区团队 Dharma-AI 提出 VocabX，通过…
编辑部
标签专题
#LLM inference
聚焦该标签下的所有相关内容。
共 2 篇
基础设施与工程 1 个月前
阿里云社区介绍 Mooncake：多智能体推理的瓶颈，正在转向 KVCache 基础设施
阿里云社区介绍了 Mooncake，一种以 KVCache 为中心的分离式 LL…
编辑部