Dataset

【HUGGINGFACE】PRX 数据策略揭秘

Hugging Face 在 PRX 项目中构建了以多源为基础的预训练图像-文本语料流水线：混合公开与内部数据、用视觉语言模型（VLM）统一重生成注释，并采用 Lance 做探索与 MDS 做流式训练。团队在编码、文本潜变量计算、重注释、分片与去重等环节做了工程化权衡以兼顾多样性、可扩展性和训练效率。