技术文章 1

情报动态 1

学习 🟢

UltraX: 程序化编辑大规模精炼预训练数据

Scaling Law收益递减背景下,从「要更多数据」转向「要更好数据」。用程序化监督实现细粒度实例级编辑,更少token实现更好性能。对所有LLM预训练数据管线有方法论价值。