📌 一句话摘要

北大 DCAI 团队开源 DataFlow-Skills，通过静态校验、断点续传、字段依赖检查等工程约束，让 Agent 在数据清洗与合成场景中先规划再执行，避免盲目烧钱，可节省高达 80% 的数据处理成本。

📝 详细摘要

本文详细介绍了北京大学 DCAI 团队开源的 DataFlow-Skills 项目。该项目旨在解决 LLM 数据处理场景中 Agent 高试错成本的问题，通过将 DataFlow 系统的工程经验（如静态校验、断点续传、字段依赖检查）打包成 Agent 可执行的规则，实现「先推理，再生成；先 compile，再运行」的安全机制。文章阐述了 DataFlow-Skills 的三个核心 Skill（流水线生成器、开发专家助手、算子级 API 参考）及其协作逻辑，并重点分析了三条关键设计决策：两阶段输出确保可审计性、专用算子优先于通用算子、字段依赖作为一等公民。此外，文章还介绍了底层 DataFlow 系统的算子设计、语法约束（Compile 机制）和基于 Ray 的异构算力调度能力，并通过 VQA 教材数据转化和强推理数据合成两个典型应用场景展示了其实际效果。

💡 主要观点

1. DataFlow-Skills 通过工程约束解决 Agent 在数据处理中的高试错成本问题。 在数据清洗与合成场景中，Agent 的一次错误可能导致数百美元的 API 费用和 GPU 时间浪费。DataFlow-Skills 将静态校验、字段依赖检查等工程经验打包成规则，强制 Agent 先规划、再执行，从源头避免浪费。
2. 核心设计决策：两阶段输出、专用算子优先、字段依赖作为一等公民。 Agent 必须先输出推理过程（选型依据、字段流转），再输出代码，确保可审计性；当任务有专用算子时强制使用，避免通用生成器的低质量输出；字段依赖链条被嵌入生成规则，确保上下游字段匹配，防止因字段名错误导致流水线失败。
3. 底层 DataFlow 系统提供算子设计、Compile 机制和异构算力调度三大能力。 算子按 Generate/Evaluation/Filter/Refine 分类，沉淀为可复用模块；Compile 机制在运行前验证字段贯通性，避免 GPU 空跑；基于 Ray 的异构调度可并行利用 LLM、小模型和 CPU 算子，实现近 7.6 倍加速。
4. DataFlow-Skills 在 VQA 教材转化和强推理数据合成等场景中验证了有效性。 VQA 转化 Pipeline 可跨页对齐教材中的题目、图像和答案；强推理合成 Pipeline 能生成高质量推理轨迹，实验表明仅用 10K 合成样本即可接近官方 Instruct 版本效果，且通用能力未退化。

💬 文章金句

• Agent 一旦写错字段、选错算子、拼错流水线，消耗掉的不是 token，而是真金白银。
• 在高成本场景下，可审计性和可追溯性比生成速度更重要。
• Skill 不应该只告诉 Agent '你能用什么'，还必须告诉它 '在什么情况下你不能用什么'。
• 在烧钱之前，先验证。
• 随着后训练、Agent、企业私有数据系统继续发展，这类'防烧钱'的基础设施，可能会比模型本身变得更重要。

📊 文章信息

阅读完整文章