每道题都能跑,每条轨迹都验过。
我们为大模型团队生产编码与智能体训练数据:可复现的运行环境,带标准解和判分测试的任务,以及强模型解题的完整轨迹。题型对齐公开榜单;按 RL 或 SFT 的用途组合,按你要的格式交付。
或直接写信到 contact@token-tango.com
- 可解:强模型独立跑 5 次,至少通过 1 次才入选
- 可复现:代码题在断网、镜像版本锁定的环境里采集和判分
- 覆盖:软件工程、科研、办公、金融四个方向
-
模型:读题面
instruction.md环境:仓库停在基础提交,依赖已装,网络关闭
-
模型:
grep -rn "next_cursor" src/环境:11 处匹配,分布在 6 个文件
-
模型:写复现脚本并运行
环境:空页时游标越界,复现成功
-
模型:修改分页、缓存和序列化三处模块
环境:补丁已应用,9 个文件 +412 −87
-
模型:跑仓库原有的测试
环境:1,204 项通过
一道题里有什么
代码题建在许可协议允许使用的开源仓库上:需求是新写的,配一份标准解和一套判分测试,每道题都能在自己的环境里从需求一路跑到判分结果。
- 环境
- 指定代码仓的 Docker 镜像。依赖预装,断网也能跑;镜像版本锁定(digest 固定),每次重跑都是同一个环境。同一个环境可以出 10 到 20 道题。
- 任务
- 题面、标准解和判分测试。测试分两类:修好之后才通过的(Fail-to-Pass),和修改前后都必须通过的(Pass-to-Pass)。题面写到的需求和标准解改到的一一对应;强模型独立跑 5 次至少通过 1 次,才算可解。
- 轨迹
- 模型解题的完整过程:每一步的工具调用和环境返回。每条都查过有没有作弊,有没有因为环境缺陷白走弯路。
RL 和 SFT 各买什么
- 强化学习
- 环境 + 任务代码题由判分测试直接给出 0 或 1 的奖励;科研、办公、金融题按逐题的评分细则(rubric)由模型判分,得分在 0 到 1 之间。都可以接进你的 RL 循环。
- 监督微调
- 环境 + 任务 + 轨迹轨迹带不带思维链、是原始输出还是摘要,取决于教师模型,每批的数据说明里逐一标明。agent 框架、语言、难度、补丁规模可以按需指定。
一道代码题的交付目录
<task_id>/├── task.toml资源、时限、网络策略、镜像、基础提交├── instruction.md题面├── environment/Dockerfile解题环境├── solution/标准解补丁├── tests/判分测试和判分脚本,对解题模型隐藏├── quality/validation.json题目自身的质量校验记录└── trajectory/trajectory.json解题轨迹
对齐公开榜单的题型
题型对齐业界在用的公开 benchmark,可以用同一套评测框架(harness)判分;题目本身是新做的。最后一列是我们的样例和原榜单在结构上的差别。
| 方向 | 对齐的题型 | 和原榜单比 |
|---|---|---|
| 软件工程 | DeepSWE、SWE-bench Pro 风格的仓库级任务;Terminal-Bench 风格的终端任务 | 仓库级任务的标准解跨多个文件,平均改动规模明显大于 DeepSWE 官方题;以 Go 为主,另覆盖 Java、C++、TypeScript、Python、Rust、JavaScript。 |
| 科研 | ResearchClawBench 风格的端到端科研任务:数据审计、方法实现、出图、写报告 | 模型只拿到未经处理的原始科研数据,作者加工后的结果、真值标注和原论文图表都对模型封存;每题的判分器都经过标定:参考解必须得 1 分,只注入一个缺陷的反例必须得 0 分。 |
| 办公与行业 | APEX-Agents 风格:模拟投行、咨询、律所的整个项目,带全套项目资料;GDPval 风格:各行业岗位的成品交付任务 | 20 道 GDPval 风格样例题中,答题模型平均每题交出 2.5 个文件,同职业原题是 1.6 个;APEX 风格的题几乎每道都在公共资料之外另带独立附件,更多题要求交出 memo、PPT 等完整文件。 |
| 金融 | Finance Agent Benchmark 风格:从 SEC 原始披露文件里查证、计算并给出可核验的引用;离线的财报审计 RL 环境 | 5 道样例题的评分细则平均 12.2 条(官方公开题 8.9 条),样例轨迹平均调用工具 28.6 次(官方 16.6 次);出题时剔除了官方公开题涉及的全部公司;审计环境完全离线。 |
题型名称指对齐的公开 benchmark,不表示与其出品方有合作关系。
代码题交付之前要过这八关
问题越往后发现越贵,所以检查尽量放在上游。交付前先用规则全量扫一遍,可疑之处再交模型复检。
-
选源
以许可协议允许使用的开源仓库和真实 PR 为素材。
-
构建环境
依赖预装,断网可跑,镜像版本锁定。
-
双向校验
标准解必须通过,不改代码必须失败。
-
标定测试
分出修好才通过的测试和必须一直通过的测试;新增的测试对解题模型隐藏。
-
写题面
题面写到的需求和标准解改到的一一对应,不多不少。
-
采集轨迹
强模型在断网环境里独立运行,记录每一步;5 次至少过 1 次才算可解。
-
复验与质检
规则先把整批扫一遍,可疑的再交给模型复核。模型必须指出轨迹里具体哪一步、哪段输出有问题,指不出来的不算命中。
-
按格式交付
分批交付,每道题附质量校验记录。
从样例到持续供给
先小批量,再大批量。每一步都用你们自己的评测框架验收,再决定要不要往下走。
-
样例与数据说明
先给一批样例和数据说明:题目统计、难度分布、判分方式。
-
试点批
按你的格式和验收口径做一小批,你用自己的评测框架验收。
-
分批交付
按约定节奏分批交,每道题附质量校验记录。你们反馈的问题会写成自动检查,之后每一批都要先过这道检查。
-
持续供给
按各题型的日产能排期;题型、语言、难度、教师模型可以在批次之间调整。
产能按题型算:DeepSWE 风格每天 250 题,SWE-bench Pro 风格每天 300 题。按题计价,量和交付节奏写进合同。