The viewer is disabled because this dataset repo requires arbitrary Python code execution. Please consider
removing the loading script and relying on automated data support (you can use convert_to_parquet from the datasets library). If this is not possible, please open a discussion for direct help.
Qwen3 Base OLMES Code / Code FIM GPU 参考结果
本数据集保存 Qwen3-0.6B-Base 和 Qwen3-8B-Base 在 CUDA GPU 上运行 OLMES OLMo3 Code 与 Code FIM 口径所得的完整参考结果。它主要用于与其他推理后端 (尤其是 Ascend NPU)进行 task 级和 sample 级配对分析,因此除聚合分外还保留了 raw requests、模型 completion、逐样本 executor 结果、环境快照和完整运行日志。
结果
下表所有分数均为原始 primary_score × 100。Code 遵循 OLMoBaseEval 的两级
宏平均口径:先分别平均 6 个 MultiPL-E HumanEval 和 6 个 MultiPL-E MBPP 语言,
再将两个 MultiPL-E 聚合项与 BigCodeBench、HumanEval、DeepSeek LeetCode、MBPP、
DS-1000 共 7 项等权平均。Code FIM 是 3 个 FIM 叶子任务的等权平均,两者不混合。
| Model | Code | Code FIM | BigCodeBench | HumanEval | DeepSeek LeetCode | MBPP | DS-1000 |
|---|---|---|---|---|---|---|---|
| Qwen3-0.6B-Base | 21.0958 | 0.6565 | 17.5965 | 30.1639 | 1.3889 | 37.0563 | 14.1000 |
| Qwen3-8B-Base | 47.9464 | 1.4853 | 49.2807 | 70.5602 | 8.0556 | 66.5750 | 41.2400 |
20 个叶子任务的完整横向结果位于 summary/results.csv。每个
任务目录中的 task-*-metrics.json 是权威原始分数,CSV 和本页均由这些文件汇总。
MultiPL-E 与 FIM 明细
| Model | HE C++ | HE Java | HE JS | HE PHP | HE Rust | HE Shell | MBPP C++ | MBPP Java | MBPP JS | MBPP PHP | MBPP Rust | MBPP Shell |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Qwen3-0.6B-Base | 23.6219 | 13.3900 | 28.2026 | 21.2539 | 13.8421 | 13.4098 | 35.1622 | 15.1312 | 40.6093 | 34.3278 | 25.4590 | 19.7808 |
| Qwen3-8B-Base | 60.8696 | 30.6764 | 62.9270 | 64.3245 | 60.6571 | 36.3133 | 61.5397 | 8.9054 | 60.4219 | 54.5261 | 58.4304 | 39.8887 |
| Model | MultiPL-E HumanEval | MultiPL-E MBPP | FIM Single | FIM Multi | FIM Random |
|---|---|---|---|---|---|
| Qwen3-0.6B-Base | 18.9534 | 28.4117 | 0.9681 | 0.5503 | 0.4512 |
| Qwen3-8B-Base | 52.6280 | 47.2854 | 2.4395 | 1.2726 | 0.7439 |
实验设置
两组模型采用相同评测口径,仅 GPU 和远程 executor 节点不同。
| 配置项 | 实际设置 |
|---|---|
| OLMES source commit | 2154027d0cdf497beaf02a7a73a72d8f58e8e542 |
| Python / PyTorch | Python 3.12.13 / PyTorch 2.8.0+cu128 |
| vLLM / Transformers | vLLM 0.11.0 / Transformers 4.57.6 |
| 模型模式 | Base、no-chat、BF16 |
| 模型参数 | max_length=8192, gpu_memory_utilization=0.85, tensor_parallel_size=1, trust_remote_code=false |
| OLMES 调度 | --gpus 1 --num-workers 1 --batch-size auto |
| 随机种子 | OLMES task 默认值 1234 |
| 结果保存 | --save-raw-requests true |
| GPU | 0.6B 使用物理 GPU 0;8B 使用物理 GPU 2;额外暴露 GPU 7 作为非零物理卡映射的 dummy device |
| Docker executor | 每个模型独占一个 32-CPU、约 64-GiB 的远程节点;容器限制为 32 CPU / 48 GiB |
任务与执行设置:
- BigCodeBench:
bigcodebench:3shot::olmo3:v2,5 completions,执行并发2/2,单次执行 timeout 120 秒; - HumanEval、DeepSeek LeetCode、MBPP 和 12 个 MultiPL-E:OLMo3
n32:v2alias,32 completions,执行并发14/14;显式覆盖的 MultiPL-E timeout 为 60 秒; - DS-1000:
ds1000:3shot::olmo3:v2,5 completions,执行并发1/1, timeout 120 秒; - Code FIM:
codex_humanevalfim_{single,multi,random}::olmo3,使用本地 evaluator,不连接远程 Docker; - sampling、stop sequence、prompt variant、few-shot 和 pass@k 均来自对应 OLMES
task alias,没有在脚本外另行改写。解析后的完整 task config 保存在每个
task-*-metrics.json中。
运行时间
两条 lane 并行运行。以下时间包含每阶段的模型重新加载、生成、远程执行、结果验证 和 vLLM 自然退出,时间戳为 UTC+8。
| Model | BigCodeBench | Code Rest | DS-1000 | Code FIM | 总耗时 |
|---|---|---|---|---|---|
| Qwen3-0.6B-Base | 01:27:47 | 01:46:08 | 00:42:37 | 00:10:00 | 04:06:32 |
| Qwen3-8B-Base | 01:31:53 | 01:45:48 | 00:47:01 | 00:10:26 | 04:15:08 |
机器可读版本见 summary/timings.csv。
完整性与异常审计
- 两个模型均生成了 17 个普通 Code 和 3 个 Code FIM 叶子结果,所有阶段的
metrics.json、metrics-all.jsonl与逐任务 metrics 均通过脚本校验; - Qwen3-8B-Base 的三个远程 executor 阶段没有检测到基础设施异常;
- Qwen3-0.6B-Base 的
multipl_e_mbpp:js有 2 个 completion 在调用远程容器时 timeout。审计 JSON 同时命中executor_timeout和docker_invocation_exception两种模式,因此计数显示为 2+2,但实际是同一组 2 次调用; - 该任务共有 397 道题、每题 32 个 completion,即 12,704 次执行。这 2 次异常 即使原本都应通过,对该叶子分数的最大影响也只有约 0.0157 分(×100);经 MultiPL-E MBPP 六语言平均和 Code 七项平均后,对顶层 Code 的最大影响约 0.000375 分,因此没有补跑;
- lane 日志开头可见少量
lane_exit=1:这是正式评测前采集旧uv环境依赖快照 时发现环境没有pip模块所致。该问题发生在模型加载和任务运行之前;改为使用 Python package metadata 采集后才启动正式评测,不影响任何结果。
机器可读审计摘要见 summary/executor_audit.csv,详细
上下文见各阶段日志和 executor_audit.json。
文件结构
README.md
summary/
results.csv
timings.csv
executor_audit.csv
scripts/
README.md
run_all.sh
status.sh
local.env.observed.sh
common/config.sh
common/run_lane.sh
qwen3_0p6b_base/run_01/
outputs/{bigcodebench,code_rest,ds1000,code_fim,metadata}/
logs/
state/
qwen3_8b_base/run_01/
outputs/{bigcodebench,code_rest,ds1000,code_fim,metadata}/
logs/
state/
SHA256SUMS
outputs 中包含:
task-*-requests.jsonl:送入模型的原始请求;task-*-predictions.jsonl:completion、拼接后的待执行代码和逐样本执行结果;task-*-metrics.json:任务配置、环境配置和任务级分数;metrics-all.jsonl/metrics.json:阶段聚合结果;executor_audit.json:远程执行器异常审计;metadata/:依赖版本、Git 状态、模型配置 hash、GPU 快照及远程 Docker server/image 信息。
复现
实际运行脚本原样保存在 scripts/。它们来自一次同时包含第三条 Qwen3.5 lane 的
总实验,因此 run_all.sh 会启动三条 lane;仅复现本数据集中的两个模型时,应分别
调用:
cd scripts
cp local.env.observed.sh local.env
# 按新机器修改 OLMES 环境、模型、GPU 和 CPU 节点路径,并提前配置 SSH key。
bash common/run_lane.sh qwen3_0p6b_base
bash common/run_lane.sh qwen3_8b_base
两条命令应放在独立 tmux 窗口中并行运行。脚本要求对应 OLMES 远程 Docker 适配
已经存在,且远程节点预装 olmo-bcb-execution、olmo-ds1000-execution 和
olmo-multipl-execution 镜像。具体脚本顺序、完成标记和恢复行为见
scripts/README.md。
跨后端对齐时不要只比较顶层均分:应先比较 task config、prompt/token IDs 和 completion,再检查 executor 结果。随机采样任务本身可能有轮次波动,因此小幅总分 差异不能单独证明推理后端不一致。
- Downloads last month
- 85