SII-LWY
Replace dataset with consolidated stellarator release
76c28aa
|
Raw History Blame Contribute Delete
7.09 kB

SII 仿星器构型数据集:合并后的统一格式

格式版本:stellarator-1.1。本文描述新生成的离线导出,不代表 Hugging Face 上的数据集已经替换。具体数量查看本次导出的 report.json,来源清单查看 inventory.json。上传和来源许可证审查是另外的步骤。

一行一个构型

主数据在 main/*.parquet,包含成功评估的可行与不可行点,以及明确标注状态未知的部分评估。failed/*.parquet 存储边界可识别的明确求解失败记录。两者不是训练/测试划分;英文卡片中的 HF train 只是加载命名,没有定义留出测试集。

NFP 和傅里叶系数数值相同的构型,在两部分中合计只保留一条。优先成功,其次状态未知,最后失败;然后优先有限指标更多的记录,最后按固定来源顺序选择。不把重复评估当作不同样本,也不拿另一条评估的指标补齐当前记录。

边界格式

列名 类型 含义
configuration_id string 规范化 NFP、模态网格和 float64 系数的 SHA-256
schema_version string stellarator-1.1
boundary.n_field_periods int64 正整数 NFP;NFP 不同视为不同构型
boundary.r_cos list[list[float64]] 径向余弦系数,通常为 5 行 9 列
boundary.z_sin list[list[float64]] 竖直方向正弦系数,与 r_cos 形状相同

对于 (M, 2N+1) 矩阵,行对应极向模态 m=0..M-1,列对应环向编号 n=-N..N。通常为 5 行 9 列,DP 还使用 8 行 15 列。按来源约定,r_cos[0, n<0] 和 z_sin[0, n<=0] 必须为零。只表示仿星器对称边界;非零 r_sin、z_cos 会拒收,不会静默丢弃。

不按大半径缩放系数,也不做模型特征标准化。已识别的较小、居中的奇数列矩阵补零到至少 5 行 9 列;更大的矩阵保留所有系数,并标记 higher_fourier_modes_preserved。长度 45 的向量按行重排。负零统一为零,其他 float64 数值精确保留,不用容差或四舍五入去重。

标准 5×9 网格的 ID 计算顺序为:小端 int64 NFP,随后按行展开的 r_cos,再随后按行展开的 z_sin,即 struct.pack('<q90d', ...)。因此 JSON 排版不同、等价的补零到标准网格不会制造重复构型。较大网格使用前缀 b'higher-modes\x00',再接 NFP/int64、行数/int32、列数/int32,以及相同顺序的所有系数。不会为了匹配标准网格而四舍五入或丢弃高阶系数。

九项物理指标

均为可空 float64。null 表示未提供或非有限数值,不表示零。

列名 含义 / 旧池字段
metrics.aspect_ratio 展弦比 / aspect_ratio
metrics.edge_rotational_transform_over_n_field_periods 边缘旋转变换除以 NFP / iota_nfp
metrics.average_triangularity 平均三角度 / triangularity
metrics.max_elongation 最大伸长度 / elongation
metrics.edge_magnetic_mirror_ratio 边缘磁镜比 / mirror
metrics.vacuum_well 真空磁阱 / vac_well
metrics.minimum_normalized_magnetic_gradient_scale_length L_delta_b / l_delta_b
metrics.qi QI 诊断值,不是 log10(QI)
metrics.flux_compression_in_regions_of_bad_curvature 不利曲率区磁通压缩 / flux_comp

保留来源的指标约定。原本带符号的 iota 不取绝对值;旧 BO 已丢失符号的数据保留绝对值并标注。其 qi_log10 用 10**value 反变换,标记 qi_reconstructed_from_log10,无法恢复历史截断之前的值。不用预测值、当前约束分数或新算的物理值冒充缺失诊断。

评估、来源和质量

列名 类型 / 解释
evaluation.success 可空 bool;null 表示无法确认原始状态
evaluation.error 可空 string;原始报错或明确的原始前向模型失败标记
evaluation.fidelity 可空 string;仅使用记录中已有精度
evaluation.solver_version 可空 string;优先已有执行版本,否则使用已有配置版本
evaluation.feasibility 可空 float64;来源分数,不代表统一可行性定义
source.name 导入器选定的来源类别
source.path 相对来源文件路径,不包含本机根目录
source.record Parquet 从 0 开始的行号;JSONL 从 1 开始的行号;嵌套记录附加位置路径
quality.iota_representation signed、absolute_only 或 unknown
quality.metric_count 九项指标中有限值的数量
quality.flags 指标变换、无效值、状态推断等标记列表

缺失的求解器版本、精度和时间不从当前代码倒推填写。根据池的已有过滤规则推断成功时标记 success_inferred_from_source;完整但没有状态字段的历史指标可以标记 success_inferred_from_complete_metrics。状态不明的残缺记录标记 evaluation_status_unknown。无效标量指标标记 nonfinite_or_invalid:<metric>。iota 约定为 unknown 不代表符号一定被保留。指标齐全也不等于求解精度一致或物理约束可行。

读取与筛选

带 higher_fourier_modes_preserved 的数据需要下游模型支持变长模态网格。legacy_boundary_text_precision 表示 ExLLM 将边界存为打印后的近似数字,无法恢复丢失的小数位。DP 保留约束原值,但不假定其缩放目标就是原始 L_delta_b,并标记 scaled_target_not_used_as_raw_ldb。

import pyarrow.dataset as ds

data = ds.dataset('main', format='parquet')
complete = data.to_table(filter=(ds.field('quality.metric_count') == 9)
                         & (ds.field('evaluation.success') == True))
# 仅选原来的 12 列,兼容已有下游程序。
core = complete.select([name for name in complete.column_names
                        if name.startswith(('boundary.', 'metrics.'))])

训练带符号 iota 时,还应要求 quality.iota_representation == 'signed'。只研究原始 QI 时,应排除带重建标记的记录。failed 用于失败分析,不能把缺失物理指标当作零标签。不能保证统一的 feasibility <= 某阈值 在所有来源中都成立。

覆盖与发布前检查

当前适配原始及清洗 Parquet、历代及当前优化池/CMA/sBO、早期 BO、传统 AL 最终结果、DP SQLite/NPZ 评估、ExLLM 已保存的测量,以及 FusionLeague QI/QI-frontier 评估。排除榜单参考、quadratic 测试、代理预测、仅潜变量的点,以及不透明的二进制模型或优化器状态。未支持的格式不冒充物理标签。

各源文件分别读取有边界的快照,不是全局同时冻结。损坏或不可用的记录在 quarantine.jsonl 定位,不虚构数据;保留源文件供追查。report.json 包含重复数、缺失指标、最终保留来源分布、读取统计和分片校验和。发布前需检查这些报告,并审查跨来源科学可比性与许可证;本导出不授予新的数据使用权限。