Skip to content

fix: 数据处理状态&数据评估 - #537

Merged
hhhhsc701 merged 2 commits into
mainfrom
fix/eval_proc
Nov 3, 2026
Merged

hhhhsc701 merged 2 commits into
mainfrom
fix/eval_proc

Conversation

@MoeexT

@MoeexT MoeexT commented Nov 3, 2026

Copy link
Copy Markdown
Contributor

No description provided.

- 数据项缺少 input 等字段时不再抛 TypeError,prompt 渲染统一转换为文本
- 单条评估失败记为 FAILED,全部失败时任务置为 FAILED 并返回 evaluation.0005
- 没有可评估数据项时报 evaluation.0004,避免进度 100% 但结果为空
- COT 校验只要求 instruction/output,JSON 单对象和 JSONL 空行可正常解析
- evaluate_item 不再自行 commit,避免并发协程共用会话时互相干扰
轮询拿不到结论(runtime 不可达、返回 NOT_FOUND 或异常响应)时保持 RUNNING,只有持续超时才兜底置 FAILED:默认 7200s,可用 CLEANING_POLL_ORPHAN_TIMEOUT_SECONDS 覆盖。此前一次 60s 超时就判失败,而数据面稍后才写入成功终态,于是出现先失败、过一会儿又变成功的现象。

每轮轮询先回读数据库终态,数据面已写入终态时不再覆盖;写入终态改为带状态条件的更新,保证幂等。状态查询单独设置 10s 超时,不再沿用提交任务的 60s 超时。

另外禁止重复提交运行中的任务,避免起第二个 Ray Job 并产生重复清洗结果;需要重跑时先停止任务。

新增 test_module_cleaning_scheduler.py 与 test_module_cleaning_service.py 覆盖上述行为。
@hhhhsc701
hhhhsc701 merged commit 485f59f into main Nov 3, 2026
8 checks passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants