跳转至

Jev 每周回顾

Jev 把语言理解中的一类任务单独做成了接口:给定状态和问题,返回有限选项及其概率,让程序据此分类、路由或复核。它省去了生成完整答案的过程,但能否提高系统的效率,仍取决于判断是否准确、概率是否可信,以及下游是否正确使用结果。

这个专题持续关注 Jev 和相关 System One 决策模型的进展。每期覆盖周三至次周周二,最新一期放在前面,历史回顾保留当时的版本和结论。基础接口、部署边界与评估方法见 Jev System One 决策模型综述。

回顾目录

周期 本期重点
2026 年 9 月 30 日至 10 月 6 日 独立评测开始约束成本与校准宣传,社区应用转向具体工作流

2026 年 9 月 30 日至 10 月 6 日

本周最值得关注的进展是新增的独立研究,以及社区开始记录接入后的实际效果。官方模型页仍列出 jev-1.13.0;生态中出现的安全决策模型、视觉决策权重和 Agent 插件,分别属于研究或社区项目,不能合并理解为 Jev 的一次模型升级。官方模型页

官方模型与 SDK 状态

截至本期,官方公开信息如下。软件开发工具包(Software Development Kit,SDK)的版本与模型版本分别记录,客户端更新不代表服务端换了模型。

项目 当前状态 应用时需要注意
稳定模型 jev-1.13.0 已有决策阈值应绑定具体模型版本
浮动别名 jev-latest、jev-preview 均指向 1.13.0 官方当前没有单独的 Preview 模型
输入 文本,可组织成字符串、JSON 对象或文本数组 官方 Jev 不直接接收图片、音频或视频
上下文 请求总量 64K Token;状态加最长问题不超过 32K 多问题共享状态仍需满足两个预算
价格 输入每百万 Token 0.042 美元,输出免费 这是 Token 单价,完整任务还包含后处理与复核成本
公布限额 100K Token/s、80 请求/s 官方说明会动态调整,应处理限流并读取重试提示

规格及别名来自 TypeSafe 模型文档。生产系统应保存回包中的实际模型 ID;浮动别名变化后,原先调好的阈值未必仍适用。

官方 Python SDK 最新 Release 为 0.7.2,发布于 9 月 26 日,增加可选 HTTP/2 依赖与使用说明;JavaScript/TypeScript SDK 最新 Release 为 0.6.0,发布于 9 月 15 日。两者都是本期的版本基线,不属于本周新发布。Python SDK Releases、JavaScript SDK Releases

独立评测开始给出更具体的结论

10 月 5 日,Steven Denney 与 Matthew DiGiuseppe 发布预印本 JEV versus LLMs: Accuracy, Cost and Calibration on Seven Political Science Replications,比较 Jev、既有研究中的模型与人工标注,以及 GPT-6 Luna 和 Qwen3.8-27B。它的重要性在于把成本和概率校准放回了具体任务中,而不是只比较接口价格。论文

维度 论文报告的结果 怎样理解
任务能力 Jev 在多种任务中达到或接近两种对照模型 支持其用于部分文本标注任务,不能外推到所有 Agent 决策
成本 按 OpenAI Batch 价格计算,未发现相对 GPT-6 Luna 的成本优势 在线低延迟调用与离线批处理应分别比较
概率校准 单次提问时,优于 GPT-6 Luna 的 Token 概率,但未持续优于 Qwen3.8-27B 校准优势受任务与对照方式影响
使用便利 选项概率容易读取和解析 工程便利有价值,但不等于更高准确率

以上是这篇预印本在其研究设置下的结果。10 月 6 日的第二版只纠正了作者顺序的元数据,并非新增了一轮实验。论文版本记录

作为背景,9 月 29 日发表的 Evaluating and Benchmarking the System One Model Jev 覆盖 37 个数据集,使用 Jev 1.13.0 完成 346,009 次请求,报告费用低于 10 美元。对照模型在相同请求上读取候选答案的下一 Token 概率;Jev 在 27 个数据集上优于 Qwen3.8-27B,在全部 37 个数据集上优于 Gemma-4-E4B。论文

这项较早研究还给出了一个实用细节:二分类概率虽能较好排序,固定采用 0.5 阈值却可能表现不佳。在 UNFAIR-ToS 任务上,使用训练数据调整阈值后,micro-F1 从 0.50 提高到 0.75。micro-F1 是汇总全部类别的预测计数后计算的 F1 分数;这个变化说明“返回概率”与“可以直接按默认阈值执行”之间还有一步验证。同一论文

两篇研究采用不同任务、对照方式和计价口径。它们共同提醒我们:通用基准上的好成绩需要进一步落实到业务标签、错误成本和工作流中。用于即时路由时,等待时间可能比 API 费用重要;用于夜间批量标注时,批处理价格和人工返工量则更值得比较。

SecJev 探索领域专用的决策模型

10 月 2 日发表的 SecJev: Bringing Security Expertise to System One Decision Models 提出 0.8B 至 9B 的安全领域决策模型。它基于 Kev 的单次前向候选评分器,覆盖工具输出、流量、认证等场景,以 14 个任务、8 类来源构建训练与评估材料。这是一项 Jev-like 研究,不是对官方 Jev 权重的微调。SecJev 论文

作者报告,SecJev-0.8B 在其任务宏平均准确率上超过通用 Kev-9B 20.51 个百分点,但新流量采集条件下仍存在误报变化。这提示了值得继续验证的方向:将明确的安全策略与领域数据结合,小模型也可能完成有效判断;换一个来源或采集环境后,误报率仍需重新测量。SecJev 论文

对于安全工作流,平均准确率之外还要单独观察漏报、误报和人工复核量。模型可以辅助筛选事件或识别可疑输入,最终权限与执行范围仍应由确定性的策略控制。

社区生态开始覆盖实际工作流

下面记录截至本周的项目状态,不把仓库更新等同于正式版本发布。

项目 提供什么 适合关注的用途 当前边界
Spring AI TypeSafe Java 客户端与 Spring AI 集成,当前文档版本为 0.4.0 答案评判、内容检查、检索文档筛选、工具选择 社区集成;接通接口后仍需验证业务效果
DSH Jev Plugin DeepSeek Harness 的决策插件 技能与文件排序、任务检查、日志筛选 独立社区项目,12 项功能默认关闭;主模型继续规划与执行工具
Vev 基于 Qwen3.5 的 4B、9B 文本及视觉决策模型 自托管研究、界面状态判断、图像规则检查 研究预览;接口兼容不代表决策行为相同

Spring AI 的集成值得注意,因为它把判断放进了已有应用链路:检索后筛选材料,生成后检查标准,调用前筛选工具。0.4.0 的变更记录还修正了工具选择行为,避免用 Jev 判定为零概率的工具补满结果数量。这个细节反映了下游逻辑的重要性:模型排除了某个候选项,应用代码就应保留这个结果。Spring AI 变更记录

DSH 插件则把“返回判断”和“判断产生效果”分别记录。其文档明确区分答案、采纳、权限发放与执行结果,并披露过上下文裁剪影响判断的案例。这比仅记录 API 成功次数更有助于评估 Agent 集成;现有有限样例尚不足以推算自然任务的平均收益。插件说明与验证边界

Vev 的权重已经提供在 Hugging Face,包含 vev-4b 与 vev-9b,可用于研究本地的概率决策服务。需要特别区分许可证:代码采用 Apache-2.0,模型权重采用 CC BY-NC 4.0,仅限非商业使用。它支持图像并不意味着官方 Jev 增加了视觉能力,也不能据此将两者的概率和阈值直接互换。Vev 模型与许可说明

一个技能路由案例暴露了评估难点

jev-skill-router 作者公开了接入 Claude Code 后的一周观察。实验实际发生在 9 月 21 日至 28 日,使用日文提示词、52 至 66 个技能和 Jev 1.13.0;它属于本期讨论的较早案例。作者的实验记录

记录项 数量
判断次数 1,242
给出技能建议的次数 539
同一会话内 30 分钟内调用建议技能的次数 28
建议后出现对应调用的比例 约 5.2%

作者最终移除了这个路由器,转而采用步骤由 Python 固定的研究流水线,让 Jev 判断新论文或仓库是否相关,让生成模型负责写笔记。固定流程使一个判断对后续处理的影响更容易观察。项目说明

28/539 不能理解成模型只有 5.2% 的准确率。 实验默认处于 Shadow Mode,即只记录判断、不向主模型注入建议;“后来调用了同一技能”衡量的是行为对应关系。它没有证明建议导致了调用,也没有证明未调用的建议全部错误。

这个案例揭示了接入方式对评估的影响。自主 Agent 本来就在选择技能,增加一个建议者后,需要同时追踪建议内容、是否展示、是否采纳和最终任务结果。若只记录模型输出,很难判断增加的调用到底节省了时间,还是带来了更多干扰。

当前更适合从可衡量的判断开始

根据这些研究与案例,我更倾向于先选择输入稳定、候选项清晰、结果容易验证的环节。例如:

场景 Jev 负责的判断 应用保留的控制 主要观察指标
文档筛选 材料是否有助于回答问题 保留原始文档与检索结果,可回退到原流程 相关材料召回率、误删率、下游答案质量
工单路由 交给哪个处理组,是否不确定 低置信度转人工,不自动扩大权限 路由准确率、转人工率、返工次数
固定流程的结果检查 是否满足逐条验收条件 由测试或独立验证器确认完成 缺陷检出率、误拦截率、额外重试次数
Agent 技能或工具筛选 哪些候选项相关,是否均不适用 允许返回无匹配,保留回退路径 选择正确率、实际采纳率、任务成功率

试验时可先固定任务集、主模型、输入材料和超时预算,比较原流程与加入判断后的流程。一次正确的判断只是中间结果,最终仍要看任务成功率、总耗时、人工介入和费用是否改善。

成本也应按完整任务计算:决策 API、主模型调用、额外重试与人工复核均计入,再除以成功任务数。否则,便宜的判断接口可能因为增加误判和返工,让整条流程更贵。

下一期继续关注什么

  • 官方模型变化:稳定版与 Preview 是否分离,模型别名、价格、限额和语言能力是否变化。
  • 独立复测:中文与真实业务任务中的准确率、概率校准、错误类别,以及公平的成本和延迟对照。
  • 自托管生态:社区权重、商业使用许可和推理实现的变化,尤其是接口之外的能力与阈值差异。
  • Agent 应用结果:从接通和演示继续观察到采纳、任务成功、恢复与返工,区分模拟测试和真实服务测量。

后续每周在同一地址新增一期,继续保留历史结果。若已有结论需要修正,会在对应周次注明修正日期和原因,避免用新版本结果覆盖旧实验。