Type Safe
第三方研究第三方预印本

Jev 算术拒绝瓶颈研究

一篇第三方预印本,报告当算术题选项中缺少正确答案时,Jev 的拒绝行为明显下降。

该研究使用成对算术选项,比较正确答案存在和缺失两种条件。页面整理作者报告的结果和边界,不声称已经识别模型内部机制。

发布方
arXiv
发布或提交日期
2026年9月30日
最近核验
2026年10月8日

Type Safe 仅整理来源和证据边界,不把提供方数据或第三方预印本转换为独立排行榜。

关键事实

证据类型
第三方预印本
研究设计
成对算术选项
模型访问方式
托管 API

任务与范围

通过 Jev 托管 API 评测成对的合成算术决策选项。

论文作者

Jike Zhong, Ming Li, Yuxiang Lai

论文报告结果

  • 论文报告,在主要算术设置中,正确答案存在时选择正确选项的比例为 99%,正确答案缺失时的拒绝比例为 7%。
  • 布尔核验条件下,论文报告的准确率为 99%。
  • 论文报告的置信度阈值在正确答案缺失时达到 79% 拒绝率,同时保留 97% 的正确答案存在案例。

代码与数据可用性 · 代码

截至 2026-10-08,未核验到公开代码仓库。

代码与数据可用性 · 数据

截至 2026-10-08,未核验到可单独下载的数据集。

方法与使用方式

  • 作者将算术题配对,分别提供包含正确答案和缺少正确答案的选项。
  • 研究另设布尔核验任务,检查模型能否判断一个给定算术答案是否正确。
  • 置信度阈值分析用于测试对报告输出设置弃权规则的可能效果。

限制与证据边界

  • 任务由合成算术选项构成,不能代表更广泛的生产决策场景。
  • 研究观察的是托管 API,无法据此确定所报告行为的模型内部机制。
  • 截至核验日期,未找到可独立核验的公开代码或数据集产物。

主要来源

相关页面