当前位置:首页 > 知识 > 四川大学等联合研究:不需要标准答案,AI视觉推理也能越来越强 正文

四川大学等联合研究:不需要标准答案,AI视觉推理也能越来越强

来源:华贸商城资讯网   作者:娱乐   时间:2026-07-17 04:21:29

由四川大学牵头,联合联合西安交通大学、研究也中国电信TeleAI及北京大学共同完成的不需标准研究成果,以预印本形式于2026年6月发布,答案论文编号为 arXiv:2606.25319。视觉感兴趣的推理研究者可通过该编号在arXiv平台获取完整论文。

长期以来,联合教会AI“看图说话”相对容易,研究也但让其真正掌握“看哪里”却极具挑战。不需标准例如,答案面对复杂街景询问“右下角路牌内容”时,视觉用户期望AI能精准聚焦关键细节,推理而非模糊扫描全图。联合这种能力被称为细粒度视觉推理(Fine-grained Visual Reasoning),研究也即让AI在海量视觉信息中精准定位关键线索,不需标准而非进行笼统的整体理解。

然而,现有主流方法在实现这一能力时面临巨大瓶颈:
1. 有监督微调(SFT):依赖海量带标准答案的图文数据,标注成本高昂,且易导致“灾难性遗忘”,即AI在学习新知识时遗忘原有能力。
2. 强化学习(RL):虽灵活性高,但需预设奖惩规则,且训练过程消耗惊人(需数天GPU算力)。

针对上述局限,研究团队提出了核心问题:能否在不依赖大量标准答案标注、不耗费巨额计算资源的前提下,切实提升AI的视觉推理能力?答案即是本文主角——V-Zero框架

一、核心机制:从“老师教学生”到“在线蒸馏”

理解V-Zero的关键在于其基础训练范式——在策略蒸馏(On-Policy Distillation, OPD)。

1. 传统范式 vs. OPD范式

  • 有监督微调:如同让学生死记硬背范文,缺乏灵活性。
  • 强化学习:如同布置题目后给予奖惩,规则设计复杂且资源消耗大。
  • 在策略蒸馏(OPD):学生先自行生成内容,老师针对学生实际生成的内容进行逐句指导。老师的反馈基于学生的真实思路,既精准又高效,且能保护学生原有能力不被破坏。

2. 理论本质:无负例的停梯度对齐

研究团队指出,OPD本质上是“无负例的停梯度对齐”
* 停梯度:老师模型作为固定参照,不参与梯度更新,不受学生影响。
* 无负例:训练目标仅让学生向老师靠拢,没有明确的“反面案例”来指示错误路径。

这一特性虽保证了指导的针对性,但也埋下了隐患。

二、关键缺陷:缺乏“轨迹级”判别能力

回到写作类比:如果学生在第二段就偏离主题(如将“交通安全”写成“旅游攻略”),老师虽能逐句润色,却无法从宏观上纠正“方向性错误”。

这就是标准OPD的核心局限:缺乏轨迹级别的判别能力。在视觉推理中,若AI初始注意力未聚焦关键区域,后续推理即便流畅,最终结果仍可能错误,而老师模型难以指出“整条思路因看错地方而无效”。

V-Zero的设计正是为了填补这一漏洞。

三、创新方案:正负证据对比,量化推理质量

V-Zero通过引入“正面图”与“反面图”的对比机制,判断AI推理是否依赖了正确的视觉信息。

1. 三类视觉输入

每道题准备三种视觉输入:
1. 完整原图:学生模型生成推理的标准输入。
2. 正向证据视图:裁剪出与问题直接相关的区域(如路牌特写)。
3. 负向证据视图:将原图缩小后,从无关区域随机截取同等大小图片。

2. 对比证据门控(Contrastive Evidence Gating)

  • 过程:学生基于原图生成推理,老师分别在“正向”和“负向”视觉条件下评估推理步骤的可信度。
  • 判定:若老师在“正向证据”下的预测概率显著高于“负向证据”,说明推理依赖了正确视觉信息,质量高;反之则存疑。
  • 兄弟推理:每道题生成多条并行推理链路(如8条),计算每条链路的证据差值并归一化,确定相对优势。

3. 加权蒸馏

  • 高权重:证据优势高的链路获得更大权重,老师重点引导。
  • 低权重:证据优势低的链路权重降低,防止错误积累。
  • 学习目标:仅以“正向证据”老师为指引,负向视图仅用于打分,不参与最终学习。

优势:无需人工标注文字答案,仅需低成本的关键区域视觉标注(Bounding Box)。

四、训练流程:高效流水线

V-Zero的训练算法执行流程如下:

  1. 数据采样:从数据集中取出一批题目,学生模型基于原图生成一组推理答案。
  2. 证据生成:利用预存的关键区域生成正向证据,随机采样生成负向证据。
  3. 分数计算
  4. 计算老师模型在正/负证据条件下对推理内容的词级预测概率差值。
  5. 对整条链路求平均,得到“证据分数”。
  6. 组内归一化得到“证据优势值”,经截断操作转化为0-2之间的非负权重。
  7. 参数更新:以权重对正向蒸馏损失进行加权平均,通过梯度下降更新学生模型。
  8. 迭代:重复上述过程,通常训练60步即可收敛。

推理阶段:学生模型仅接收完整原图和问题,无需任何额外操作或外部工具,所有“看局部”的能力已内化至模型参数中。

五、实验结果:性能与效率的双重突破

研究团队基于阿里巴巴Qwen3.5系列模型(学生:4B,教师:27B)在多个基准测试中评估V-Zero。

1. 性能提升

相比Qwen3.5-4B基础模型,V-Zero在以下测试集上显著提升:
* VStar:+4.7%
* HR-4K(4K图像理解):+3.4%
* HR-8K(8K图像理解):+2.5%
* ZoomBench(小目标定位):+5.6%
* 平均分:从75.3提升至79.2(增幅>3%)

2. 对比SOTA方法

  • vs. 强化学习方法(DeepEyes, Pixel Reasoner, Thyme等,7B参数):V-Zero(4B参数)在HR-4K/HR-8K等测试中成绩均优于这些更大参数的RL优化模型。
  • vs. 有监督微调方法(ZwZ,4B参数):
  • HR-4K:V-Zero (87.8) > ZwZ (82.1)
  • HR-8K:V-Zero (82.6) > ZwZ (79.6)
  • ZoomBench:V-Zero (57.8) > ZwZ (52.5)
  • MMStar(泛化能力):V-Zero (74.4) > ZwZ (71.1),证明未牺牲通用理解能力。

3. 训练效率

  • V-Zero:8块RTX PRO 6000显卡,耗时约4.8小时
  • ZwZ:8块H100显卡,耗时约1天
  • DeepEyes:耗时约2天
  • 结论:考虑到硬件算力差异,V-Zero比SFT快5倍以上,比RL快10倍以上。

六、消融实验:验证设计必要性

研究团队通过对照实验验证了V-Zero各组件的有效性:

  1. 证据门控机制
  2. 去掉门控:平均分降至78.0。
  3. 用随机证据替代:平均分大幅降至72.5(甚至低于无门控)。
  4. 结论:有意义的正负对比至关重要,随机噪声会损害学习效果。
  5. 教师模型规模
  6. 27B教师优于9B教师,尤其在HR-4K和ZoomBench上优势明显,证明高质量引导的重要性。
  7. 并行推理链路数量
  8. 从4条增至8条,平均分从78.1提升至79.2,ZoomBench提升显著(54.1→57.7)。
  9. 结论:更多链路提供更充分的对比依据,利于小目标定位。
  10. 训练步数
  11. 第60步达到峰值(79.2),第70步略有下滑(77.8)。
  12. 结论:不同子任务存在权衡,需寻找最佳训练时长。

七、可视化分析:AI真的“看对”了吗?

注意力可视化结果显示,V-Zero切实改变了模型的视觉聚焦方式:
* 海报文字识别:DeepEyes和ZwZ未能有效聚焦,V-Zero激活强度更高,定位更准确。
* 限速路牌识别:V-Zero在路牌区域产生最强注意力激活。
* 多目标定位(卡车与电车):V-Zero是唯一能同时清晰定位两个目标的方法,其他方法往往顾此失彼。

八、总结与展望

V-Zero的核心贡献在于:仅凭“关键区域”这一视觉信号,无需文字答案,即可教会AI在视觉推理中“看对地方”。

实际价值

  1. 降低标注成本:只需绘制关键区域边框,无需逐题撰写文字答案。
  2. 保持通用能力:未出现“灾难性遗忘”,通用理解能力(MMStar)反而提升。
  3. 极高训练效率:不到5小时完成训练,适合快速迭代。

局限性

  1. 依赖视觉标注:仍需关键区域标注,完全无监督仍是开放问题。
  2. 教师模型依赖:当前需27B教师模型,未来需探索更小教师模型的可行性。

感兴趣者可访问 arXiv:2606.25319查阅论文,代码及数据集将在GitHub公开。


Q&A

Q1:V-Zero训练时需要准备什么数据?
A:无需文字答案。仅需准备:原图、对应问题、以及标注关键区域的边框(Bounding Box)。系统会自动裁剪正向证据(关键区域)和负向证据(随机无关区域)。推理时仅使用原图。

Q2:V-Zero和强化学习方法相比优势在哪里?
A:
1. 速度:V-Zero约4.8小时,DeepEyes等RL方法需约2天,速度快10倍以上。
2. 规则设计:RL需预设复杂的对错规则,难以适用于开放性问题;V-Zero通过正负视觉对比自动评估推理质量,无需预设答案验证规则。

Q3:V-Zero提升视觉推理能力会不会影响模型的其他能力?
A:不会。实验显示,V-Zero在MMStar通用多模态测试中得分(74.4)高于基础模型(71.8),表明视觉推理能力的提升伴随通用理解能力的改善,未出现“灾难性遗忘”。

标签:

责任编辑:知识