中心多项研究成果在机器学习顶会《Proceedings of the 43 st International Conference on Machine LearningICML2026)》在线发表


发布时间 | 2026年07月18日 文章来源 | 浏览次数 |


 

43届国际机器学习大会《Proceedings of the 43rd International Conference on Machine Learning(ICML 2026)76日至11日在韩国首尔举行。西南财经大学统计研究中心、统计与数据科学学院相关师生与新加坡国立大学、美国密歇根大学共同完成的多项研究成果被ICML 2026 录用并在线发表,包括一篇 Spotlight paper (top 2.2%)。相关成果覆盖视觉大语言模型幻觉、自适应域学习、跨域泛化理论、鲁棒优化等方向。具体介绍如下:

成果一:Mitigating Hallucinations in Large Vision-Language Models via Causal Route GatingSpotlightTop 2.2%

内容简介

大型视觉语言模型(LVLMs)在图像问答和视觉描述等任务中已展现出强大的多模态理解能力,但仍容易生成图像中并不存在或缺乏视觉证据支撑的内容,影响其在真实场景中的可靠应用。论文指出,这类幻觉并不只是输出层解码策略问题,而常源于注意力头内部的“文本路径”和“视觉路径”竞争:模型即使关注了视觉token,最终决策仍可能被语言先验主导。针对这一机制,论文提出无需额外训练的Causal Route GatingCRG)方法,将每个注意力头分解为视觉路径和文本路径,通过一次前向传播和一次梯度近似估计当前token的路径级因果效应,识别视觉证据与文本先验发生冲突且由文本路径主导的注意力头,并在解码阶段仅抑制其文本路径,保留视觉路径。实验在POPECHAIRMMEMMHal-BenchAMBER等基准及LLaVA-1.5Qwen-VL-ChatQwen2.5-VL等模型上验证,结果显示CRG能够稳定降低幻觉相关错误,并在整体多模态性能基本不受影响的情况下提升视觉忠实性。

作者简介:

程喆,西南财经大学统计与数据科学学院、统计研究中心25级统计学博士研究生,主要从事因果分析、多模态大语言模型和大模型优化理论等领域的研究。

陈文钰(共同一作),西南财经大学统计与数据科学学院、统计研究中心24级统计学硕士研究生,主要从事因果分析、多模态大模型和域泛化等领域的研究。

张佛德(通讯作者),现任西南财经大学统计与数据科学学院、统计研究中心教授、博士生导师,主要从事统计机器学习、多模态大模型、迁移学习、因果推断等领域的研究。

沈德寰,新加坡国立大学硕士研究生。主要从事大语言模型,AI4Science,以及计算生物学等领域的研究。

论文链接:https://icml.cc/virtual/2026/poster/64646


成果二:Domain Adaptation with Adaptive f-Divergence: Tighter Variational Representation and Generalization Bounds

内容简介

无监督域自适应旨在利用有标签源域和无标签目标域训练能够跨分布泛化的模型,关键在于准确衡量源域与目标域之间的分布差异。现有方法通常预先固定某一种f -散度(如KL、χ²或Jensen-Shannon),难以适配协变量偏移、标签偏移等不同类型的分布变化。论文提出自适应f -散度域自适应框架:一方面在f -散度变分表示中引入可学习的单调L-Lipschitz变换τ,形成更紧的Tighter-VR表示;另一方面利用基于似然的准则从数据中自适应选择散度族,使差异度量随任务和数据特征调整。理论上,论文给出由变换后源风险、Tighter-VR域间差异和理想假设残差组成的目标风险界,并进一步从Rademacher复杂度、覆盖数和VC维等角度推导有限样本保证。实验在Office-31Office-HomeDigitsVisDA-2017DomainNet上验证了方法有效性,Affine版本在主要基准上均优于f -DALf -DD等强基线,说明更紧的变分表示与自适应散度选择能够稳定提升跨域泛化表现。

作者简介:

程喆,西南财经大学统计与数据科学学院、统计研究中心25级统计学博士研究生,主要从事因果分析、多模态大语言模型和大模型优化理论等领域的研究。

张佛德(通讯作者),现任西南财经大学统计与数据科学学院、统计研究中心教授、博士生导师,主要从事统计机器学习、深度学习、迁移学习、因果分析和可靠性统计等领域的研究。

朱一凡,西南财经大学统计与数据科学学院、统计研究中心22级统计学博士研究生,主要从事因果分析、迁移学习、对比学习与工业系统健康管理等领域的研究。

王凌锐,西南财经大学统计与数据科学学院、统计研究中心24级统计学博士研究生,主要从事分布式估计和非欧数据的研究。

王蛟龙,西南财经大学统计与数据科学学院、统计研究中心23级统计学博士研究生,主要从事深度学习、多模态大模型和鲁棒优化的研究。

论文链接:https://icml.cc/virtual/2026/poster/63396


成果三:Scalable and Stable Estimation of Amari Alpha-Divergence using Random Fourier Features

内容简介:

在变分推断中,Amari Alpha-散度的估计非常重要,但基于经典方法的估计量往往不稳定。我们提出了一种新的估计方法,通过将评判器限制在再生核希尔伯特空间(RKHS)球内,并通过随机傅里叶特征(RFF)来近似核函数。这个方法生成了一个线性时间的目标,可以使用小批量随机优化,同时避免了Gram矩阵方法的三次复杂度。我们基于四项误差分解,包括RKHS近似、特征离散化、统计偏差和优化残差,进行了误差界分析。研究结论显示,统计非退化会产生固有的局部曲率,使得我们提出的Armijo-SGD能够实现局部线性收敛。实验表明,我们提出的估计在稳定性上优于多种基准方法。

作者简介:

王蛟龙,西南财经大学统计与数据科学学院、统计研究中心23级统计学博士研究生,主要从事深度学习、多模态大模型、域泛化和鲁棒优化的研究。

王凌锐,西南财经大学统计与数据科学学院、统计研究中心24级统计学博士研究生,主要从事分布式估计和非欧数据的研究。

张佛德(通讯作者),现任西南财经大学统计与数据科学学院、统计研究中心教授、博士生导师,主要从事统计机器学习、多模态大模型、迁移学习、因果推断等领域的研究。

论文链接:https://icml.cc/virtual/2026/poster/62399


成果四 Online Learning and Inference for Cox Proportional Hazards Models Using Renewable Sieve Estimation(基于可更新筛估计的Cox比例风险模型在线学习与统计推断)

  内容简介

Cox比例风险模型的偏似然不能按数据批次直接分解,因为每个事件时点的风险集都需要由全部符合条件的个体共同构成。因此,在数据持续分批到达时,常规方法往往需要保存并重新读取历史个体数据;仅用当前批次近似全局风险集,又可能损害估计效率和统计推断的准确性。为解决这一问题,论文提出Cox比例风险模型的在线学习与推断框架COLSACOLSA利用Bernstein多项式对未知的对数基准风险函数进行筛逼近,以可按批次累加的全似然替代不可分解的Cox偏似然。每批新数据到达后,算法仅结合当前批次数据与既往批次保留的汇总统计量更新参数,无需保存历史原始数据,也无需重新构造全局风险集。针对累计样本量不断增加、筛空间维数需要相应扩大的难题,论文设计了由“渐进激活”和“预估计”组成的两阶段更新机制:一方面将既有参数估计和曲率汇总信息投影到当前基函数空间,另一方面提前维护更高阶Bernstein基函数空间中的曲率汇总信息,为后续扩维作准备。理论结果表明,COLSA估计量具有一致性和渐近正态性,并能达到集中处理全部历史数据时Cox偏似然估计量的统计效率。模拟研究、肾移植数据和TCGA泛癌基因表达数据分析进一步显示,COLSA的估计与推断结果接近全数据分析,并优于现有在线生存分析方法。该研究为流式与联邦生存分析提供了兼顾计算效率和有效统计推断的新方法。

  作者简介

Mengtong Hu,美国密歇根大学生物统计学博士,现任Meta数据科学家。博士阶段主要从事分布式临床数据分析、健康数据科学和因果推断研究。

龚梓阳,西南财经大学统计与数据科学学院、统计研究中心2023级统计学博士研究生,指导教师为周岭教授,主要从事生存分析,以及面向分布式和隐私保护场景的联邦学习与迁移学习研究。

Xu Shi,美国密歇根大学公共卫生学院生物统计系副教授,主要从事电子健康记录分析、因果推断、数据整合和半参数统计方法等领域的研究。

周岭,西南财经大学统计与数据科学学院、统计研究中心教授、博士生导师,主要从事非参数统计、转换模型、高维数据分析、纵向数据分析、大数据整合和亚组分析等领域的研究。

Peter X. K. Song(通讯作者),美国密歇根大学公共卫生学院生物统计系教授(Pharmacia Research Professor),主要从事数据整合、分布式统计推断、高维数据分析、纵向数据分析及生物医学统计等领域的研究。

  论文链接:https://icml.cc/virtual/2026/poster/63772


下一条:中心研究成果在应用统计学顶级期刊《The Annals of Applied Statistics》正式发表