［本站讯］近日，人工智能国际联合研究院（CFAIR）王峻教授团队在因果学习这一前沿研究课题上取得新进展。团队围绕异质网络因果结构发现、局部因果结构高效学习和强化因果结构学习的4个研究工作“Directed Acyclic Graph Learning on Attributed Heterogeneous Network”“Gradient-based Local Causal Structure Learning”“Reinforcement Causal Structure Learning on Order Graph”“Causal Discovery by Graph Attention Reinforcement Learning”分别发表在人工智能和数据挖掘领域主流期刊IEEE TKDE（中科院2区，IF=9.235）、IEEE TCYB（中科院1区Top，IF=19.118），主流会议AAAI2023（CCF A）、SDM2023（CCF B）上，第一作者和通讯作者单位均为山东大学。

图1 属性异质网络上因果结构学习方法框架图

“Directed Acyclic Graph Learning on Attributed Heterogeneous Network”聚焦在属性异质网络上学习满足因果关系的有向无环图（图1，DOI：10.1109/TKDE.2023.3266453）。有向无环图学习是因果发现的基础，但现有的因果学习算法普遍关注同构节点，并假设样本独立同分布，这些算法无法解决属性异质网络（由不同类型节点和属性组成且相互依赖）上的因果发现难题。为此，团队提出了HetDAG方法处理典型的属性异质网络数据。HetDAG首先嵌入不同类型的节点属性，并将这些嵌入聚合为节点的原始表示；然后，使用对比学习结合先验网络结构来探索节点之间的潜在关系并更新节点表示；在此基础上，引入基于注意力的有向图学习模块并确定节点之间的边方向。结果分析表明，HetDAG可以有效地学习有向无环图，并且优于现有主流方法。

图2 基于梯度的局部因果结构学习方法框架图

“Gradient-based Local Causal Structure Learning”聚焦局部因果结构发现（图2，DOI：10.1109/TCYB.2023.3237635）。现有局部因果结构学习算法建立在条件独立性测试的基础上，但噪声、多样化数据生成机制和有限的样本量等现实情况使得条件独立性测试不适用，算法准确性较差，存在一些无法定向的边。针对这些难题，团队提出了一种基于梯度的局部因果结构学习方法GraN-LCS。该方法首先为每个变量构建了一个多层感知器，以目标变量为中心同时拟合所有其他变量，并定义了局部无环约束和重构损失，以促进局部图的探索，找出目标变量的直接因果关系；为提高效率，利用初步邻域选择程序来得到因果骨架，并进一步结合特征选择技术，以减少候选变量的规模。结果分析表明该方法因果结构学习的性价比更高。

图3 基于强化学习的因果结构后验分布估计方法框架图

“Reinforcement Causal Structure Learning on Order Graph”聚焦从后验分布估计候选因果图（图3，DOI：10.48550/arXiv.2211.12151）。针对现有概率估计算法计算空间大、计算准确度低的难题，提出了基于强化学习的因果结构后验分布估计算法RCL-OG。该方法通过使用顺序图代替马尔可夫链，从而在更小规模的空间中建模不同的因果拓扑排序；为了提高概率估计的准确度，提出了一种针对顺序图的奖励机制，利用强化学习近似因果拓扑排序的后验分布；在此基础上，通过对学习到的后验分布模型进行采样获得高概率的因果结构。结果分析表明该方法可以有效地估计因果图的后验分布，并取得了比现有算法更高的效率和准确度。

图4 基于图注意力强化学习的因果发现方法框架图

“Causal Discovery by Graph Attention Reinforcement Learning”关注强化因果结构学习效能低的难题（图4，DOI：10.1137/1.9781611977653.ch4）。针对现有强化学习算法忽略先验知识、缺乏可解释性和效率不足等瓶颈，提出了基于图注意力强化学习的因果发现算法GARL。该方法使用初始邻域选择获取稀疏因果结构，并将其作为图注意力骨架使模型能够挖掘并融入先验知识；为解决搜索效率难题，提出一个单层循环因果拓扑排序生成模型，利用结构知识稳定高效地生成因果排序；在此基础上，利用剪枝技术生成最终的因果图。结果分析表明该方法生成的因果图精度和可解释性均优于现有同类方法。

上述研究工作由山东大学联合北京建筑大学、美国圣母大学和乔治梅森大学共同完成，得到了国家自然科学基金重点项目、面上项目、国家重点研发计划和山东大学齐鲁青年学者项目的资助。

IEEE TKDE是数据挖掘和知识发现领域的著名期刊，主要刊登知识发现和数据挖掘、数据库和数据建模、并行分布式数据管理系统等领域的最新研究进展和技术，为中国计算机学会（CCF）推荐的A类国际期刊，最新影响因子9.235。

IEEE TCYB是人工智能领域的顶级期刊之一，收稿范围包括智能控制、计算机视觉、图像处理、神经网络、机器学习、认知决策和机器人学等，为CCF推荐的B类国际期刊，最新影响因子19.118。

AAAI是人工智能领域著名会议之一，覆盖机器学习、计算机视觉、自然语言处理等众多研究方向，为CCF推荐的A类国际学术会议。

SDM是数据挖掘领域著名会议，涵盖了数据挖掘领域的多个研究方向，为CCF推荐的B类国际学术会议。