贝叶斯网络 (Bayesian Network)

定义

贝叶斯网络(Bayesian Network)是一种有向无环图(DAG)结构的概率图模型:节点表示随机变量,有向边表示条件依赖,每个节点附带给定父节点时的条件概率表。整个联合分布可分解为各节点条件概率的乘积,从而大幅压缩参数量。该框架由 Judea Pearl 在 1980 年代系统建立,Pearl 因此获得 2011 年图灵奖。

推断与学习

推断任务是在观测部分变量后计算其余变量的后验概率,精确方法有变量消元、联结树算法,近似方法有吉布斯采样、变分推断;学习包括参数学习(极大似然或贝叶斯估计)与更困难的结构学习。

应用

贝叶斯网络适合表达领域知识与数据结合的场景,经典应用包括医疗诊断、故障诊断、垃圾邮件过滤,朴素贝叶斯分类器即其最简单的特例。

意义

它是因果推断研究的前身,Pearl 后续的因果图理论正是在此基础上发展而来。