概率图模型(probabilistic graphical model)是一类用图来表达变量相关关系的概率模型.它以图为表示工具,最常见的是用一个结点表示一个或一组随机变量,结点之间的边表示变量间的概率相关关系,即“变量关系图”.根据边的性质不同,概率图模型可大致分为两类:
第一类是使用有向无环图表示变量间的依赖关系,称为有向图模型或贝叶斯网(Bayesian network);
第二类是使用无向图表示变量间的相关关系,称为无向图模型或马尔可夫网(Markovnetwork)
有向图模型
隐马尔科夫模型
结构最简单的动态贝叶斯网
马尔可夫链(Markov chain):系统下一时刻的状态仅有当前状态决定,不依赖以往的任何状态。
隐马尔科夫模型的三要素
初始状态的概率分布Π、状态转移矩阵A、观测概率矩阵B
举例
应用:
案例:癫痫发作预测
结合深度学习
- 输入数据:
EEG脑电信号,每秒钟采样128次,提取5个频段能量特征(n_features=5
),时间窗口设为10秒(window_size=10
)。 - HMM设定:
- 隐状态:
["正常", "前期", "发作"]
(3个状态) - 观测值:EEG特征通过LSTM生成的
n_emissions=20
种离散化区间。
- 隐状态:
- 工作流程:
- LSTM编码:将10秒内的EEG特征(10×5矩阵)编码为32维向量。
- 概率生成:输出20个区间的概率分布,例如
[0.01, 0.1, 0.8, ..., 0.02]
。 - HMM解码:结合状态转移矩阵,使用Viterbi算法推断最可能的隐状态序列。
无向图模型
无向图与马尔可夫性
马尔科夫随机场
无向图生成式模型
条件随机场
无向图判别式模型
应用:词性标注 基因预测 对象检测