隐马尔可夫模型 · 机器学习 POD

从序列到隐状态

之前讨论的分类和回归问题，输入输出都是"一个点"。但很多真实问题是序列——语音是一串音频帧，句子是一串词，股价是一串数值。更关键的是：我们观测到的序列背后，往往有一个看不见的状态序列在驱动。

举个经典例子：你住在一个没有窗户的地下室，每天只能看到朋友的活动——散步、购物、打扫。你想推断外面的天气是晴、多云还是下雨。你看不到天气（隐状态），只能看到活动（观测），但你知道天气会影响活动选择，而且今天的天气和昨天有关。

这就是**隐马尔可夫模型（Hidden Markov Model, HMM）**的基本设定。

形式化定义

HMM 由三组参数 $\lambda = (A, B, \pi)$ 完全确定：

状态集合 $S = \{s_1, s_2, \dots, s_N\}$ ：所有可能的隐状态。在天气例子里 $N = 3$ （晴、云、雨）。

观测集合 $O = \{o_1, o_2, \dots, o_M\}$ ：所有可能的观测值。 $M = 3$ （散步、购物、打扫）。

初始概率向量 $\pi$ ： $\pi_i = P(q_1 = s_i)$ ，第一个时刻处于状态 $s_i$ 的概率。

\pi = (0.6, 0.3, 0.1) \quad \text{（晴天开局的概率最大）}

状态转移矩阵 $A$ ： $a_{ij} = P(q_{t+1} = s_j \mid q_t = s_i)$ ，从状态 $i$ 转到状态 $j$ 的概率。

A = \begin{pmatrix} 0.7 & 0.2 & 0.1 \\ 0.3 & 0.4 & 0.3 \\ 0.2 & 0.3 & 0.5 \end{pmatrix}

第一行表示"今天晴 → 明天晴 0.7、明天云 0.2、明天雨 0.1"。每行的和为 1。

观测概率矩阵 $B$ ： $b_i(k) = P(o_t = v_k \mid q_t = s_i)$ ，在状态 $i$ 下观测到 $v_k$ 的概率。

B = \begin{pmatrix} 0.6 & 0.3 & 0.1 \\ 0.3 & 0.4 & 0.3 \\ 0.1 & 0.3 & 0.6 \end{pmatrix}

晴天大概率散步，雨天大概率打扫——符合直觉。

两个关键假设

HMM 的整个数学推导依赖两条简化假设：

齐次马尔可夫假设：当前状态只依赖前一个状态，与更早的历史无关。

P(q_t \mid q_{t-1}, q_{t-2}, \dots, q_1) = P(q_t \mid q_{t-1})

观测独立假设：当前观测只依赖当前状态，与其他时刻的状态和观测无关。

P(o_t \mid q_t, q_{t-1}, \dots, o_{t-1}, \dots) = P(o_t \mid q_t)

这两个假设很强——现实中未必成立（比如天气可能受前几天的影响），但它们让计算变得可行。放松这些假设的模型就是条件随机场。

三个基本问题

HMM 的全部理论围绕三个问题展开：

问题 1：概率计算（Evaluation）

给定模型 $\lambda = (A, B, \pi)$ 和观测序列 $O = (o_1, o_2, \dots, o_T)$ ，计算这个观测序列出现的概率 $P(O \mid \lambda)$ 。

用途：模型选择。训练好几个 HMM（比如每个说话人一个），给定一段语音，看哪个模型的 $P(O \mid \lambda)$ 最大——就是谁在说话。

问题 2：学习（Learning）

给定观测序列 $O$ ，估计模型参数 $\lambda = (A, B, \pi)$ ，使得 $P(O \mid \lambda)$ 最大。

用途：从数据中训练模型。

问题 3：预测/解码（Decoding）

给定模型 $\lambda$ 和观测序列 $O$ ，找到最可能的隐状态序列 $Q^* = (q_1^*, q_2^*, \dots, q_T^*)$ 。

用途：序列标注。观测是句子里的词，隐状态是词性标签——这就是词性标注问题。

三个问题的解法分别是前向算法、Baum-Welch 算法、维特比算法。

前向算法

暴力方法为什么不行

要算 $P(O \mid \lambda)$ ，最直接的想法是穷举所有可能的隐状态序列：

P(O \mid \lambda) = \sum_{\text{所有 } Q} P(O \mid Q, \lambda) \cdot P(Q \mid \lambda)

长度为 $T$ 的序列，每个时刻有 $N$ 种状态，一共有 $N^T$ 条路径。 $N = 3, T = 10$ 就有近 6 万条路径； $T = 100$ 就是 $3^{100} \approx 5 \times 10^{47}$ ——完全不可算。

前向变量

前向算法的核心思想是动态规划——把大问题拆成子问题，避免重复计算。

定义前向变量：

\alpha_t(i) = P(o_1, o_2, \dots, o_t, \; q_t = s_i \mid \lambda)

含义："在时刻 $t$ ，已经观测到 $o_1, \dots, o_t$ ，并且此刻处于状态 $s_i$ "的联合概率。

初始化（ $t = 1$ ）：

\alpha_1(i) = \pi_i \cdot b_i(o_1), \quad i = 1, 2, \dots, N

递推（ $t = 2, \dots, T$ ）：

\alpha_t(j) = \left[\sum_{i=1}^{N} \alpha_{t-1}(i) \cdot a_{ij}\right] \cdot b_j(o_t)

直觉：要到达 $t$ 时刻的状态 $j$ ，可以从 $t-1$ 时刻的任何状态 $i$ 转移过来。把所有路径的概率加起来，再乘以在状态 $j$ 下观测到 $o_t$ 的概率。

终止：

P(O \mid \lambda) = \sum_{i=1}^{N} \alpha_T(i)

复杂度从 $O(N^T)$ 降到了 $O(N^2 T)$ ——从指数级变成多项式级。

在下面的交互演示里点击"下一步"，看前向算法如何逐步计算每个节点的 $\alpha$ 值。切换到"维特比算法"可以看到解码过程。

\alpha_1(i) = \left[\sum_j \alpha_0(j) \cdot a_{ji}\right] \cdot b_i(o_1)

初始化：α₁(i) = π(i) · b_i(o₁)。当前显示 t=1 各隐状态的前向概率。

后向算法

类似地，可以从后往前算。定义后向变量：

\beta_t(i) = P(o_{t+1}, o_{t+2}, \dots, o_T \mid q_t = s_i, \lambda)

递推方向相反：

\beta_t(i) = \sum_{j=1}^{N} a_{ij} \cdot b_j(o_{t+1}) \cdot \beta_{t+1}(j)

前向和后向结合可以算出任意时刻处于某状态的后验概率——这是 Baum-Welch 算法的基础。

学习：Baum-Welch 算法

有标注数据的情况

如果训练数据同时包含观测序列和对应的隐状态序列（比如标注好词性的语料），参数估计很简单——数频率：

\hat{a}_{ij} = \frac{\text{从状态 } i \text{ 转移到 } j \text{ 的次数}}{\text{从状态 } i \text{ 出发的总次数}}

\hat{b}_i(k) = \frac{\text{在状态 } i \text{ 下观测到 } v_k \text{ 的次数}}{\text{处于状态 } i \text{ 的总次数}}

这就是极大似然估计，直接且精确。但现实中隐状态标注往往没有或很昂贵。

无标注数据：EM 思想

如果只有观测序列，没有隐状态标注——怎么办？这正是 EM 算法的用武之地。

Baum-Welch 算法是 EM 算法在 HMM 上的具体实现：

E 步：用当前参数 $\lambda^{(n)}$ 和前向-后向算法，计算隐状态的后验概率。

定义两个关键量：

\gamma_t(i) = P(q_t = s_i \mid O, \lambda) = \frac{\alpha_t(i) \cdot \beta_t(i)}{\sum_{j=1}^{N} \alpha_t(j) \cdot \beta_t(j)}

$\gamma_t(i)$ 是"在时刻 $t$ 处于状态 $i$ "的后验概率。

\xi_t(i, j) = P(q_t = s_i, q_{t+1} = s_j \mid O, \lambda) = \frac{\alpha_t(i) \cdot a_{ij} \cdot b_j(o_{t+1}) \cdot \beta_{t+1}(j)}{\sum_{m}\sum_{n} \alpha_t(m) \cdot a_{mn} \cdot b_n(o_{t+1}) \cdot \beta_{t+1}(n)}

$\xi_t(i, j)$ 是"在时刻 $t$ 处于状态 $i$ 且 $t+1$ 时刻转到状态 $j$ "的后验概率。

M 步：用后验概率更新参数。

\hat{\pi}_i = \gamma_1(i)

\hat{a}_{ij} = \frac{\sum_{t=1}^{T-1} \xi_t(i, j)}{\sum_{t=1}^{T-1} \gamma_t(i)}

\hat{b}_i(k) = \frac{\sum_{t=1, \, o_t = v_k}^{T} \gamma_t(i)}{\sum_{t=1}^{T} \gamma_t(i)}

反复迭代 E 步和 M 步，直到似然函数收敛。和所有 EM 算法一样，Baum-Welch 只保证收敛到局部最优，结果依赖初始值。

维特比算法

解码问题要找最可能的隐状态序列：

Q^* = \arg\max_Q P(Q \mid O, \lambda)

维特比算法和前向算法结构几乎一样，只是把求和换成了取最大值。

定义维特比变量：

\delta_t(i) = \max_{q_1, \dots, q_{t-1}} P(q_1, \dots, q_{t-1}, q_t = s_i, o_1, \dots, o_t \mid \lambda)

含义：在时刻 $t$ 到达状态 $i$ 的所有路径中，概率最大的那条路径的概率。

递推：

\delta_t(j) = \max_{1 \le i \le N} \left[\delta_{t-1}(i) \cdot a_{ij}\right] \cdot b_j(o_t)

同时记录最大值来自哪个状态：

\psi_t(j) = \arg\max_{1 \le i \le N} \left[\delta_{t-1}(i) \cdot a_{ij}\right]

终止：找到最后一步概率最大的状态，然后回溯 $\psi$ 得到完整路径。

q_T^* = \arg\max_{i} \delta_T(i)

q_t^* = \psi_{t+1}(q_{t+1}^*), \quad t = T-1, T-2, \dots, 1

在上面的交互演示中切换到"维特比算法"，走到最后一步可以看到最优路径高亮——回溯过程把概率最大的隐状态序列串了起来。

前向 vs 维特比

	前向算法	维特比算法
解决的问题	概率计算 $P(O \mid \lambda)$	解码 $Q^*$
核心操作	求和（边缘化）	取最大值（优化）
输出	一个概率值	一条最优路径
复杂度	$O(N^2 T)$	$O(N^2 T)$

两者的结构完全对称——理解了一个，另一个自然就懂了。

这个想法在前沿里

HMM 的思想在现代深度学习中并没有消失，而是以各种形态延续着：

HMM → CRF → Transformer —— 序列建模的三代演进。CRF 放松了 HMM 的独立假设，允许特征之间的任意依赖。Transformer 的自注意力进一步让每个位置可以直接看到所有其他位置。但 BiLSTM-CRF 到今天仍然是命名实体识别的强基线。
维特比 ↔ Beam Search —— 大模型解码时的 beam search 本质是维特比算法的近似版本。维特比在每步保留所有状态的最优路径，beam search 只保留 top- $k$ 条——用近似换取可行性。
HMM-DNN 混合系统 —— 在端到端模型统治语音识别之前，工业界的标准方案是用 DNN 替换 HMM 的观测概率 $B$ （即 $P(o_t \mid q_t)$ 用神经网络算），其他框架不变。这个混合架构服务了十几年的商用语音系统。
State Space Models —— 2023-2024 年兴起的 Mamba、S4 等架构，核心就是连续状态空间上的"隐马尔可夫"结构。它们用线性递推替换注意力机制，在长序列上效率远超 Transformer——HMM 的递推精神以另一种形式回来了。