隐马尔科夫模型参数(三要素):
两个基本假设:
- 齐次马尔可夫假设:HMM任一时刻t某一状态只依赖于其前一时刻的状态,与其它时刻的状态及观察无关,也即时刻t无关。
- 观测独立性假设:任一时刻的观测只依赖于该时刻的马尔科夫链状态,与其他时刻及状态无关。
HMM概率计算问题:
概率计算就是给定一个模型参数已知的HMM和一组观测序列,求这组观测序列由这个HMM所生成的概率。概率计算问题评价了模型的好坏。HMM概率计算算法主要有前向算法和后向算法。
- 前向算法
前向概率:给定隐马尔科夫模型
λ,定义到时刻t部分观察序列为
o1,o2,...ot且状态为
qi的概率为前向概率,记作:
αt(i)=P(o1,o2,...ot,it=qi∣λ)
1.初始化:
α1(i)=πibi(O1),1≤i≤N
2.递归计算:
αt+1(j)=(∑i=1Nαt(i)aij)bj(Ot+1),1≤t≤T−1
3.求和终结:
P(O∣λ)=∑i=1NαT(i)
前向算法的时间复杂度是
O(N2T).
- 后向算法
后向概率:给定隐马尔科夫模型
λ,定义在时刻t状态为
qi的条件下,从t+1时刻到T的部分观测序列为
ot+1,ot+2,...oT的概率为后向概率,记作:
βt(i)=P(ot+1,ot+2,...oT∣it=qi,λ)
1.初始化:
βT(i)=1,1≤i≤N
2.递归计算:
βt(i)=∑j=1Naijbj(Ot+1)βt+1(j),T−1≥t≥1,1≤i≤N
3.求和终结:
P(O∣λ)=∑i=1Nπibi(O1)β1(i)
后向算法的时间复杂度是
O(N2T).