马尔可夫

1、遍历型（ergodic model） 即每个状态都可以由任意一个状态演变而来，aij>0，for all i , j. 如图： 2、left-right type of HMM 每个状态只能由下标值小于当前值得状态以及其本身转移而来，即从左向右转移。因此状态转移矩阵有如下特性： ， 这种由左向右转移的HMM转移状态矩阵为上半矩阵，同时此类型矩阵一般同时存在一个最长跳跃距离，即有 是最长跳跃距离，以图中为例， =2. 这种类型的HMM模型能够非常好的用于随时间变化的信号，比如语音信号。 3、其他类型 上图所示HMM模型严格来说也属于left-right type of HMM，但是它又存在它自己独特的规则，更类似于两个平行的left-right HMM的组合模型。 但是我们应该明白，对于不同类型的HMM，对于学习问题的求解来说步骤都是一样的。 来源： https://www.cnblogs.com/aabbcc/p/11898706.html

什么是隐马尔可夫模型 隐马尔可夫模型（Hidden Markov Model，HMM） 是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别，特别是我们今天要讲的基因预测。是在被建模的系统被认为是一个马尔可夫过程【一段组装好的序列】与未观测到的（隐藏的）的状态【哪些是编码区哪些不是】的统计马尔可夫模型。 下面用一个简单的例子来阐述： 假设我手里有两个颜色不同的骰子，一个是橘色（Coding，C）的另一个是蓝色（Noncoding,N）的。但是和平常的骰子不同的是，他们稳定下来只要有四种可能，也就是上下是固定的（你可以理解为他们只会平行旋转）。这样每个骰子出现ATCG的概率都是1/4. 两条链，在一起 假设我们开始投骰子，我们先从两种颜色选一个，挑到每种骰子的概率都是1/2。然后我们掷骰子，我们得到ATCG中的一个。不停地重复以上过程，我们将会得到一串序列，每个字符都是ATCG中的一个。例如CGAAAAAATCG 这串序列就叫做可见状态链。但是在隐马尔可夫模型中，我们不仅仅有这么一串可见状态链，还有一串隐含状态链。在这个例子里，这串隐含状态链就是你用的骰子的序列。比如，隐含状态链有可能是：C C N N N N N N N C C C。 一般来说

高冷贵族: 隐马尔可夫模型 https://www.cnblogs.com/vpegasus/p/hmm.html 引言 大家都用过Siri,Cortana之类的语音助手吧? 当你对着手机说出'我的女朋友温柔吗?',Siri 或Cortana就会根据你说的这句话翻译成一段文字,然后再作应答. 先不管应答部分, 你可曾想过: Siri是如何将你说的话翻译成一段文字的?嗯,猜对了, 这里就用到了隐马尔可夫模型(Hiden Markov Model, HMM). 例子 假设你有三个女朋友(嘿~,现实不可以,想想总可以吧~,/躲拖鞋…), 你每周末只能选择陪其中一位(为了世界和平…). 而作为程序员的你,也没有什么情调,只会与女朋友做二种事情: 吃饭,看电影, 而因为工作繁忙,你每周也只能做其中一件事,三位美丽的女士也很理解,体谅你,也都很配合,很高兴. 那么问题来了, 你是如何选择周末去陪哪个女朋友呢? 三位女士都很可爱,你不想冷落每一个人,但第一个女朋友(记为A女朋友)有点聒噪,因此你会稍微少去一点她那里. 第二,第三个女朋友去都比较安静(分别记为B,C). 于是,你在心里默默地(或者是潜意识地)定下了去陪三位女朋友的概率: 女朋友 A B C 概率 0.2 0.4 0.4 比如,陪A女朋友的概率是0.2,可简单的理解为十次大约有二次会去陪她. 然而这只是你刚开始考虑的事

本文主要参考了《统计学习方法》及 https://github.com/aespresso/a_journey_into_math_of_ml 请各位大佬多多指正。 隐马尔可夫模型(hidden Markov model, HMM)描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。可用于自动分词、词性标注、命名实体识别等。 以命名实体识别为例： 一段文本：武汉市成立自由贸易试验区。我们需要识别出济南市(地点), 自由贸易试验区(地点). 在我们今天使用的NER数据集中, 一共有7个标签: "B-ORG": 组织或公司(organization) "I-ORG": 组织或公司 "B-PER": 人名(person) "I-PER": 人名 "O": 其他非实体(other) "B-LOC": 地名(location) "I-LOC": 地名 文本中以每个字为单位，每个字都对应一个标签。注意：实体开头的那个字使用开头为‘B’的标签来标注，实体中间或结尾的部分用‘I’来标注。 举个栗子：自（B-LOC）贸（I-LOC）区（I-LOC） 什么是隐马尔科夫模型？ 隐马尔可夫模型是关于时序的概率模型，描述了一个由隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程，如下图所示： 在上述的命名实体识别的例子中，隐状态序列是实体标记序列,

一、基本思想 隐马尔可夫模型是 基于时序的概率模型 ，由 初始状态概率向量Π、状态转移概率矩阵A和观测概率矩阵B 组成。 隐马尔可夫做了两个基本假设： 齐次马尔可夫性假设：任意时刻的状态只与上一时刻的状态有关 观测独立性假设：任意时刻的观测值只与该时刻的状态有关 隐马尔科夫模型主要用来解决三个问题： 概率计算问题 ：给定模型λ=(Π,A,B)和观察序列O，求在模型λ下观测序列O出现的概率 P(O|λ) 学习问题 ：已知观察序列O，求模型 λ的三个参数 ，使得P(O|λ)最大 预测(解码)问题 ：给定模型λ=(Π,A,B)和观察序列O，求在给定观察序列O的基础上，最有可能对应的状态序列I，即 P(I|O) 二、算法流程 1. 概率计算问题 1）前向算法 其中前向概率 \(\alpha_t(i)\) 表示t时刻产生观察序列 \(o_1,o_2,o_3...o_t\) 且t时刻的状态为i的概率。 公式10.15表示状态为i，观察序列为 \(o_1\) 的联合概率 公式10.16中[]里面的内容表示状态为i，观测序列为 \(o_1,o_2,o_3...o_t\) 的联合概率，最后乘以 \(b_i(o_{t+1})\) 得到状态为i，观察序列为 \(o_1,o_2,o_3...o_{t+1}\) 的联合概率 公式10.17表示将所有可能的状态i且对应的观察序列为 \(o_1,o_2,o_3.

在介绍学习算法之前，先介绍一些概率和期望值的计算。 利用前向概率和后向概率，可以得到关于单个状态和两个状态概率的计算公式。 1. 给定模型 λ λ 和观测 O O ，在时刻 t t 处于状态 q i q i 的概率。记为 γ t ( i ) = P ( i t = q i | O , λ ) (1) (1) γ t ( i ) = P ( i t = q i | O , λ ) 先分解为分数形式 γ t ( i ) = P ( i t = q i , O | λ ) P ( O | λ ) (2) (2) γ t ( i ) = P ( i t = q i , O | λ ) P ( O | λ ) 根据前向概率的定义可以做以下变换 α t ( i ) = P ( o 1 , o 2 . . . o t , i t = q t | λ ) = P ( i t = q t | λ ) P ( o 1 , o 2 . . . o t | i t = q t , λ ) α t ( i ) = P ( o 1 , o 2 . . . o t , i t = q t | λ ) = P ( i t = q t | λ ) P ( o 1 , o 2 . . . o t | i t = q t , λ ) 后向概率的定义如下 β t ( i ) = P ( o t + 1 , o t + 2

本文主要参考了《统计学习方法》及 https://github.com/aespresso/a_journey_into_math_of_ml 请各位大佬多多指正。 隐马尔可夫模型(hidden Markov model, HMM)描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。可用于自动分词、词性标注、命名实体识别等。 以命名实体识别为例： 一段文本：武汉市成立自由贸易试验区。我们需要识别出济南市(地点), 自由贸易试验区(地点). 在我们今天使用的NER数据集中, 一共有7个标签: "B-ORG": 组织或公司(organization) "I-ORG": 组织或公司 "B-PER": 人名(person) "I-PER": 人名 "O": 其他非实体(other) "B-LOC": 地名(location) "I-LOC": 地名 文本中以每个字为单位，每个字都对应一个标签。注意：实体开头的那个字使用开头为‘B’的标签来标注，实体中间或结尾的部分用‘I’来标注。 举个栗子：自（B-LOC）贸（I-LOC）区（I-LOC） 什么是隐马尔科夫模型？ 隐马尔可夫模型是关于时序的概率模型，描述了一个由隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程，如下图所示： 在上述的命名实体识别的例子中，隐状态序列是实体标记序列,

上篇中，我们了解到HMM的相关知识，并且知道HMM属于概率有向图模型，接下来，让我们一起学习总结概率无向图模型――条件随机场(Conditional Random Field, CRF)。 概率无向图模型又称为马尔可夫随机场，是一个可以由无向图表示的联合概率分布。 \[ 设有联合概率分布P(Y)，由无向图G=(V,E)表示，V表示结点集合，E表示边集合，\\在图G中，结点表示随机变量，边表示随机变量之间的依赖关系。如果联合概率分布P(Y)满足\\成对、局部或全局马尔可夫性，就称此联合概率分布为概率无向图模型或马尔可夫随机场。 \] 如图上，一共有10个结点（即10个随机变量），任意找两个没有边直接连接的结点，假设有两个随机变量(u,v)没有边相连，剩下的8个随机变量记为O，当给定O时，u和v是独立的，即P(u,v|O)=P(u|O)P(v|O)。 如上图，任意找一个结点v，与v有边相连的所有结点记为W，其余5个结点记为O，当给定W时，v和O是独立的，即P(v,O|W)=P(v|W)P(O|W)。 一共有8个结点（即有8个随机变量），取中间两个随机变量记为集合C，当将集合C从图中删掉之后，那么剩下的6个结点分成了两个部分，可知左边的3个结点和右边的3个结点没有任何边将它们相连，当给定C时，A和B是独立的，即P(A,B|C)=P(A|C)P(B|C)。 注意

马尔可夫过程 马尔可夫过程（Markov process）是一类随机过程。它的原始模型马尔可夫链，由俄国数学家A.A.马尔可夫于1907年提出。该过程具有如下特性：在已知目前状态（现在）的条件下，它未来的演变（将来）不依赖于它以往的演变 (过去 )。例如森林中动物头数的变化构成——马尔可夫过程。在现实世界中，有很多过程都是马尔可夫过程，如液体中微粒所作的布朗运动、传染病受感染的人数、车站的候车人数等，都可视为马尔可夫过程。 每个状态的转移只依赖于之前的n个状态，这个过程被称为1个n阶的模型，其中n是影响转移状态的数目。最简单的马尔可夫过程就是一阶过程， 每一个状态的转移只依赖于其之前的那一个状态 ，这个也叫作 马尔可夫性质 。用数学表达式表示就是下面的样子： 假设这个模型的每个状态都只依赖于之前的状态，这个假设被称为 马尔科夫假设 ，这个假设可以大大的简化这个问题。显然，这个假设可能是一个非常糟糕的假设，导致很多重要的信息都丢失了。 将随机变量作为结点，若两个随机变量相关或者不独立，则将二者连接一条边；若给定若干随机变量，则形成一个有向图，即构成一个 网络 。 如果该网络是有向无环图，则这个网络称为 贝叶斯网络。 如果这个图退化成线性链的方式，则得到 马尔可夫模型 ；因为每个结点都是随机变量，将其看成各个时刻(或空间)的相关变化，以随机过程的视角，则可以看成是 马尔可夫过程 。

原文链接： http://tecdat.cn/?p=7973 贝叶斯隐马尔可夫模型是一种用于分割连续多变量数据的概率模型。该模型将数据解释为一系列隐藏状态生成。每个状态都是重尾分布的有限混合，具有特定于状态的混合比例和共享的位置/分散参数。 该模型中的所有参数都配备有共轭先验分布，并通过变化的贝叶斯（vB）推理算法学习，其本质上与期望最大化相似。该算法对异常值具有鲁棒性，并且可以接受缺失值。 本文从未知的BRHMM生成一组数据序列 参数，并仅从这些数据中估算出 生成它们的模型。 结果绘制为 时间序列 设置状态，符号和特征的数量 NumState=2; NumSym=3; NumFeat=5; 设置序列数，每个序列点数和缺失值 NumSeq=2; NumPoint=100; NumMiss=20; 设置参数生成选项。TransParam=1/5 EmissParam=1/5; LocParam=2; DispParam=5; 设置采样选项 NumDeg=5; NumObs=1000; 打印 和显示状态 fprintf('\n') fprintf('Sampling data ... ') 生成用于采样的参数 [Trans,Emiss,Loc,Disp]=GenParam(NumState,NumSym,NumFeat,... TransParam,EmissParam