链式法则

顾名思义, 条件概率指的是某个事件在给定其他条件时发生的概率, 这个非常符合人的认知:我们通常就是在已知一定的信息(条件)情况下, 去估计某个事件可能发生的概率. 概率论中,用 | 表示条件, 条件概率可以通过下式计算得到 P(Y=y|X=x)=P(Y=y,X=x)P(X=x) P(Y=y|X=x)=P(Y=y,X=x)P(X=x) , 即 在 x 发生的条件下 y 发生的概率 等于 x,y 同时发生的联合概率 除以 x自身的概率. 注意, 必须满足 P(x)>0P(x)>0, 否则对于永远不会发生的事情讨论条件概率无意义. 基于条件概率, 任意多维随机变量的联合分布都可以写成其中任意一个随机变量的条件概率相乘的形式 P(x(1),...,x(n))=P(x(1))∏i=2nP(x(i)|x(1),...,x(i−1)) P(x(1),...,x(n))=P(x(1))∏i=2nP(x(i)|x(1),...,x(i−1)) , 具体而言, 对于一个三元分布 : P(a,b,c)=P(a|b,c)p(b,c)=P(a|b,c)P(b|c)P(c) P(a,b,c)=P(a|b,c)p(b,c)=P(a|b,c)P(b|c)P(c) , 这样通常很难直接得到的 P(a,b,c)P(a,b,c) 就分解为以下三个简单的情形乘积的形式: P(c):cP(c):c 发生的概率, 通常已知.