条件概率公式使用条件 条件概率公式 概率公式大全

背景年初买了一份机器学习的课程 , 学了一半中断了 。半年过去了 , 想着不能半途而废 , 而 AI 前途无量 , 还是要继续学习的 , 七月中旬捡起来继续 。
学习 HMM 的计算问题及其解决算法时 , 在没有概率基础知识的情况下 , 看得相当吃力 。断断续续 , 反复推导 , 终于搞清楚了公式的前因后果 。这里总结一下一些资料里面省略掉的推导过程 , 而那些才是初学者理解过程的重要部分 。
HMM 计算问题已知:HMM 的模型参数 λ =[A , B , π] 和观测序列 Q={ q1 , q2 , q3 ,…, qT }
计算:模型参数 λ下观测到序列 Q 出现的概率 P(Q|λ)
条件概率公式P(A|B)=P(AB)/P(B)
条件概率是指事件 B 发生的条件下事件 A 发生的概率 , 即事件 AB 同时发生的概率占事件 B 发生的概率比 。
关联案例:2017 年的一道软考题目 , 假设某项目风险列表中 , 风险分为一、二、三级占10%、30%、60% , 项目经理小李随机抽查一个风险等级情况 , 结果不是一级风险 , 则本次抽查到三级风险的概率是(2/3) 。
解析:求此次抽到三级的概率 , 已知条件是此次抽到的不是一级 , 说明是三级和二级 , 那么总概率就是 0.3+0.6 , 而三级在这个总的比例是 0.6/0.9。
这个解释比较清楚 , 但它并不是条件概率的直接应用 , 只是占比分母的值跟条件概率的分母类似 。并不是全概率 1  , 而是发生指定事件的概率 。看条件概率的时候想起当年参加考试的这道题目了 , 顺便分析了一下 。
全概率公式全概率公式的定义为:
独立事件 Bi 是一组事件 , 复杂事件 A  , 被独立事件 B 完整划分 。
那么可以将求事件 A 的概率转换为求每个独立事件 Bi 和 A 的联合概率的累和 。
即:B1、B2、B3…Bn  , 它构成一个一个完备的事件组 , 是一个全集 。则对于任一事件 A  , 有:
P(A)=P(AB1)+P(AB2)…+P(ABn) = ∑P(ABi)  , i=1,2,…n。
全概率公式 , 它是概率论中的重要公式 , 它将对复杂事件 A 的概率求解问题 , 转化为在不同情况下发生的简单事件 Bi 的概率和 。即:我不知道事件 A 的概率 , 但是我知道所有事件 B 发生时 A 发生的概率 , 那么累加就能间接得到事件 A 的概率了 。
联合概率公式联合概率是指多个条件同时发生时的概率 , 可以转换为条件概率 , 联合概率的公式为:
P(AB)=P(A)P(B|A)
【条件概率公式使用条件 条件概率公式 概率公式大全】即:A、B 事件同时发生的概率等于事件 A 发生的概率乘以 事件 A 发生的情况下 B 发生的条件概率 。
那么全概率公式就转换为计算每个事件 Bi 发生时 A 发生的条件概率和:
P(A)= ∑P(ABi)=∑P(Bi)P(A|Bi)
直接计算法直接计算法就是直接求解计算问题的条件概率 P(Q|λ)  , 需要先根据全概率公式进行一下转换 。转换过程的理论依据是:
状态序列事件 I={i1,i2,…,iT}  , 由于所有的状态序列构成了一个完整的事件 , 那么求观测序列的条件概率 , 就可以转换为所有状态序列 I 和观测序列 Q 的联合概率和 。
即:P(Q) = ∑P(Q,I )  ,  是所有的所有长度为 T 的状态序列的联合概率和 。
所以 , P(Q|λ) = ∑P(Q , I |λ) = ∑P(Q| I , λ)P(I|λ) , 模型参数下状态序列 I 发生的概率 , 乘以状态序列 I 和 模型参数同时发生时观察序列出现的概率 。
前向概率公式及推导过程1.前向概率定义
给定 λ , 定义到时刻 t  , 部分观测序列为 q1,q2,…,qt 且状态为 si 的概率为前向概率 。
记作: αt(i) = P(q1,q2,…qt , st=si | λ) 。
2.前向概率的初始条件
根据定义 , 第一个时刻的前向概率是 α1(i)=P(q1,s1=si| λ)  , 给定观察模型下 , 第一个时刻的状态为 Si 且观测结果为 q1。这个值很容易用 HMM 的参数模型的计算出来:
α1(i) = πi * bi(q1) 。
即:“初始状态为 Si 的概率 ” 乘以由状态 i 得到观察值 q1 的观测转义概率 。
3.前向概率的递推公式
前向递推 , 就是从第一个时刻 α1(i) 值 , 向前推导 , 计算出 αT(i)  , 再将 T 时刻的所有状态累加就得到 HMM 计算问题的解 。