1 Dirichlet Process-非参数贝叶斯( 二 )


===============
is one way toaover aspace
所以,G不是一个固定的分布,也是一个随机量 。G~DP(/alpha,H),DP是分布G的分布,每次抽出一个G,可以抽出很多不同的G,这些G符合同一个分布
----------------------------------------------------------------------------------------------------
附录:in? 性质相关性质
1.在de 的数学书中,他证明了,当一个可数无限维随机变量集合{x1,x2,...}满足in? 性质,即,对集合中取出任意N个元素,组成一个集合{x1,x2,...,xN} 如果其上的联合概率和顺序无关,即对{1,2,..N}的任意新排列,记为C1,C2...CN,有P(x1,x2...xN)=P(x_C1,x_C2,...,X_CN),则P(x1,...xN)可写成如下形式:
(1)
也就是说可以把G当成一个类似于参数的东西,使得联合概率中,每个xi相对于G独立,P(G)是参数G的先验概率分布 。
这个式子中G可以是无限维的,此时P(G)也由分布推广到了一个随机过程
在上述3个模型中,可以证明,都满足 性质,也就是说,由G过程中可以生成一族X变量,在urn中,xi是第i个球的颜色,CRP中,Xi是第i个人的桌子
同时,这个性质也为使得用MCMC求解DPMM成为可能
参考文献:
的入门介绍::for
到的另一个不错的入门介绍:~/notes/dpmm.pdf
【1Dirichlet Process-非参数贝叶斯】~lisa//31-10-2006.pdf