标签：Metropolis MC Chain 贝叶斯 马尔可夫 np 我们 npr

原文链接：http://tecdat.cn/?p=25428

原文出处：拓端数据部落公众号

介绍

本文，我们说明了贝叶斯学习和 计算统计一些结果。

1.    
2.   from math import pi
3.   from pylab import *

马尔可夫链的不变测度

考虑一个高斯 AR(1) 过程， ， 其中  是标准高斯随机变量的独立同分布序列，独立于 。假使 .。然后，具有均值的高斯分布  和方差  是马尔可夫链的平稳分布。我们用马尔可夫链的单个轨迹所取值的直方图来检查这个属性。

1.    
2.   f=lambda x,m,sq: np.exp(-(x-m)**2/(2*sq))/np.sqrt(2*pi*sq)
3.    
4.    
5.   plt.hist

第二个例子

我们在这里考虑一个马尔可夫链的例子，它的状态空间  是开单位区间。如果链条在 ，它​等概率  ​选择两个区间之一  或者  ，然后移动到一个点，  它均匀分布在选定的区间内。马尔可夫链的不变分布有 cdf， 。 通过微分，我们可以得到相关的密度：  。对所有 ， 我们现在用马尔可夫链取值的直方图检查这个属性。

1.    
2.   x=arange(1,m)/m
3.    
4.   for i in range(p-1):
5.   [a,b]=rand(2)
6.    
7.   plt.hist

我们还可以说明直方图如何收敛到平稳分布的密度。这可以通过使用 matplotlib 中的“动画”模块的动态动画来完成。下面是python代码。

1.    
2.    
3.   anm = animation.FuncAnimation

以这个例子结束，这是一个动画。

1.    
2.    
3.   data = []
4.   for i in range(p-1):
5.   [a,b]=npr.rand(2
6.    
7.   if ((i+1)%100==0):
8.   data.append
9.    
10.   anim = animation.Func

我们现在用一个例子来说明大数定律。如 。 那么，我们期望 ,

1.    
2.   x=np.arange/(p)
3.   for i in range(p-1):
4.   [a,b]=npr.rand
5.   m=np.cumsum(g(m))/np.arange(1,p+1)
6.   plot

对称随机游走 Metropolis Hasting 算法

我们现在考虑一个目标分布，它是两个高斯分布的混合，一个集中在  ，另一个集中在 。

  是中心标准正态分布的密度。

为了针对此分布，我们根据对称随机游走 Metropolis Hasting 算法进行采样。当链条处于状态时 ，我们提出一个候选 ， 根据  ，其中  。然后我们接受  ，有概率 ， 其中 . 否则， .

1.   from IPython.display import HTML
2.    
3.    
4.   rc('animation', html='jshtml')
5.   ani

独立Metropolis Hasting 算法

我们再次考虑一个目标分布，它是两个高斯分布的混合，一个集中在  ，另一个集中在 ，，其中  是中心标准正态分布的密度。

为了针对这种分布，我们根据具有独立提议的 Metropolis Hasting 算法进行采样。当链条处于状态时 ，我们提出一个候选  ，根据  ，其中  。然后我们接受  有概率 ， 其中  和  是密度 .。否则， .。

1.    
2.   mc=npr.randn*np.one
3.   data=[]
4.   for i in range:
5.   v=sig*npr+sft
6.   alpha
7.   if (npr.rand()<alpha):
8.   mc[i+1] = v
9.   if ((i+1)%r==0):
10.   data.append
11.    
12.   x=np.linspac
13.    
14.    
15.    
16.   anim = animation.FuncAn

---

最受欢迎的见解

1.matlab使用贝叶斯优化的深度学习

2.matlab贝叶斯隐马尔可夫hmm模型实现

3.R语言Gibbs抽样的贝叶斯简单线性回归仿真

4.R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归

5.R语言中的Stan概率编程MCMC采样的贝叶斯模型

6.Python用PyMC3实现贝叶斯线性回归模型

7.R语言使用贝叶斯 层次模型进行空间数据分析

8.R语言随机搜索变量选择SSVS估计贝叶斯向量自回归（BVAR）模型

9.matlab贝叶斯隐马尔可夫hmm模型实现

标签：Metropolis,MC,Chain,贝叶斯,马尔可夫,np,我们,npr
来源： https://www.cnblogs.com/tecdat/p/15913684.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。