标签：aa mu 边缘 分布 bmatrix Sigma 正态分布 Lambda

本文总结多元正态分布的条件分布与边缘分布，证明不难，但都比较繁琐，故不做详细证明，有兴趣可以参考Pattern Recognition and Machine Learningy一书。

1 正态分布的条件分布

对于联合正态分布变量\(x\sim N(\mu,\Sigma)\)，定义精度矩阵（the precision matrix）为协方差矩阵的逆，即\(\Lambda\equiv \Sigma^{-1}\)，做分块处理：

\[x=\begin{bmatrix} x_a \\ x_b \end{bmatrix}, \mu=\begin{bmatrix} \mu_a \\ \mu_b \end{bmatrix},\Sigma=\begin{bmatrix} \Sigma_{aa} &\Sigma_{ab} \\ \Sigma_{ba}& \Sigma_{bb} \end{bmatrix}, \Lambda=\begin{bmatrix} \Lambda_{aa} &\Lambda_{ab} \\ \Lambda_{ba}& \Lambda_{bb} \end{bmatrix} \]

那么，条件分布

\[p(x_a|x_b)=N(\mu_{a|b}, \Lambda^{-1}) \]

其中

\[\mu_{a|b}=\mu_a-\Lambda_{aa}^{-1} \Lambda_{ab}(x_b-\mu_b) \]

如何证明？证明的关键在于，对于正态分布的密度函数来说，它的指数项都可以写作

\[-\dfrac{1}{2}(x-\mu)'\Sigma^{-1}(x-\mu)=-\dfrac{1}{2}x'\Sigma^{-1}x+x'\Sigma^{-1}\mu+C \]

其中\(C\)是常数项。

因此，只需将联合分布的密度函数展开，再将其关于\(x_a\)的二次项、一次项整理出来，利用其系数即可得到\(\Sigma^{-1}\)和\(\mu\)的表达式。

2 正态分布的边缘分布

按与上一节同样的设定，\(x_a\)的边缘分布为

\[p(x_a)=N(x_a| \mu_a, \Sigma_{aa}) \]

如何证明？只需将原来的密度函数对\(x_b\)积分即可，利用配方，积分并不困难。

或者，取\(A=[I,0]\)，则有\(Ax=x_a\sim N(A\mu,A\Sigma A')\)，展开后即可直接得到上面的结果。

标签：aa,mu,边缘,分布,bmatrix,Sigma,正态分布,Lambda
来源： https://www.cnblogs.com/analysis101/p/14657466.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。