凸函数(Convex Functions)
凸函数的定义1如下:
如下图所示:严格凸函数:函数曲线位于由点和连接而成的直线下方。
凸函数:函数曲线不超过由点和连接而成的直线。
定理1:如果某函数在某个区间二阶可导且二阶导数非负,那么这个函数在该区间是凸的。
其中 twice differentiable 指的是二阶可导。
关于这个定理的证明如下:
推论1:-ln(x) 在 (0,∞) 上是严格凸函数。
证明如下:
其中的 Definition 2是凹函数的定义。
Jensen不等式
定理2 :Jensen 不等式:
上边的定理推论描述的是两个点,如果我们看 n 个点的情况,就得到了Jensen 不等式。
证明如下,使用的是归纳法:
因为 -ln(x) 是凸函数,所以我们把 -ln(x) 函数当作 f(x) 带进去,可得:
EM算法里用到的就是这个不等式。
推论2:算术平均大于等于几何平均
证明如下:
标签:函数,不等式,ln,凸函数,如下,证明,Jensen 来源: https://blog.csdn.net/qq_32103261/article/details/120754689
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。