琴生不等式在证明不等式中发挥了巨大的作用。它实质上就是对凸函数性质的应用,它给出积分的凸函数值和凸函数的积分值间的关系,能够很好的为高中数学压轴证明题服务。3

定义公式

**1.**若 是区间 上的下凸函数,则对任意的 ,有不等式:

当且仅当 时等号成立。

**2.**其加权形式为:

是区间 上的下凸函数,则对任意的 ,且 为正数,有

当且仅当时等号成立1。

证明

此处证明加权形式,令即可证明一般形式

当n=1结论显然成立,下面讨论n≥2时的情况

当n=2,则由于是[a,b]上的下凸函数,∴在[a,b]内,在连接的直线之下,而,

设结论对n-1成立,则,,

应用

有了这个结论以后,使用琴生不等式就非常方便了,如今可以非常容易证明一般情况的均值不等式。

比如

其中前面两个取就可以了

后面一个取就可以了。

举一个简单的例子:中为凸函数(国外教材定义;若为凹函数,则国内教材定义)

同时,值得注意的是,上凸、下凸、凹、凸的含义是不同的。

涉及概率密度函数的形式

假设Ω是实线的可测子集,fx)是一个非负函数

在概率语言中,f是概率密度函数。

然后Jensen的不等式变成了关于凸积分的下面的陈述:

如果g是任何实值可测函数且φ在g的范围内是凸的,那么:

如果gx)=x,那么这种不等式的形式可以简化为一个常用的特例:

例如:随机变量的偶数矩

如果gx)=x,并且X是一个随机变量,那么g是凸的

所以

特别是,如果有的甚至瞬间2NX是有限的,X具有有限的均值。这个论证的延伸表明X具有每个阶的有限矩划分ñ

替代有限形式

令Ω= {x1,...x**n},并且以μ为Ω上的计数度量,则一般形式简化为关于和的声明:

条件是λi≥0和

还有一个无限的离散形式。

统计物理学

当凸函数是指数函数时,Jensen不等式在统计物理学中特别重要,给出:

其中期望值是关于随机变量X中的一些概率分布。

这种情况下的证明非常简单(参见Chandler,第5.5节)。理想的不平等直接来自书写

  • {\ displaystyle \ operatorname {E} \ left [e ^ {X} \ rightname = {E ^ {\ operatorname {E} [X]} \ operatorname {E} \ [X]} \]}

然后应用不等式ë≥1 +X至最终指数。

信息论

如果pX)是用于真正的概率分布X和qX)是另一种分布,然后施加Jensen不等式随机变量ÿX)=qX)/pX)和函数φÿ)= -log(y)给出

因此:

一个称为吉布斯不平等的结果。

它表明,当代码是基于真实概率p而不是任何其他分布q分配时,平均消息长度被最小化。即非负的量被称为相对熵的qp

由于-log(X)为严格凸函数X> 0,它遵循:当等号成立pX)等于qX)几乎无处不在。

Rao-Blackwell定理

主要文章:Rao-Blackwell定理

如果L是一个凸函数,一个亚西格玛代数,然后,从Jensen不等式的条件版本中,可以得到

所以如果δ(X)是给定一个可观测量向量X的未观测参数θ的估计量;如果TX)是θ的充分统计量;那么可以通过计算获得改进的估计量,即具有较小的预期损失L的意义

,相对于θ的期望值δ在所有可能的观察值向量X上都可以与观察到的相同的TX)值相匹配。

这个结果被称为Rao-Blackwell定理。

来源: 百度百科

内容资源由项目单位提供