求此方程的最大值:
同时未知数满足
因为只有一个未知数的限制条件,我们只需要用一个乘数.
将所有方程的偏微分设为零,得到一个方程组,最大值是以下方程组的解中的一个:
求此离散分布的最大熵:
所有概率的总和是1,因此我们得到的约束是g(p)= 1即
可以使用拉格朗日乘数找到最高熵(概率的函数)。对于所有的k 从1到n,要求
由此得到
计算出这n个等式的微分,我们得到:
这说明pi都相等 (因为它们都只是λ的函数). 解出约束∑k pk = 1,得到
因此,使用均匀分布可得到最大熵的值。