イェンゼンの不等式

イェンゼンの不等式（いぇんぜんのふとうしき、英語: Jensen's inequality）は、凸関数を使った不等式である。

f(x) を実数上の凸関数とする。

離散バージョン：

$p_1, \, p_2, \, \ldots$ を、 $p_1 + p_2 + \cdots = 1$ を満たす正の実数の列とする。また、 $x_1, \, x_2, \, \ldots$ を、実数の列とする。そのとき、次が成り立つ。

$\sum_{i=1}^{\infty} p_i f(x_i) \ge f\left( \sum_{i=1}^{\infty} p_i x_i \right)$

連続値バージョン：

$p(x)(>0)$ を、 $\int p(x) dx = 1$ を満たす実数上の可積分関数とする。また、 $y(x)$ を実数上の可積分関数とする。そのとき、次が成り立つ。

$\int_{-\infty}^{\infty} f(y(x))p(x) dx \ge f \left( \int_{-\infty}^{\infty} y(x)p(x) dx \right)$

ルベーグ積分論の観点では、離散の場合も連続の場合も同一に見倣せる。

証明は、f の $\int_{-\infty}^{\infty} y(x)p(x) dx$ における接線を g とおいて、常に g(x) が f(x) よりも小さいことを使えばよい。

統計学において、式の下限を評価するさいに、一定の役割を担っている。例えば、カルバックライブラーダイバージェンスが常に 0 より大きいことを証明するときに用いられる。p(x) が確率密度関数の場合を考えると、イェンゼンの不等式は次のように書ける。

$E[f(y)] \ge f(E[y])$

なお、イェンゼンの不等式から、相加相乗平均の不等式などを導くこともできる。

関連項目 [編集]