なぜ成り立つ？イェンゼンの不等式の直感理解から証明・AI応用まで

大学受験数学の難問突破から、最先端の人工知能（AI）アルゴリズムの基盤理論に至るまで、数学と情報科学の世界で圧倒的な存在感を放ち続ける定理が存在します。それが「イェンゼンの不等式（Jensen's inequality）」です。一見すると抽象的でとっつきにくく感じられる数式ですが、その本質は「凸（とつ）関数のグラフが持つ幾何学的な性質」という極めて明快なアイデアに根ざしています。

本稿では、数式に苦手意識を持つ方でも腑に落ちる幾何学的な直感イメージから、数学的帰納法を用いた厳密な証明、さらには現代の機械学習・確率論で不可欠とされる応用例までを体系的に解き明かします。難解な数式を自在に使いこなすための勘所を押さえ、その背後に広がる数学の美しさを体感してください。

📌 【この記事の重要ポイントまとめ】

• 要点1：イェンゼンの不等式は「凸関数のグラフ上の2点を結ぶ線分（弦）は、常にグラフよりも上側にある」という直感的な幾何学的性質が本質である。
• 要点2：期待値の記法 $f(\mathbb{E}[X]) \le \mathbb{E}[f(X)]$ を用いることで、相加相乗平均の不等式をはじめとする数々の重要定理を統一的に導出・証明できる。
• 要点3：機械学習の根幹をなすEMアルゴリズムの下界導出やKL情報量の非負性証明など、先端AI研究・データサイエンスの実務において決定的な役割を果たしている。

【直感で掴む】イェンゼンの不等式はなぜ成り立つのか？凸関数のグラフで見る本質

イェンゼンの不等式を理解する最短ルートは、数式を丸暗記することではなく、「下に凸なグラフの形状」を視覚的にイメージすることです。下に凸な関数（例えば $f(x) = x^2$）のグラフ上に任意の2点 A $(x_1, f(x_1))$ と B $(x_2, f(x_2))$ を取り、それらをまっすぐな線分で結んでみてください。

すると、2点の間にあるすべての $x$ において、「線分（弦）の高さ」は「関数のグラフの高さ」よりも常に上（または一致する位置）にあることがひと目で分かります。この幾何学的事実こそが、イェンゼンの不等式のコアとなる物理的・直感的根拠です。

例えば、$x_1$ と $x_2$ の中点である $\frac{x_1 + x_2}{2}$ における関数の値 $f\left(\frac{x_1 + x_2}{2}\right)$ はグラフ上の点の高さです。一方、点Aと点Bを結ぶ線分の中点の高さは、2つの関数値の平均である $\frac{f(x_1) + f(x_2)}{2}$ となります。グラフを見れば、明らかに後者の方が高い位置にあります。すなわち、以下の関係が成り立ちます。

$$f\left(\frac{x_1 + x_2}{2}\right) \le \frac{f(x_1) + f(x_2)}{2}$$

イェンゼンの不等式とは、この「2点の内分点における関係」を一般の $n$ 個の点、あるいは連続的な確率分布全体へと拡張したものに他なりません。「平均してから関数を通した値」よりも、「関数を通してから平均した値」の方が大きくなる——これが下に凸な関数が持つ絶対的なルールです。

【定義と数式】凸関数の性質と確率論・期待値におけるイェンゼンの不等式

直感的なイメージを数式として定式化するために、まずは凸関数の定義と性質を整理します。ある区間 $I$ 上で定義された関数 $f(x)$ が「下に凸（凸関数）」であるとは、区間内の任意の点 $x, y$ および $0 \le \lambda \le 1$ を満たす任意の実数 $\lambda$ に対して、常に次の不等式が満たされることを意味します。

$$f(\lambda x + (1 - \lambda)y) \le \lambda f(x) + (1 - \lambda)f(y)$$

この重み付けパラメータ $\lambda$ は、2点 $x, y$ の内分比を表す重みであり、確率論の文脈では「事象が発生する確率」と完全に一致します。これを一般の確率変数 $X$ と確率分布に拡張したものが、確率論におけるイェンゼンの不等式です。

確率変数 $X$ と凸関数 $f$ に対し、期待値オペレータ $\mathbb{E}[\cdot]$ を用いると、イェンゼンの不等式は次のような極めて美しい1行で表現されます。

$$f(\mathbb{E}[X]) \le \mathbb{E}[f(X)]$$

もし関数 $f$ が「上に凸（凹関数）」である場合は、不等号の向きが反転し、$f(\mathbb{E}[X]) \ge \mathbb{E}[f(X)]$ となります。このシンプルな期待値の表記法は、統計学や機械学習の論文・アルゴリズム設計において世界標準の共通言語として広く使われています。

【高校数学から大学数学へ】数学的帰納法による証明と等号成立条件

高校数学の発展問題や大学の解析学・確率論の講義において頻出となるのが、有限個の重み付き和に対する数学的帰納法による証明です。ここでは、実数 $x_1, x_2, \dots, x_n$ と、和が1となる正の重み $p_1, p_2, \dots, p_n$（$\sum_{i=1}^n p_i = 1, p_i > 0$）に対する離散版の不等式を証明します。

証明すべき主張は以下の通りです。

$$f\left(\sum_{i=1}^n p_i x_i\right) \le \sum_{i=1}^n p_i f(x_i)$$

【証明のステップ】

1. ベースステップ（$n=2$ の場合）：
凸関数の定義そのものより、$p_1 = \lambda, p_2 = 1 - \lambda$（ただし $0 < \lambda < 1$）とおけば、$f(p_1 x_1 + p_2 x_2) \le p_1 f(x_1) + p_2 f(x_2)$ は自明に成り立ちます。

2. インダクションステップ（$n = k$ で成立すると仮定し、$n = k+1$ を示す）：
$\sum_{i=1}^{k+1} p_i = 1$ を満たす $k+1$ 個の重みに対して、最後の2項をまとめ、全体の重みを $1 - p_{k+1}$ で正規化する巧妙な式変形を行います。

$$\sum_{i=1}^{k+1} p_i x_i = (1 - p_{k+1}) \sum_{i=1}^k \frac{p_i}{1 - p_{k+1}} x_i + p_{k+1} x_{k+1}$$

ここで $q_i = \frac{p_i}{1 - p_{k+1}}$ とおくと、$\sum_{i=1}^k q_i = 1$ となるため、$n=2$ の性質および $n=k$ での帰納法の仮定を連続して適用できます。

$$f\left(\sum_{i=1}^{k+1} p_i x_i\right) \le (1 - p_{k+1}) f\left(\sum_{i=1}^k q_i x_i\right) + p_{k+1} f(x_{k+1}) \le (1 - p_{k+1}) \sum_{i=1}^k q_i f(x_i) + p_{k+1} f(x_{k+1}) = \sum_{i=1}^{k+1} p_i f(x_i)$$

これにより、すべての自然数 $n \ge 2$ において不等式が成立することが示されました。

ここで極めて重要なのが等号成立条件です。関数 $f$ が「狭義の凸関数（直線部分を含まない真に曲がった凸関数）」である場合、等号が成立するのは「すべての変数が等しいとき（$x_1 = x_2 = \dots = x_n$）」に限られます。この性質が入試問題や最適化問題の解を一意に特定する強力な武器となります。

【定番の応用例】相加相乗平均の不等式も一瞬で導出できる驚きの威力

イェンゼンの不等式の凄まじさは、高校数学で学ぶ様々な有名不等式を「単なる特殊ケース」として一網打尽に証明できる点にあります。その代表例が相加相乗平均の不等式（AM-GM不等式）です。

正の実数 $x_1, x_2, \dots, x_n > 0$ に対して、自然対数関数 $f(x) = -\log x$ を考えます。2階微分を計算すると $f''(x) = \frac{1}{x^2} > 0$ となり、$f(x) = -\log x$ は $x > 0$ において厳密に下に凸な関数です。

すべての重みを均等に $p_i = \frac{1}{n}$ と設定し、イェンゼンの不等式を適用してみます。

$$-\log\left(\frac{1}{n}\sum_{i=1}^n x_i\right) \le \frac{1}{n}\sum_{i=1}^n (-\log x_i)$$

両辺に $-1$ を掛けて不等号を反転させ、対数の加法定理を適用します。

$$\log\left(\frac{x_1 + x_2 + \dots + x_n}{n}\right) \ge \frac{1}{n} \log(x_1 x_2 \cdots x_n) = \log\left(\sqrt[n]{x_1 x_2 \cdots x_n}\right)$$

対数関数は単調増加であるため、真数をそのまま比較することで、おなじみの相加相乗平均の不等式が導出されます。

$$\frac{x_1 + x_2 + \dots + x_n}{n} \ge \sqrt[n]{x_1 x_2 \cdots x_n}$$

通常の数学的帰納法では技巧的な式変形が必要とされる $n$ 変数の相加相乗平均が、凸関数の性質を使うだけでわずか数行で示せるこのエレガントさは、イェンゼンの不等式が持つ強力なパワーの証左です。

【AI・データサイエンス】機械学習を支えるEMアルゴリズムとKL情報量への応用

現代の人工知能技術や統計的機械学習の数理基盤において、イェンゼンの不等式は中心的な役割を果たしています。特に欠かせないのが、カルバック・ライブラー情報量（KLダイバージェンス）の非負性証明と、潜在変数モデルの学習に用いられるEMアルゴリズム（Expectation-Maximization Algorithm）です。

2つの確率分布 $P(x)$ と $Q(x)$ の差異を測る尺度であるKL情報量は、次のように定義されます。

$$D_{\mathrm{KL}}(P \parallel Q) = \sum_{x} P(x) \log \frac{P(x)}{Q(x)} = \mathbb{E}_{P}\left[ -\log \frac{Q(X)}{P(X)} \right]$$

ここで $f(t) = -\log t$ が凸関数であることを利用し、イェンゼンの不等式を適用すると以下の関係が導かれます。

$$D_{\mathrm{KL}}(P \parallel Q) \ge -\log \mathbb{E}_{P}\left[ \frac{Q(X)}{P(X)} \right] = -\log \sum_{x} P(x) \frac{Q(x)}{P(x)} = -\log \sum_{x} Q(x) = -\log(1) = 0$$

これにより、「いかなる確率分布に対しても $D_{\mathrm{KL}}(P \parallel Q) \ge 0$ であり、$P = Q$ のときに限りゼロになる」という情報理論の基本定理（ギブスの不等式）が証明されます。

さらに、混合ガウスモデル（GMM）の推定や、深層生成モデルである変分オートエンコーダ（VAE）の訓練目的関数として知られる「証拠下界（ELBO: Evidence Lower Bound）」の導出においても、対数尤度 $\log P(X)$ の下界を構成するためにイェンゼンの不等式が直接利用されています。複雑な事後分布を直接計算できない場合でも、不等式によって扱いやすい下界関数を作り出し、それを最大化することで最適解へと近似していくアルゴリズム設計の要となっているのです。

【イェンゼンの不等式】に関するよくある質問（FAQ）

Q1：大学入試の数学の記述式試験で、イェンゼンの不等式を断りなく使っても減点されませんか？
A1：高校の学習指導要領の範囲外（発展事項）として扱われることが多いため、難関大学の記述試験では「無断使用」すると途中点を与えられない、あるいは減点されるリスクがあります。入試で活用する場合は、$n=2$ の定義式を示した上で数学的帰納法による略証を添えるか、関数の凸性から接線の方程式を立てて不等式を評価する標準的な解法へ落とし込むのが安全です。

Q2：下に凸な関数と上に凸な関数で、不等式の向きを思い出す簡単な覚え方はありますか？
A2：具体的な簡単関数を1つ思い浮かべるのが最も確実です。下に凸の代表である $f(x) = x^2$ を考え、$(0+2)/2 = 1$ の二乗（$1^2=1$）と、二乗の平均（$(0^2+2^2)/2 = 2$）を比較すると、$1 \le 2$ となり「関数の外側で平均した方が大きい（$f(\mathbb{E}[X]) \le \mathbb{E}[f(X)]$）」と瞬時に判定できます。

Q3：なぜ機械学習やAIの論文ではこれほど頻繁にイェンゼンの不等式が登場するのですか？
A3：機械学習の多くは「対数尤度の最大化」を目標としますが、観測できない潜在変数が絡むと、対数の中に積分や総和が入った $\log \int P(x, z) dz$ のような解析的に解けない形が現れます。ここで対数（凹関数）にイェンゼンの不等式を適用すると、「総和の外側に対数を出す」ことができ、計算可能な最適化問題へと帰着できるためです。

まとめ：難解な数式を武器に変えるイェンゼンの不等式の真価

イェンゼンの不等式は、一見すると抽象的な確率・解析学の定理ですが、その根底にあるのは「凸関数のグラフと弦の幾何学的関係」という極めてシンプルな直感です。このシンプルな本質が、数学的帰納法という論理の架け橋を通ることで、初等不等式の証明から最先端の機械学習モデルの最適化に至るまで、多岐にわたる分野で強力な推論エンジンとして機能しています。

直感的なグラフのイメージと期待値を用いた統一的な定式化の双方を頭に定着させておくことで、数式が持つ本来の幾何学的意味を深く読み解き、高度なデータ解析や数理モデルの構築において確かな洞察力を発揮できるようになるはずです。 （出典: イェンゼン の 不等式（Yahoo!ニュース））