イェンセンの不等式とは？AI時代を支える数学の急所を完全解説

高度な生成AIモデルやデータサイエンスの理論が日進月歩で進化する2026年、最先端のアルゴリズムを支える数学的基盤として「イェンセンの不等式」が再び脚光を浴びています。機械学習の論文や統計モデリングの解説書を開くと必ずと言っていいほど登場する定理ですが、数式の見た目に圧倒されて直感的な意味を見失ってしまう初学者も少なくありません。

本稿では、高校数学で学ぶ初歩的な幾何イメージから、確率統計における厳密な証明、相加相乗平均との意外な接点、そして現代の機械学習で不可欠とされる変分下界の導出までをわかりやすく紐解いていきます。

📌 【この記事の重要ポイントまとめ】

• 要点1：イェンセンの不等式は「凸関数における期待値の関数値」と「関数値の期待値」の大小関係を保証する定理。
• 要点2：相加相乗平均の証明からカルバック・ライブラー情報量の非負性、VAEのELBO導出まで広範に応用される。
• 要点3：下に凸なグラフ上の「割線と曲線」の位置関係を幾何学的に掴むことで、数式の本質が驚くほど明快に理解できる。

【直感的理解】イェンセンの不等式とは？グラフで掴む凸関数の本質

イェンセンの不等式（Jensen's inequality）を一言で表現するなら、「凸関数を通した後の平均」と「平均をとった後の関数値」を比較する不等式です。デンマークの数学者ヨハン・イェンセンが1906年に発表したこの定理は、直感的な幾何学イメージを持つことで一気に視界が開けます。

まず、関数が「下に凸（Convex）」である状態をイメージしてください。お椀のような形をした放物線 $f(x) = x^2$ を思い浮かべると分かりやすいでしょう。グラフ上の任意の2点 $A(x_1, f(x_1))$ と $B(x_2, f(x_2))$ を結ぶ線分（割線）を引くと、その線分は常に元の曲線よりも上側（または一致する位置）に位置します。

この2点の内分点を考えたとき、次の関係が成り立ちます。

$$f\left(\frac{x_1 + x_2}{2}\right) \le \frac{f(x_1) + f(x_2)}{2}$$

左辺は「$x_1$ と $x_2$ の平均値に対する関数値」であり、右辺は「それぞれの関数値の平均値」を表します。グラフで見れば、曲線上にある点（左辺）よりも、2点を結ぶ線分上の中点（右辺）のほうが高い位置にあるのは一目瞭然です。この幾何学的性質を確率変数や任意の重み付き平均へと拡張したものが、確率統計における一般的なイェンセンの不等式です。

確率変数 $X$ と下に凸な関数 $f$ に対し、期待値記号 $E[\cdot]$ を用いると次のように美しく定式化されます。

$$f(E[X]) \le E[f(X)]$$

逆に関数が「上に凸（Concave）」である場合（例：対数関数 $f(x) = \log x$）は不等号の向きが反転し、$f(E[X]) \ge E[f(X)]$ となります。「下に凸なら関数の外側（期待値の関数値）が小さい」「上に凸なら関数の外側が大きい」と整理しておくのが、直感的な理解を保つコツです。

【厳密な証明】数学的帰納法と接線を用いたスマートなアプローチ

イェンセンの不等式は直感的に明らかなだけでなく、数学的にも非常にエレガントな方法で証明できます。ここでは代表的な2つのアプローチを紹介します。

1つ目は、離散的な重み付き平均に対する数学的帰納法を用いた証明です。$n=2$ の場合は凸関数の定義そのものであり、$n=k$ で成立すると仮定して重みの正規化を行うことで、$n=k+1$ でも成り立つことを高校数学の範囲で簡潔に示すことができます。

2つ目は、より強力かつ連続型確率変数にもそのまま適用できる接線（サポート直線）を用いた証明です。下に凸な関数 $f(x)$ には、「任意の点において引いた接線は、常に元のグラフの下側にある」という決定的な特徴があります。

期待値 $\mu = E[X]$ の点における関数 $f(x)$ の接線の方程式を $L(x) = f'(\mu)(x - \mu) + f(\mu)$ と置きます（微分不可能な点でも劣微分が存在します）。凸関数の性質から、すべての $x$ において次の関係が成立します。

$$f(x) \ge f'(\mu)(x - \mu) + f(\mu)$$

この両辺の期待値を取ると、期待値の線形性により以下の計算が進みます。

$$E[f(X)] \ge E[f'(\mu)(X - \mu) + f(\mu)] = f'(\mu)(E[X] - \mu) + f(\mu)$$

ここで $E[X] = \mu$ ですから、右辺第1項の $(E[X] - \mu)$ はゼロになります。その結果、右辺には $f(\mu) = f(E[X])$ のみが残り、鮮やかに $E[f(X)] \ge f(E[X])$ が導かれます。複雑な積分計算を経ることなく、凸関数の持つ幾何学的性質だけで不等式が成立する様子は圧巻です。

【高校数学との接続】相加相乗平均の不等式を一瞬で導出する

高校数学で多くの受験生が頭を悩ませる「相加相乗平均の不等式（AM-GM不等式）」も、イェンセンの不等式を用いればわずか数行で証明可能です。

正の実数 $x_1, x_2, \dots, x_n$ に対し、自然対数関数 $f(x) = \log x$ を考えます。対数関数の2階微分を計算すると $f''(x) = -1/x^2 < 0$ となり、$x > 0$ において常に上に凸であることが分かります。各データ点が等確率 $1/n$ で現れる離散確率分布を想定し、上に凸な関数に対するイェンセンの不等式 $f(E[X]) \ge E[f(X)]$ を適用してみましょう。

$$\log\left( \frac{1}{n} \sum_{i=1}^n x_i \right) \ge \frac{1}{n} \sum_{i=1}^n \log x_i$$

右辺に対数の性質 $\frac{1}{n}\log x_i = \log(x_i^{1/n})$ を適用してまとめると、以下のようになります。

$$\log\left( \frac{1}{n} \sum_{i=1}^n x_i \right) \ge \log\left( \prod_{i=1}^n x_i \right)^{1/n}$$

対数関数は単調増加であるため、真数をそのまま比較することができます。これにより、見慣れた相加相乗平均の不等式が一瞬で得られます。

$$\frac{x_1 + x_2 + \cdots + x_n}{n} \ge \sqrt[n]{x_1 x_2 \cdots x_n}$$

重み $p_i$（$\sum p_i = 1$）を導入すれば、重み付き相加相乗平均への拡張も極めて自然に行えます。高校時代に丸暗記した定理の背後に、凸関数とイェンセンの不等式という巨大な数理体系が広がっていることを実感できる好例です。

【機械学習での決定的役割】KL情報量と変分オートエンコーダ（VAE）への応用

なぜ機械学習やデータサイエンスの現場において、イェンセンの不等式はこれほど重宝されているのでしょうか。その理由は、「直接計算できない複雑な確率モデルに対し、最適化可能な下界（バウンド）を構成できるから」です。

代表的な応用例の筆頭が、2つの確率分布 $P$ と $Q$ の差異を測る「カルバック・ライブラー情報量（KLダイバージェンス）」が常に0以上になること（ギブスの不等式）の証明です。

$$D_{\mathrm{KL}}(P \parallel Q) = \sum_{x} P(x) \log \frac{P(x)}{Q(x)} = - \sum_{x} P(x) \log \frac{Q(x)}{P(x)}$$

ここで $f(t) = -\log t$ は下に凸な関数です。期待値の定義に基づきイェンセンの不等式を適用すると、以下の変形が成り立ちます。

$$D_{\mathrm{KL}}(P \parallel Q) = E_{P}\left[ -\log \frac{Q(X)}{P(X)} \right] \ge -\log E_{P}\left[ \frac{Q(X)}{P(X)} \right] = -\log \sum_{x} P(x) \frac{Q(x)}{P(x)} = -\log(1) = 0$$

この結果により、$D_{\mathrm{KL}}(P \parallel Q) \ge 0$ が担保され、分布間の「距離のような指標」として安心して利用できる理論的裏付けが得られます。

さらに現代の深層生成モデルを代表する変分オートエンコーダ（VAE）や、不完全データからパラメータを推定するEMアルゴリズムでは、この性質がフル活用されています。

観測データ $x$ の対数尤度 $\log p(x)$ を直接最大化したいものの、潜在変数 $z$ の積分が困難で計算できない（Intractable）状況を考えます。ここで近似事後分布 $q(z|x)$ を導入し、対数関数（上に凸）に対してイェンセンの不等式を適用します。

$$\log p(x) = \log \int p(x, z) dz = \log \int q(z|x) \frac{p(x, z)}{q(z|x)} dz = \log E_{q}\left[ \frac{p(x, z)}{q(z|x)} \right] \ge E_{q}\left[ \log \frac{p(x, z)}{q(z|x)} \right]$$

この不等式の右辺こそが、機械学習で頻出する「証拠下界（ELBO: Evidence Lower Bound）」です。計算不可能な対数尤度を直接追う代わりに、イェンセンの不等式によって作り出した下界（ELBO）をニューラルネットワークで最大化することで、複雑な画像や音声の生成モデルが安定して学習できるようになっています。

【発展】条件付き期待値とマルチンゲール理論への広がり

イェンセンの不等式の適用範囲は、単純な期待値にとどまりません。より進んだ現代確率論や数理ファイナンスの分野では、部分情報が与えられた状況を扱う「条件付き期待値」に対するイェンセンの不等式が活躍します。

部分 $\sigma$ 加法族 $\mathcal{G}$ のもとでの条件付き期待値に対し、凸関数 $f$ を用いると次が成り立ちます。

$$f(E[X \mid \mathcal{G}]) \le E[f(X) \mid \mathcal{G}]$$

この性質は、時系列データやランダムウォークの解析において中心的な役割を果たす「マルチンゲール理論」の基礎です。例えば、マルチンゲール過程 $X_n$ に対して凸関数 $f$ を適用すると、$f(X_n)$ はサブマルチンゲール（期待値が時間とともに減少しない過程）になることが導かれます。金融工学におけるオプション価格理論やリスク管理の数学的厳密性は、まさにこの不等式の上に乗っています。

【イェンセンの不等式】に関するよくある質問（FAQ）

Q1：下に凸な関数と上に凸な関数で、不等号の向きはどう見分ければ良いですか？
A1：放物線 $f(x) = x^2$ のように「下に凸」な形状であれば $f(E[X]) \le E[f(X)]$ となり、期待値を取ってから関数に入れる方が小さくなります。一方、対数関数 $f(x) = \log x$ のように「上に凸」な形状では $f(E[X]) \ge E[f(X)]$ と不等号が逆転します。迷ったときは $x^2$ や $\log x$ のグラフを描いて確認するのが確実です。

Q2：イェンセンの不等式で「等号が成立する」のはどのような場合ですか？
A2：等号成立条件は主に2パターンです。1つ目は確率変数 $X$ が定数（分散がゼロ、すなわち確率1である1点に集中している）の場合。2つ目は対象の関数 $f(x)$ が厳密な凸関数ではなく、直線（アフィン変換 $f(x) = ax + b$）の場合です。関数が厳密に凸（strictly convex）であり、$X$ が非自明なばらつきを持つ場合、不等号は厳密に成立します（$<$ または $>$）。

Q3：機械学習の最新論文を読む際、イェンセンの不等式はどこに注目すべきですか？
A3：主に「対数尤度の最大化が難しく、変分推論（Variational Inference）を用いて最適化問題を置き換えている箇所」に注目してください。$\log E[\cdot] \ge E[\log \cdot]$ という変形パターンを見かけたら、イェンセンの不等式を用いて下界を構成しているサインです。ELBOの導出や拡散モデル（Diffusion Models）の理論的枠組みでも基盤として多用されています。

まとめ：直感と厳密さを両立して機械学習の数理を制する

イェンセンの不等式は、一見すると抽象的な数式に見えますが、その根底にあるのは「凸関数のグラフと割線の位置関係」という極めてシンプルな幾何学的直感です。このシンプルな性質が、高校数学の相加相乗平均から、情報理論のKLダイバージェンス、さらには現代の最先端生成AIを支える変分下界の導出まで、驚くほど一貫した論理で貫かれています。

数式の形を単に暗記するのではなく、「なぜ不等号がその向きになるのか」「どの凸関数を適用しているのか」という構造を意識することで、機械学習論文の数式展開や統計モデルの挙動が格段にクリアに見通せるようになります。強固な数理的土台を手に入れ、次世代のAI技術やデータサイエンスの深層をより深く読み解いていきましょう。 （出典: イェンセン の 不等式（Yahoo!ニュース））