ヒルベルト空間の定義と内積｜偏極恒等式から射影定理・最小二乗法までざっくりわかりやすく解説

$sin x$ と $cos x$ を $[0, 2 π]$ で掛けて積分すると、値は $0$ になります。この事実を「2 つの関数は直交する」と読みます。

関数どうしが直角に交わる、というのです。矢印でも点でもないものに角度を入れる。その仕掛けが内積にほかなりません。

ヒルベルト空間は内積が定義されたバナッハ空間であり、量子力学や偏微分方程式の理論で中心的な役割を果たします。

内積の定義

複素ベクトル空間 $H$ 上の写像 $⟨ \cdot, \cdot ⟩ : H \times H \to C$ が次の条件を満たすとき、内積といいます。

線形性（第 1 成分）

$⟨ α x + β y, z ⟩ = α ⟨ x, z ⟩ + β ⟨ y, z ⟩$

共役対称性

$⟨ x, y ⟩ = \overline{⟨ y, x ⟩}$

正値性

$⟨ x, x ⟩ \geq 0$ かつ $⟨ x, x ⟩ = 0 \Leftrightarrow x = 0$

実ベクトル空間の場合は、共役対称性が単に $⟨ x, y ⟩ = ⟨ y, x ⟩$ となります。

正値性の $⟨ x, x ⟩ \geq 0$ には、暗黙の主張が隠れています。共役対称性から $⟨ x, x ⟩ = \overline{⟨ x, x ⟩}$ なので、この値は自動的に実数になるのです。

複素数には大小がありません。 $\geq 0$ と書けること自体が、共役対称性の贈り物です。

第 2 成分は共役線形になる

第 1 成分の線形性と共役対称性を組み合わせると、第 2 成分の振る舞いが決まります。スカラーを外に出してみます。

$⟨ x, α y ⟩ = \overline{⟨ α y, x ⟩} = \overline{α ⟨ y, x ⟩} = \overset{α}{ˉ} \overline{⟨ y, x ⟩} = \overset{α}{ˉ} ⟨ x, y ⟩$

第 2 成分から出るときは、共役がついてしまいました。この非対称性は複素内積の宿命です。

実の場合は共役が何もしないので、両成分とも線形になります。複素数を使うから話がねじれるのです。

数学の規約と物理の規約

数学（この記事）

第 1 成分が線形、第 2 成分が共役線形。 $⟨ α x, y ⟩ = α ⟨ x, y ⟩$ となる。

物理（ディラック記法）

第 1 成分が共役線形、第 2 成分が線形。 $⟨ ϕ ∣ α ψ ⟩ = α ⟨ ϕ ∣ ψ ⟩$ となる。

どちらが正しい、という話ではありません。文献を開いたら、どちらの規約かをまず確かめる必要がある、というだけです。

以下では数学の規約で通します。第 1 成分が線形、と覚えてください。

例： $C^{2}$ で内積を計算する

$C^{n}$ の標準内積は $⟨ x, y ⟩ = \sum_{i} x_{i} \overline{y_{i}}$ です。 $x = (1, i)$ 、 $y = (2, 1 - i)$ で計算します。

$⟨ x, y ⟩ = 1 \cdot \overline{2} + i \cdot \overline{(1 - i)} = 2 + i (1 + i) = 1 + i$

順序を入れ替えると何が起きるか、確かめます。

$⟨ y, x ⟩ = 2 \cdot \overline{1} + (1 - i) \cdot \overline{i} = 2 - i (1 - i) = 1 - i$

たしかに $⟨ y, x ⟩ = \overline{⟨ x, y ⟩}$ です。順序を変えると、値が共役に化けました。

例：内積からノルムを作る

同じベクトルどうしの内積を取ると、必ず実数の非負値が出ます。 $x = (1, i)$ で確かめます。

$⟨ x, x ⟩ = 1 \cdot \overline{1} + i \cdot \overline{i} = 1 + i (- i) = 2$

よって $∥ x ∥ = 2$ になります。虚数の成分があっても、長さはきちんと実数です。

各成分の絶対値の 2 乗を足しているだけ、と読めば当たり前でしょう。共役を掛ける仕組みが、そのために効いています。

内積から定まるノルム

内積から $∥ x ∥ = ⟨ x, x ⟩$ でノルムが定義できます。これがノルムの公理を満たすことは、次のコーシー・シュワルツの不等式から従います。

$∣ ⟨ x, y ⟩ ∣ \leq ∥ x ∥ \cdot ∥ y ∥$

等号成立は $x$ と $y$ が線形従属のときに限ります。

コーシー・シュワルツの証明

$y \neq = 0$ とし、任意のスカラー $t$ に対して $∥ x - t y ∥^{2} \geq 0$ が成り立つことを使います。左辺を展開します。

$∥ x ∥^{2} - 2 Re (\overset{ˉ}{t} ⟨ x, y ⟩) + ∣ t ∣^{2} ∥ y ∥^{2} \geq 0$

ここで $t = ⟨ x, y ⟩ /∥ y ∥^{2}$ と選びます。第 2 項と第 3 項が整理され、次の形が残ります。

$∥ x ∥^{2} - \frac{∣ ⟨ x , y ⟩ ∣ ^{2}}{∥ y ∥ ^{2}} \geq 0$

両辺に $∥ y ∥^{2}$ を掛けて平方根を取れば、コーシー・シュワルツの不等式です。

この $t$ の選び方は、 $x$ から $y$ 方向の成分をちょうど引き去るものです。証明はすでに射影の計算になっています。

例：数値で確かめる

$R^{3}$ で $x = (1, 2, 3)$ 、 $y = (4, 5, 6)$ とします。内積は $4 + 10 + 18 = 32$ です。

ノルムは $∥ x ∥ = 14 \approx 3.742$ 、 $∥ y ∥ = 77 \approx 8.775$ で、積はおよそ $32.83$ になります。

$32 \leq 32.83$ で、不等式はぎりぎり成立しました。2 つのベクトルの向きがよく揃っているので、等号に近いのです。

例：積分版のコーシー・シュワルツ

$L^{2} [0, 1]$ で $f (x) = x$ 、 $g (x) = 1$ とします。内積は積の積分です。

$⟨ f, g ⟩ = \int_{0}^{1} x \cdot 1 d x = \frac{1}{2}$

ノルムは $∥ f ∥ = 1/ 3 \approx 0.577$ 、 $∥ g ∥ = 1$ です。積も $0.577$ になります。

$0.5 \leq 0.577$ で成立します。関数の空間でも、同じ不等式がそのまま通用するのです。

三角不等式が出てくる

コーシー・シュワルツから、ノルムの三角不等式が導けます。 $∥ x + y ∥^{2}$ を展開してみます。

$∥ x + y ∥^{2} = ∥ x ∥^{2} + 2 Re ⟨ x, y ⟩ + ∥ y ∥^{2}$

$Re ⟨ x, y ⟩ \leq ∣ ⟨ x, y ⟩ ∣ \leq ∥ x ∥ ∥ y ∥$ を使うと、右辺は $(∥ x ∥ + ∥ y ∥)^{2}$ 以下になります。

平方根を取れば $∥ x + y ∥ \leq ∥ x ∥ + ∥ y ∥$ です。内積さえあれば、ノルムの公理はただで手に入ります。

ノルム空間と内積空間の違い

ノルム空間

測れるのは長さだけ。2 つのベクトルが垂直かどうかを問う手段がない。

内積空間

長さに加えて角度が測れる。 $⟨ x, y ⟩ = 0$ が直交の定義になり、幾何が戻ってくる。

内積はノルムを生みますが、逆は一般に成り立ちません。長さの情報だけからは、角度を復元できないからです。

ただし例外があります。平行四辺形の法則を満たすノルムに限れば、内積が復元できます。この記事の後半の主題です。

ヒルベルト空間の定義

内積空間が、その内積から定まるノルムに関して完備であるとき、ヒルベルト空間 といいます。

$R^{n}$ , $C^{n}$	標準内積 $⟨ x, y ⟩ = \sum_{i} x_{i} \overline{y_{i}}$
$ℓ^{2}$	内積 $⟨ x, y ⟩ = \sum_{n = 1}^{\infty} x_{n} \overline{y_{n}}$
$L^{2} (Ω)$	内積 $⟨ f, g ⟩ = \int_{Ω} f (x) \overline{g (x)} d x$

完備とは、コーシー列が必ずその空間の中で収束することです。近づいているのに行き先がない、という穴がありません。

穴があると、極限を取る議論がすべて崩れます。無限次元の解析で完備性を要求するのは、そのためです。

構造の階段

内積 $⟨ x, y ⟩$

ノルム $∥ x ∥ = ⟨ x, x ⟩$

距離 $d (x, y) = ∥ x - y ∥$

完備ならヒルベルト空間

上から下へ、構造は一方通行で落ちていきます。内積があればノルムがあり、ノルムがあれば距離があります。

逆向きに登るには条件が要ります。距離からノルムへは平行移動不変性と斉次性、ノルムから内積へは平行四辺形の法則です。

例： $ℓ^{2}$ は完備である

2 乗和が収束する数列の全体が $ℓ^{2}$ です。コーシー列 $x^{(k)}$ を取ります。

各成分について $∣ x_{i}^{(k)} - x_{i}^{(l)} ∣ \leq ∥ x^{(k)} - x^{(l)} ∥$ が成り立つので、成分ごとにコーシー列になり、極限 $x_{i}$ が定まります。

並べた $x$ が $ℓ^{2}$ に入ることと、 $∥ x^{(k)} - x ∥ \to 0$ を確かめれば完備性が出ます。

$ℓ^{2}$ は無限次元ヒルベルト空間の原型です。可分なヒルベルト空間は、どれも $ℓ^{2}$ と同型になります。

例：内積空間だがヒルベルト空間でない

$C [0, 1]$ に $L^{2}$ 内積 $⟨ f, g ⟩ = \int_{0}^{1} f \overset{g}{ˉ} d x$ を入れます。内積の公理はすべて満たします。

ところが完備ではありません。 $[0, 1/2]$ で $0$ 、 $[1/2 + 1/ n, 1]$ で $1$ 、その間を直線でつないだ連続関数 $g_{n}$ を考えます。

$∥ g_{n} - g_{m} ∥$ は幅 $1/ n$ 程度の区間だけの積分なので、 $0$ に向かいます。 $g_{n}$ はコーシー列です。

しかし行き先は $x = 1/2$ で飛ぶ階段関数で、連続関数ではありません。内積があっても完備とは限らないのです。

例：有限次元なら自動的に完備

有限次元の内積空間は、必ずヒルベルト空間になります。 $C^{n}$ と同型で、収束が成分ごとの収束に帰着するからです。

有限次元ではすべてのノルムが同値なので、完備性はノルムの選び方によりません。 $R^{n}$ の完備性から、すべてが従います。

完備性を気にするのは、無限次元に出たときだけです。困難はいつも無限から来ます。

平行四辺形の法則

内積から定まるノルムは、次の 平行四辺形の法則 を満たします。

$∥ x + y ∥^{2} + ∥ x - y ∥^{2} = 2 (∥ x ∥^{2} + ∥ y ∥^{2})$

証明は展開するだけです。 $∥ x + y ∥^{2}$ と $∥ x - y ∥^{2}$ を書き下すと、交差項 $2 Re ⟨ x, y ⟩$ が符号違いで現れ、足すと消えます。

逆に、この法則を満たすノルムは内積から定まることが知られています（ヨルダン・フォン=ノイマンの定理）。

$ℓ^{p}$ （ $p \neq = 2$ ）や $C [0, 1]$ （sup ノルム）はこの法則を満たさないため、ヒルベルト空間ではありません。

図で見る平行四辺形

2 辺を $x$ と $y$ とする平行四辺形を描き、2 本の対角線を引きます。

HTML

CSS

JavaScript

<div class="cont">
<svg viewBox="0 0 420 232" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="平行四辺形と 2 本の対角線">
<rect x="0" y="0" width="420" height="232" rx="10" fill="#fafbfc"/>
<polygon points="90,190 230,190 300,80 160,80" fill="#5b8def" fill-opacity="0.07" stroke="#c8ccd2" stroke-width="1.2"/>
<line x1="90" y1="190" x2="300" y2="80" stroke="#e0872f" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="160" y1="80" x2="230" y2="190" stroke="#e5484d" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="90" y1="190" x2="230" y2="190" stroke="#3468d6" stroke-width="2"/>
<line x1="90" y1="190" x2="160" y2="80" stroke="#3468d6" stroke-width="2"/>
<polygon points="230,190 221,186 221,194" fill="#3468d6"/>
<polygon points="160,80 158.6,89.7 151.8,85.5" fill="#3468d6"/>
<circle cx="90" cy="190" r="3" fill="#1b1d22"/>
<g font-family="Georgia, serif" font-style="italic" font-size="14" paint-order="stroke" stroke="#ffffff" stroke-width="3.5" stroke-linejoin="round">
<text x="158" y="209" fill="#3468d6">x</text>
<text x="104" y="128" fill="#3468d6">y</text>
<text x="246" y="104" fill="#c4772a">x + y</text>
<text x="220" y="164" fill="#c93c41">x − y</text>
</g>
<text x="82" y="205" font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" text-anchor="end" fill="#9aa0a6">0</text>
<text x="210" y="222" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">対角線の 2 乗和は、4 辺の 2 乗和に等しい</text>
</svg>
</div>

.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }

2 本の対角線が $x + y$ と $x - y$ です。法則は「対角線の 2 乗和は 4 辺の 2 乗和に等しい」と読み替えられます。

中線定理と呼ばれる初等幾何の事実そのものです。この等式の成立が内積の存在と同値になる、というのがヨルダン・フォン=ノイマンの定理の驚きです。

例： $ℓ^{1}$ は法則を破る

$x = (1, 0)$ 、 $y = (0, 1)$ を $ℓ^{1}$ ノルムで測ります。 $x + y = (1, 1)$ 、 $x - y = (1, - 1)$ です。

$∥ x + y ∥_{1} = 2$ 、 $∥ x - y ∥_{1} = 2$ なので、左辺は $4 + 4 = 8$ になります。右辺は $2 (1 + 1) = 4$ です。

$8 \neq = 4$ で、法則は破れました。 $ℓ^{1}$ ノルムを与える内積は存在しません。

同じ計算で $ℓ^{\infty}$ も脱落します。左辺が $1 + 1 = 2$ 、右辺が $4$ です。

例：sup ノルムの $C [0, 1]$ も破る

$f (x) = 1$ と $g (x) = x$ を取ります。和は $1 + x$ 、差は $1 - x$ です。

区間 $[0, 1]$ での最大値を見ます。 $∥ f + g ∥_{\infty} = 2$ 、 $∥ f - g ∥_{\infty} = 1$ 、 $∥ f ∥_{\infty} = ∥ g ∥_{\infty} = 1$ です。

左辺は $4 + 1 = 5$ 、右辺は $2 (1 + 1) = 4$ 。 $5 \neq = 4$ なので、法則は成り立ちません。

$C [0, 1]$ は sup ノルムで完備なバナッハ空間ですが、ヒルベルト空間ではないのです。この空間に角度を測る手段はありません。

内積の復元

ノルムが平行四辺形の法則を満たすとき、内積は 偏極恒等式 で復元できます。

$⟨ x, y ⟩ = \frac{1}{4} (∥ x + y ∥^{2} - ∥ x - y ∥^{2} + i ∥ x + i y ∥^{2} - i ∥ x - i y ∥^{2})$

実空間では虚数単位の項が消えます。

$⟨ x, y ⟩ = \frac{∥ x + y ∥ ^{2} - ∥ x - y ∥ ^{2}}{4}$

長さを何回か測るだけで、角度が分かってしまう。これが偏極恒等式の主張です。

例：実 2 次元で内積を復元する

$x = (1, 2)$ 、 $y = (3, 4)$ とします。和は $(4, 6)$ 、差は $(- 2, - 2)$ です。

$∥ x + y ∥^{2} = 16 + 36 = 52, ∥ x - y ∥^{2} = 4 + 4 = 8$

偏極恒等式に入れると $(52 - 8) /4 = 11$ を得ます。

直接計算した内積は $1 \cdot 3 + 2 \cdot 4 = 11$ 。ぴたりと一致しました。長さだけから内積が出ています。

例：複素数で復元する

$H = C$ 、 $⟨ x, y ⟩ = x \overset{y}{ˉ}$ とします。 $x = 1$ 、 $y = i$ で試します。

まず実部にあたる 2 項です。 $∥ x + y ∥^{2} = ∣1 + i ∣^{2} = 2$ 、 $∥ x - y ∥^{2} = ∣1 - i ∣^{2} = 2$ で、差し引き $0$ になります。

残りの 2 項が効いてきます。 $∥ x + i y ∥^{2} = ∣1 + i \cdot i ∣^{2} = 0$ 、 $∥ x - i y ∥^{2} = ∣1 - i \cdot i ∣^{2} = 4$ です。

偏極恒等式は $(1/4) (2 - 2 + i \cdot 0 - i \cdot 4) = - i$ を与えます。直接計算の $1 \cdot \overset{ˉ}{i} = - i$ と一致しました。

虚部の項がなければ、この $- i$ は出てきません。複素の場合に 4 つの項が要るのは、そのためです。

直交とピタゴラス

$⟨ x, y ⟩ = 0$ のとき、 $x$ と $y$ は直交するといい、 $x ⊥ y$ と書きます。

直交すれば $∥ x + y ∥^{2} = ∥ x ∥^{2} + ∥ y ∥^{2}$ が成り立ちます。展開で現れる交差項 $2 Re ⟨ x, y ⟩$ が消えるからです。

ピタゴラスの定理が、無限次元でもそのまま生きています。三角関数の空間でも、量子状態の空間でも同じです。

例： $sin$ と $cos$ は直交する

$L^{2} [0, 2 π]$ で計算します。積を積分するだけです。

$\int_{0}^{2 π} sin x cos x d x = \frac{1}{2} \int_{0}^{2 π} sin 2 x d x = 0$

積分が $0$ なので、2 つの関数は直交します。 $sin 2 x$ が 2 周期ぶん振動し、正と負がきれいに打ち消し合うのです。

図で見る打ち消し

積 $sin x cos x$ のグラフと、その符号つき面積を描きます。

HTML

CSS

JavaScript

<div class="cont">
<svg viewBox="0 0 420 232" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="sin x と cos x の積の面積">
<rect x="0" y="0" width="420" height="232" rx="10" fill="#fafbfc"/>
<polygon points="60,120 80,98.8 100,90 120,98.8 140,120" fill="#3468d6" fill-opacity="0.18"/>
<polygon points="140,120 160,141.2 180,150 200,141.2 220,120" fill="#e5484d" fill-opacity="0.18"/>
<polygon points="220,120 240,98.8 260,90 280,98.8 300,120" fill="#3468d6" fill-opacity="0.18"/>
<polygon points="300,120 320,141.2 340,150 360,141.2 380,120" fill="#e5484d" fill-opacity="0.18"/>
<line x1="52" y1="120" x2="392" y2="120" stroke="#c8ccd2" stroke-width="1"/>
<line x1="60" y1="120" x2="60" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<line x1="220" y1="120" x2="220" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<line x1="380" y1="120" x2="380" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<polyline points="60,120 80,97 100,77.6 120,64.6 140,60 160,64.6 180,77.6 200,97 220,120 240,143 260,162.4 280,175.4 300,180 320,175.4 340,162.4 360,143 380,120" fill="none" stroke="#8aa0d8" stroke-width="1.6"/>
<polyline points="60,60 80,64.6 100,77.6 120,97 140,120 160,143 180,162.4 200,175.4 220,180 240,175.4 260,162.4 280,143 300,120 320,97 340,77.6 360,64.6 380,60" fill="none" stroke="#e0b07a" stroke-width="1.6"/>
<polyline points="60,120 80,98.8 100,90 120,98.8 140,120 160,141.2 180,150 200,141.2 220,120 240,98.8 260,90 280,98.8 300,120 320,141.2 340,150 360,141.2 380,120" fill="none" stroke="#1b1d22" stroke-width="2"/>
<g font-family="ui-sans-serif, system-ui, sans-serif" font-size="11.5" paint-order="stroke" stroke="#ffffff" stroke-width="3" stroke-linejoin="round">
<text x="146" y="52" fill="#6a80b8">sin x</text>
<text x="386" y="52" text-anchor="end" fill="#b8894a">cos x</text>
<text x="72" y="113" fill="#1b1d22">sin x cos x</text>
</g>
<g font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" fill="#9aa0a6" text-anchor="middle">
<text x="60" y="205">0</text>
<text x="220" y="205">π</text>
<text x="380" y="205">2π</text>
</g>
<text x="210" y="224" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">青い面積と赤い面積が等しく、積分は 0 になる</text>
</svg>
</div>

.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }

薄い 2 本が $sin x$ と $cos x$ 、濃い 1 本が積です。積の山と谷は、まったく同じ面積で正と負に分かれています。

塗った面積が過不足なく打ち消し合うこと。それが「直交する」という言葉の中身です。

例：三角関数系の直交性

もっと一般に、 $m \neq = n$ なら $sin m x$ と $sin n x$ は直交します。

$\int_{0}^{2 π} sin m x sin n x d x = 0 (m \neq = n)$

$m = n$ のときは値が $π$ になります。長さを $1$ にそろえたければ、 $π$ で割ればよいわけです。

$1, cos x, sin x, cos 2 x, sin 2 x, \dots$ は、互いに直交する関数の無限列を作ります。フーリエ級数とは、この直交系による展開にほかなりません。

正規直交系

$⟨ e_{i}, e_{j} ⟩$ が $i = j$ のとき $1$ 、 $i \neq = j$ のとき $0$ になる列 ${e_{n}}$ を、正規直交系といいます。

正規直交系があれば、展開の係数はただの内積で求まります。 $x = \sum_{n} c_{n} e_{n}$ と書けるなら、 $c_{n} = ⟨ x, e_{n} ⟩$ です。

連立方程式を解く必要はありません。射影を 1 つずつ取るだけで係数が出る。これが直交性のご利益です。

例： $ℓ^{2}$ の標準基底

$e_{n}$ を、第 $n$ 成分だけが $1$ で残りが $0$ の数列とします。 $⟨ e_{m}, e_{n} ⟩$ は $m = n$ のときだけ $1$ です。

任意の $x \in ℓ^{2}$ は $x = \sum_{n} x_{n} e_{n}$ と書け、係数は $x_{n} = ⟨ x, e_{n} ⟩$ で取り出せます。

基底は無限個ありますが、和は $ℓ^{2}$ ノルムの意味で収束します。無限次元でも「座標」が使えるのです。

例：グラム・シュミットで直交化する

一次独立なベクトルから正規直交系を作る手続きが、グラム・シュミットの直交化です。 $R^{3}$ で回してみます。

$v_{1} = (1, 1, 1)$ 、 $v_{2} = (1, 1, 0)$ 、 $v_{3} = (1, 0, 0)$ から始めます。まず $u_{1} = v_{1} / 3$ とします。

$v_{2}$ から $v_{1}$ 方向の成分を引きます。 $⟨ v_{2}, v_{1} ⟩ = 2$ 、 $∥ v_{1} ∥^{2} = 3$ なので、次のようになります。

$w_{2} = v_{2} - \frac{2}{3} v_{1} = (\frac{1}{3}, \frac{1}{3}, - \frac{2}{3})$

$∥ w_{2} ∥ = 6 /3$ なので $u_{2} = (1, 1, - 2) / 6$ です。 $⟨ u_{1}, u_{2} ⟩ = (1 + 1 - 2) / 18 = 0$ で、たしかに直交しています。

例：3 本目を直交化する

$v_{3} = (1, 0, 0)$ からは、 $v_{1}$ 方向と $w_{2}$ 方向の成分を両方引きます。

係数は $⟨ v_{3}, v_{1} ⟩ /∥ v_{1} ∥^{2} = 1/3$ と、 $⟨ v_{3}, (1, 1, - 2)⟩ /6 = 1/6$ です。

$w_{3} = (1, 0, 0) - \frac{1}{3} (1, 1, 1) - \frac{1}{6} (1, 1, - 2) = (\frac{1}{2}, - \frac{1}{2}, 0)$

正規化して $u_{3} = (1, - 1, 0) / 2$ を得ます。3 本のベクトルが、互いに直交する 3 本に化けました。

引き算のたびに直交成分だけが残る。この単純な操作が、あらゆる直交基底の作り方です。

例：ルジャンドル多項式を作る

同じ手続きを関数空間で回すと、有名な多項式列が出てきます。 $L^{2} [- 1, 1]$ で $1, x, x^{2}$ を直交化します。

$p_{0} = 1$ です。次に $x$ から $p_{0}$ 方向の成分を引きますが、 $\int_{- 1}^{1} x d x = 0$ なので、引くものがありません。 $p_{1} = x$ のままです。

$x^{2}$ からは 2 つ引きます。 $\int_{- 1}^{1} x^{2} d x = 2/3$ 、 $\int_{- 1}^{1} 1 d x = 2$ 、 $\int_{- 1}^{1} x^{3} d x = 0$ を使います。

$p_{2} = x^{2} - \frac{2/3}{2} \cdot 1 - 0 \cdot x = x^{2} - \frac{1}{3}$

これがルジャンドル多項式です。定数倍を調整すると、教科書に載る標準形 $P_{2} (x) = (3 x^{2} - 1) /2$ になります。

直交多項式は、グラム・シュミットの副産物にすぎません。ルジャンドルもチェビシェフもエルミートも、重みを変えて同じ手続きを回しただけです。

ベッセルの不等式

正規直交系 ${e_{n}}$ に対して、係数の 2 乗和はノルムを超えません。

$n \sum ∣ ⟨ x, e_{n} ⟩ ∣^{2} \leq ∥ x ∥^{2}$

射影で取り出した成分の合計が、もとのベクトルより大きくなることはない。当たり前のことを言っています。

等号が成り立つのは、 ${e_{n}}$ が取りこぼしなく空間を張るときです。そのとき正規直交基底と呼びます。

パーセバルの等式

${e_{n}}$ が正規直交基底なら、ベッセルの不等式は等式になります。

$∥ x ∥^{2} = n \sum ∣ ⟨ x, e_{n} ⟩ ∣^{2}$

ピタゴラスの定理の無限版です。長さの 2 乗は、各方向の成分の 2 乗和に等しい。

内積そのものも $⟨ x, y ⟩ = \sum_{n} ⟨ x, e_{n} ⟩ \overline{⟨ y, e_{n} ⟩}$ と書けます。空間はまるごと $ℓ^{2}$ に写ります。

例：パーセバルからバーゼル問題を解く

$f (x) = x$ を $[- π, π]$ でフーリエ展開します。奇関数なので $sin$ の項だけが残り、係数は $b_{n} = 2 (- 1)^{n + 1} / n$ です。

パーセバルの等式は、この設定で次の形になります。

$\int_{- π}^{π} x^{2} d x = π n = 1 \sum \infty b_{n}^{2}$

左辺は $2 π^{3} /3$ 、右辺は $π \sum 4/ n^{2}$ です。両辺を並べて整理します。

$\frac{2 π ^{3}}{3} = 4 π n = 1 \sum \infty \frac{1}{n ^{2}} ⟹ n = 1 \sum \infty \frac{1}{n ^{2}} = \frac{π ^{2}}{6}$

バーゼル問題の答えが落ちてきました。同じ関数の長さを 2 通りに測っただけで、 $π^{2} /6$ が転がり出てくるのです。

射影定理

ヒルベルト空間の主役が、次の定理です。

最短点の存在

$M$ を閉部分空間、 $x \in H$ とすると、 $x$ に最も近い $M$ の点 $P x$ がただ 1 つ存在する

直交分解

残差 $x - P x$ は $M$ のすべての元と直交する。空間は $H = M \oplus M^{⊥}$ と分かれる

完備性がなければ、最短点の存在は保証されません。距離が下限に近づくのに、その点が空間にない、という事態が起こるからです。

有限次元の直感がそのまま無限次元で通用するのは、この定理のおかげです。

図で見る直交射影

閉部分空間 $M$ を直線とみなし、 $x$ から垂線を下ろします。

HTML

CSS

JavaScript

<div class="cont">
<svg viewBox="0 0 420 215" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="部分空間への直交射影">
<rect x="0" y="0" width="420" height="215" rx="10" fill="#fafbfc"/>
<line x1="70" y1="170" x2="350" y2="100" stroke="#6b7280" stroke-width="1.6"/>
<line x1="197" y1="56" x2="216" y2="134" stroke="#e5484d" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="99" y1="163" x2="197" y2="56" stroke="#3468d6" stroke-width="2"/>
<line x1="99" y1="163" x2="216" y2="134" stroke="#2e9e6b" stroke-width="2"/>
<polyline points="206.3,136.4 203.9,126.7 213.6,124.3" fill="none" stroke="#e5484d" stroke-width="1.2"/>
<circle cx="99" cy="163" r="3" fill="#1b1d22"/>
<circle cx="197" cy="56" r="3.5" fill="#3468d6"/>
<circle cx="216" cy="134" r="3.5" fill="#2e9e6b"/>
<g font-family="Georgia, serif" font-style="italic" font-size="14" paint-order="stroke" stroke="#ffffff" stroke-width="3.5" stroke-linejoin="round">
<text x="203" y="50" fill="#3468d6">x</text>
<text x="224" y="150" fill="#2e9e6b">Px</text>
<text x="228" y="92" fill="#c93c41">x − Px</text>
<text x="356" y="98" fill="#6b7280">M</text>
</g>
<text x="91" y="176" font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" text-anchor="end" fill="#9aa0a6">0</text>
<text x="210" y="204" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">残差は M と直交し、Px は x に最も近い M の点になる</text>
</svg>
</div>

.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }

垂線の足が $P x$ で、残差 $x - P x$ は $M$ と直角に交わります。最短距離を与える点が垂線の足になる、という初等幾何の事実です。

無限次元でも、絵はこのままです。 $M$ が閉じていること、空間が完備であること。その 2 つが、この絵を支えています。

例：直線への射影を計算する

$R^{3}$ で $u = (1, 1, 1)$ が張る直線に、 $x = (1, 2, 3)$ を射影します。

$P x = \frac{⟨ x , u ⟩}{∥ u ∥ ^{2}} u$

$⟨ x, u ⟩ = 6$ 、 $∥ u ∥^{2} = 3$ なので、 $P x = 2 u = (2, 2, 2)$ です。

残差は $x - P x = (- 1, 0, 1)$ になります。 $⟨(- 1, 0, 1), u ⟩ = - 1 + 0 + 1 = 0$ で、たしかに直交しています。

$x$ が「 $u$ 方向の成分」と「それに垂直な成分」に分かれました。直交分解が数値で見えています。

例：最小二乗法は射影である

3 点 $(1, 1)$ 、 $(2, 2)$ 、 $(3, 2)$ に直線 $y = a + b x$ を当てはめます。方程式は 3 本、未知数は 2 つで、ぴったり通る直線はありません。

正規方程式を解くと $b = 1/2$ 、 $a = 2/3$ が出ます。当てはめた直線は $y = 2/3 + x /2$ です。

$x = 1, 2, 3$ での予測値は $7/6$ 、 $5/3$ 、 $13/6$ になります。残差ベクトルは $(- 1/6, 1/3, - 1/6)$ です。

例：残差が直交していることを確かめる

最小二乗が射影なら、残差は当てはめに使った方向すべてと直交するはずです。2 本の列ベクトルで検算します。

定数項の列は $(1, 1, 1)$ です。内積は $- 1/6 + 1/3 - 1/6 = 0$ で直交しています。

$x$ の列は $(1, 2, 3)$ です。内積は $- 1/6 + 2/3 - 1/2 = 0$ で、こちらも直交します。

観測値を列空間へ落とした影が最小二乗解でした。統計の道具に見えて、正体はヒルベルト空間の射影定理です。

リースの表現定理

ヒルベルト空間 $H$ 上の連続線形汎関数 $f$ は、ある $y \in H$ を使って $f (x) = ⟨ x, y ⟩$ と必ず書けます。

しかも $y$ は一意で、 $∥ f ∥ = ∥ y ∥$ が成り立ちます。汎関数と点が 1 対 1 に対応するのです。

$H$ の双対空間は $H$ 自身と同一視できます。この自己双対性が、ヒルベルト空間を飛び抜けて扱いやすくしています。

例： $C^{2}$ でのリース表現

$f (x) = 2 x_{1} + 3 i x_{2}$ という汎関数を考えます。これを $⟨ x, y ⟩ = x_{1} \overline{y_{1}} + x_{2} \overline{y_{2}}$ の形にしたい。

$\overline{y_{1}} = 2$ 、 $\overline{y_{2}} = 3 i$ とすればよいので、 $y = (2, - 3 i)$ です。

係数の共役を取るだけで、対応する点が見つかりました。有限次元では、リースの定理はただの計算になります。

例：積分汎関数の表現

$L^{2} [0, 1]$ の上で $f (g) = \int_{0}^{1} g (x) d x$ とします。これは連続線形汎関数です。

定数関数 $1$ を使えば $f (g) = ⟨ g, 1 ⟩$ と書けます。 $f$ を表現するベクトルは $y = 1$ です。

ノルムは $∥ f ∥ = ∥1∥ = 1$ になります。「平均を取る」という操作が、1 本のベクトルとして空間の中に住んでいるのです。

量子力学との対応

ヒルベルト空間が物理の言語になったのは、フォン・ノイマンによる定式化からです。

状態はノルム

1

のベクトル

ψ

で表す

観測量は自己共役作用素

A

で表す

測定結果が

ϕ

に対応する確率は

∣ ⟨ ϕ, ψ ⟩ ∣^{2}

で与えられる

確率が内積の 2 乗で出てくる。この一点に、量子力学がヒルベルト空間を使う理由が凝縮されています。

$⟨ A x, y ⟩ = ⟨ x, A y ⟩$ を満たす作用素を自己共役作用素といいます。

固有値がすべて実数になるので、実測される量を表すのに使えます。

観測量が実数値であるという物理の要請が、作用素の性質として翻訳されているのです。

例：スピンの測定確率

2 準位系は $C^{2}$ で表せます。上向きと下向きを $e_{1} = (1, 0)$ 、 $e_{2} = (0, 1)$ としましょう。

状態 $ψ = (e_{1} + e_{2}) / 2$ を考えます。ノルムは $1/2 + 1/2 = 1$ で、たしかに単位ベクトルです。

上向きが観測される確率は $∣ ⟨ e_{1}, ψ ⟩ ∣^{2} = ∣1/ 2 ∣^{2} = 1/2$ になります。下向きも同じく $1/2$ です。

重ね合わせとは、2 つの状態の「どちらでもある」ことではありません。射影の 2 乗が確率を与える、というだけの話です。

偏微分方程式との対応

ポアソン方程式 $- Δ u = f$ を解くとき、まず解の住む空間を選びます。微分可能性の要求をゆるめた関数空間を使うのです。

1 階の弱微分まで 2 乗可積分な関数の空間をソボレフ空間 $H^{1}$ といいます。

内積 $⟨ u, v ⟩ = \int (\nabla u \cdot \nabla v + uv) d x$ でヒルベルト空間になります。

方程式は積分の形に書き換えます。すべての $v$ に対して $\int \nabla u \cdot \nabla v d x = \int f v d x$ となる $u$ を探す、という問題です。

この $u$ を弱解といいます。2 階微分を要求しないので、解の候補がぐっと広がります。

例：ラックス・ミルグラムの定理

左辺を双線形形式 $a (u, v)$ 、右辺を連続線形汎関数と見ます。問題は $a (u, v) = f (v)$ を全ての $v$ で満たす $u$ を見つけることです。

$a$ が有界で、かつ強圧的（ $a (v, v) \geq c ∥ v ∥^{2}$ ）であれば、そのような $u$ がただ 1 つ存在します。これがラックス・ミルグラムの定理です。

証明の骨格はリースの表現定理です。汎関数を内積で表し、双線形形式が定める作用素が全単射であることを示します。

微分方程式の解の存在が、内積と完備性だけから出てきました。ヒルベルト空間が偏微分方程式の標準言語になった理由です。

理解の確認

sup ノルムの $C [0, 1]$ がヒルベルト空間でないことを示すのは、次のどれですか。

$C [0, 1]$ が完備でないこと
$f = 1$ 、 $g = x$ が平行四辺形の法則を破ること
$C [0, 1]$ が無限次元であること

__RESULT__

sup ノルムの $C [0, 1]$ は完備で、れっきとしたバナッハ空間です。ところが $f = 1$ 、 $g = x$ とすると $∥ f + g ∥_{\infty} = 2$ 、 $∥ f - g ∥_{\infty} = 1$ となり、左辺が $5$ 、右辺が $2 (1 + 1) = 4$ で法則が破れます。ヨルダン・フォン=ノイマンの定理より、このノルムを与える内積は存在しません。無限次元であること自体は $ℓ^{2}$ も同じなので、理由になりません。

無限次元に幾何を持ち込む

垂線を下ろし、成分に分解し、ピタゴラスの定理を使う。有限次元で覚えた操作が、関数の空間でもそっくり動きます。

フーリエ級数は正規直交系による展開であり、最小二乗法は射影であり、量子力学の確率は内積の 2 乗でした。見た目の違う 3 つが、同じ構造から出てきます。

この先には、自己共役作用素のスペクトル定理が待っています。有限次元の対角化が無限次元でどこまで生き延びるか、という問いです。

内積と完備性。この 2 つを備えた空間だけが、無限次元でユークリッド幾何の直感を許してくれます。

ヒルベルト空間と内積を具体例で解説。平行四辺形の法則と偏極恒等式で内積を復元し、グラム・シュミットからルジャンドル多項式、パーセバルからバーゼル問題を導く。射影定理と最小二乗法、量子力学との対応まで図つきで解説。

ヒルベルト空間の定義と内積｜偏極恒等式から射影定理・最小二乗法までざっくりわかりやすく解説

内積の定義

第 2 成分は共役線形になる

数学の規約と物理の規約

例：C2 で内積を計算する

例：内積からノルムを作る

内積から定まるノルム

コーシー・シュワルツの証明

例：数値で確かめる

例：積分版のコーシー・シュワルツ

三角不等式が出てくる

ノルム空間と内積空間の違い

ヒルベルト空間の定義

構造の階段

例：ℓ2 は完備である

例：内積空間だがヒルベルト空間でない

例：有限次元なら自動的に完備

平行四辺形の法則

図で見る平行四辺形

例：ℓ1 は法則を破る

例：sup ノルムの C[0,1] も破る

内積の復元

例：実 2 次元で内積を復元する

例：複素数で復元する

直交とピタゴラス

例：sin と cos は直交する

図で見る打ち消し

例：三角関数系の直交性

正規直交系

例：ℓ2 の標準基底

例：グラム・シュミットで直交化する

例：3 本目を直交化する

例：ルジャンドル多項式を作る

ベッセルの不等式

パーセバルの等式

例：パーセバルからバーゼル問題を解く

射影定理

図で見る直交射影

例：直線への射影を計算する

例：最小二乗法は射影である

例：残差が直交していることを確かめる

リースの表現定理

例：C2 でのリース表現

例：積分汎関数の表現

量子力学との対応

例：スピンの測定確率

偏微分方程式との対応

例：ラックス・ミルグラムの定理

理解の確認

無限次元に幾何を持ち込む

例： $C^{2}$ で内積を計算する

例： $ℓ^{2}$ は完備である

例： $ℓ^{1}$ は法則を破る

例：sup ノルムの $C [0, 1]$ も破る

例： $sin$ と $cos$ は直交する

例： $ℓ^{2}$ の標準基底

例： $C^{2}$ でのリース表現