ヒルベルト空間の定義と内積|偏極恒等式から射影定理・最小二乗法までざっくりわかりやすく解説
と を で掛けて積分すると、値は になります。この事実を「2 つの関数は直交する」と読みます。
関数どうしが直角に交わる、というのです。矢印でも点でもないものに角度を入れる。その仕掛けが内積にほかなりません。
ヒルベルト空間は内積が定義されたバナッハ空間であり、量子力学や偏微分方程式の理論で中心的な役割を果たします。
内積の定義
複素ベクトル空間 上の写像 が次の条件を満たすとき、内積 といいます。
かつ
実ベクトル空間の場合は、共役対称性が単に となります。
正値性の には、暗黙の主張が隠れています。共役対称性から なので、この値は自動的に実数になるのです。
複素数には大小がありません。 と書けること自体が、共役対称性の贈り物です。
第 2 成分は共役線形になる
第 1 成分の線形性と共役対称性を組み合わせると、第 2 成分の振る舞いが決まります。スカラーを外に出してみます。
第 2 成分から出るときは、共役がついてしまいました。この非対称性は複素内積の宿命です。
実の場合は共役が何もしないので、両成分とも線形になります。複素数を使うから話がねじれるのです。
数学の規約と物理の規約
第 1 成分が線形、第 2 成分が共役線形。 となる。
第 1 成分が共役線形、第 2 成分が線形。 となる。
どちらが正しい、という話ではありません。文献を開いたら、どちらの規約かをまず確かめる必要がある、というだけです。
以下では数学の規約で通します。第 1 成分が線形、と覚えてください。
例: で内積を計算する
の標準内積は です。、 で計算します。
順序を入れ替えると何が起きるか、確かめます。
たしかに です。順序を変えると、値が共役に化けました。
例:内積からノルムを作る
同じベクトルどうしの内積を取ると、必ず実数の非負値が出ます。 で確かめます。
よって になります。虚数の成分があっても、長さはきちんと実数です。
各成分の絶対値の 2 乗を足しているだけ、と読めば当たり前でしょう。共役を掛ける仕組みが、そのために効いています。
内積から定まるノルム
内積から でノルムが定義できます。これがノルムの公理を満たすことは、次のコーシー・シュワルツの不等式から従います。
等号成立は と が線形従属のときに限ります。
コーシー・シュワルツの証明
とし、任意のスカラー に対して が成り立つことを使います。左辺を展開します。
ここで と選びます。第 2 項と第 3 項が整理され、次の形が残ります。
両辺に を掛けて平方根を取れば、コーシー・シュワルツの不等式です。
この の選び方は、 から 方向の成分をちょうど引き去るものです。証明はすでに射影の計算になっています。
例:数値で確かめる
で 、 とします。内積は です。
ノルムは 、 で、積はおよそ になります。
で、不等式はぎりぎり成立しました。2 つのベクトルの向きがよく揃っているので、等号に近いのです。
例:積分版のコーシー・シュワルツ
で 、 とします。内積は積の積分です。
ノルムは 、 です。積も になります。
で成立します。関数の空間でも、同じ不等式がそのまま通用するのです。
三角不等式が出てくる
コーシー・シュワルツから、ノルムの三角不等式が導けます。 を展開してみます。
を使うと、右辺は 以下になります。
平方根を取れば です。内積さえあれば、ノルムの公理はただで手に入ります。
ノルム空間と内積空間の違い
測れるのは長さだけ。2 つのベクトルが垂直かどうかを問う手段がない。
長さに加えて角度が測れる。 が直交の定義になり、幾何が戻ってくる。
内積はノルムを生みますが、逆は一般に成り立ちません。長さの情報だけからは、角度を復元できないからです。
ただし例外があります。平行四辺形の法則を満たすノルムに限れば、内積が復元できます。この記事の後半の主題です。
ヒルベルト空間の定義
内積空間が、その内積から定まるノルムに関して完備であるとき、ヒルベルト空間 といいます。
| , | 標準内積 |
| 内積 | |
| 内積 |
完備とは、コーシー列が必ずその空間の中で収束することです。近づいているのに行き先がない、という穴がありません。
穴があると、極限を取る議論がすべて崩れます。無限次元の解析で完備性を要求するのは、そのためです。
構造の階段
内積
ノルム
距離
完備ならヒルベルト空間
上から下へ、構造は一方通行で落ちていきます。内積があればノルムがあり、ノルムがあれば距離があります。
逆向きに登るには条件が要ります。距離からノルムへは平行移動不変性と斉次性、ノルムから内積へは平行四辺形の法則です。
例: は完備である
2 乗和が収束する数列の全体が です。コーシー列 を取ります。
各成分について が成り立つので、成分ごとにコーシー列になり、極限 が定まります。
並べた が に入ることと、 を確かめれば完備性が出ます。
は無限次元ヒルベルト空間の原型です。可分なヒルベルト空間は、どれも と同型になります。
例:内積空間だがヒルベルト空間でない
に 内積 を入れます。内積の公理はすべて満たします。
ところが完備ではありません。 で 、 で 、その間を直線でつないだ連続関数 を考えます。
は幅 程度の区間だけの積分なので、 に向かいます。 はコーシー列です。
しかし行き先は で飛ぶ階段関数で、連続関数ではありません。内積があっても完備とは限らないのです。
例:有限次元なら自動的に完備
有限次元の内積空間は、必ずヒルベルト空間になります。 と同型で、収束が成分ごとの収束に帰着するからです。
有限次元ではすべてのノルムが同値なので、完備性はノルムの選び方によりません。 の完備性から、すべてが従います。
完備性を気にするのは、無限次元に出たときだけです。困難はいつも無限から来ます。
平行四辺形の法則
内積から定まるノルムは、次の 平行四辺形の法則 を満たします。
証明は展開するだけです。 と を書き下すと、交差項 が符号違いで現れ、足すと消えます。
逆に、この法則を満たすノルムは内積から定まることが知られています(ヨルダン・フォン=ノイマンの定理)。
()や (sup ノルム)はこの法則を満たさないため、ヒルベルト空間ではありません。
図で見る平行四辺形
2 辺を と とする平行四辺形を描き、2 本の対角線を引きます。
<div class="cont">
<svg viewBox="0 0 420 232" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="平行四辺形と 2 本の対角線">
<rect x="0" y="0" width="420" height="232" rx="10" fill="#fafbfc"/>
<polygon points="90,190 230,190 300,80 160,80" fill="#5b8def" fill-opacity="0.07" stroke="#c8ccd2" stroke-width="1.2"/>
<line x1="90" y1="190" x2="300" y2="80" stroke="#e0872f" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="160" y1="80" x2="230" y2="190" stroke="#e5484d" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="90" y1="190" x2="230" y2="190" stroke="#3468d6" stroke-width="2"/>
<line x1="90" y1="190" x2="160" y2="80" stroke="#3468d6" stroke-width="2"/>
<polygon points="230,190 221,186 221,194" fill="#3468d6"/>
<polygon points="160,80 158.6,89.7 151.8,85.5" fill="#3468d6"/>
<circle cx="90" cy="190" r="3" fill="#1b1d22"/>
<g font-family="Georgia, serif" font-style="italic" font-size="14" paint-order="stroke" stroke="#ffffff" stroke-width="3.5" stroke-linejoin="round">
<text x="158" y="209" fill="#3468d6">x</text>
<text x="104" y="128" fill="#3468d6">y</text>
<text x="246" y="104" fill="#c4772a">x + y</text>
<text x="220" y="164" fill="#c93c41">x − y</text>
</g>
<text x="82" y="205" font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" text-anchor="end" fill="#9aa0a6">0</text>
<text x="210" y="222" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">対角線の 2 乗和は、4 辺の 2 乗和に等しい</text>
</svg>
</div>.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }2 本の対角線が と です。法則は「対角線の 2 乗和は 4 辺の 2 乗和に等しい」と読み替えられます。
中線定理と呼ばれる初等幾何の事実そのものです。この等式の成立が内積の存在と同値になる、というのがヨルダン・フォン=ノイマンの定理の驚きです。
例: は法則を破る
、 を ノルムで測ります。、 です。
、 なので、左辺は になります。右辺は です。
で、法則は破れました。 ノルムを与える内積は存在しません。
同じ計算で も脱落します。左辺が 、右辺が です。
例:sup ノルムの も破る
と を取ります。和は 、差は です。
区間 での最大値を見ます。、、 です。
左辺は 、右辺は 。 なので、法則は成り立ちません。
は sup ノルムで完備なバナッハ空間ですが、ヒルベルト空間ではないのです。この空間に角度を測る手段はありません。
内積の復元
ノルムが平行四辺形の法則を満たすとき、内積は 偏極恒等式 で復元できます。
実空間では虚数単位の項が消えます。
長さを何回か測るだけで、角度が分かってしまう。これが偏極恒等式の主張です。
例:実 2 次元で内積を復元する
、 とします。和は 、差は です。
偏極恒等式に入れると を得ます。
直接計算した内積は 。ぴたりと一致しました。長さだけから内積が出ています。
例:複素数で復元する
、 とします。、 で試します。
まず実部にあたる 2 項です。、 で、差し引き になります。
残りの 2 項が効いてきます。、 です。
偏極恒等式は を与えます。直接計算の と一致しました。
虚部の項がなければ、この は出てきません。複素の場合に 4 つの項が要るのは、そのためです。
直交とピタゴラス
のとき、 と は直交するといい、 と書きます。
直交すれば が成り立ちます。展開で現れる交差項 が消えるからです。
ピタゴラスの定理が、無限次元でもそのまま生きています。三角関数の空間でも、量子状態の空間でも同じです。
例: と は直交する
で計算します。積を積分するだけです。
積分が なので、2 つの関数は直交します。 が 2 周期ぶん振動し、正と負がきれいに打ち消し合うのです。
図で見る打ち消し
積 のグラフと、その符号つき面積を描きます。
<div class="cont">
<svg viewBox="0 0 420 232" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="sin x と cos x の積の面積">
<rect x="0" y="0" width="420" height="232" rx="10" fill="#fafbfc"/>
<polygon points="60,120 80,98.8 100,90 120,98.8 140,120" fill="#3468d6" fill-opacity="0.18"/>
<polygon points="140,120 160,141.2 180,150 200,141.2 220,120" fill="#e5484d" fill-opacity="0.18"/>
<polygon points="220,120 240,98.8 260,90 280,98.8 300,120" fill="#3468d6" fill-opacity="0.18"/>
<polygon points="300,120 320,141.2 340,150 360,141.2 380,120" fill="#e5484d" fill-opacity="0.18"/>
<line x1="52" y1="120" x2="392" y2="120" stroke="#c8ccd2" stroke-width="1"/>
<line x1="60" y1="120" x2="60" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<line x1="220" y1="120" x2="220" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<line x1="380" y1="120" x2="380" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<polyline points="60,120 80,97 100,77.6 120,64.6 140,60 160,64.6 180,77.6 200,97 220,120 240,143 260,162.4 280,175.4 300,180 320,175.4 340,162.4 360,143 380,120" fill="none" stroke="#8aa0d8" stroke-width="1.6"/>
<polyline points="60,60 80,64.6 100,77.6 120,97 140,120 160,143 180,162.4 200,175.4 220,180 240,175.4 260,162.4 280,143 300,120 320,97 340,77.6 360,64.6 380,60" fill="none" stroke="#e0b07a" stroke-width="1.6"/>
<polyline points="60,120 80,98.8 100,90 120,98.8 140,120 160,141.2 180,150 200,141.2 220,120 240,98.8 260,90 280,98.8 300,120 320,141.2 340,150 360,141.2 380,120" fill="none" stroke="#1b1d22" stroke-width="2"/>
<g font-family="ui-sans-serif, system-ui, sans-serif" font-size="11.5" paint-order="stroke" stroke="#ffffff" stroke-width="3" stroke-linejoin="round">
<text x="146" y="52" fill="#6a80b8">sin x</text>
<text x="386" y="52" text-anchor="end" fill="#b8894a">cos x</text>
<text x="72" y="113" fill="#1b1d22">sin x cos x</text>
</g>
<g font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" fill="#9aa0a6" text-anchor="middle">
<text x="60" y="205">0</text>
<text x="220" y="205">π</text>
<text x="380" y="205">2π</text>
</g>
<text x="210" y="224" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">青い面積と赤い面積が等しく、積分は 0 になる</text>
</svg>
</div>.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }薄い 2 本が と 、濃い 1 本が積です。積の山と谷は、まったく同じ面積で正と負に分かれています。
塗った面積が過不足なく打ち消し合うこと。それが「直交する」という言葉の中身です。
例:三角関数系の直交性
もっと一般に、 なら と は直交します。
のときは値が になります。長さを にそろえたければ、 で割ればよいわけです。
は、互いに直交する関数の無限列を作ります。フーリエ級数とは、この直交系による展開にほかなりません。
正規直交系
が のとき 、 のとき になる列 を、正規直交系といいます。
正規直交系があれば、展開の係数はただの内積で求まります。 と書けるなら、 です。
連立方程式を解く必要はありません。射影を 1 つずつ取るだけで係数が出る。これが直交性のご利益です。
例: の標準基底
を、第 成分だけが で残りが の数列とします。 は のときだけ です。
任意の は と書け、係数は で取り出せます。
基底は無限個ありますが、和は ノルムの意味で収束します。無限次元でも「座標」が使えるのです。
例:グラム・シュミットで直交化する
一次独立なベクトルから正規直交系を作る手続きが、グラム・シュミットの直交化です。 で回してみます。
、、 から始めます。まず とします。
から 方向の成分を引きます。、 なので、次のようになります。
なので です。 で、たしかに直交しています。
例:3 本目を直交化する
からは、 方向と 方向の成分を両方引きます。
係数は と、 です。
正規化して を得ます。3 本のベクトルが、互いに直交する 3 本に化けました。
引き算のたびに直交成分だけが残る。この単純な操作が、あらゆる直交基底の作り方です。
例:ルジャンドル多項式を作る
同じ手続きを関数空間で回すと、有名な多項式列が出てきます。 で を直交化します。
です。次に から 方向の成分を引きますが、 なので、引くものがありません。 のままです。
からは 2 つ引きます。、、 を使います。
これがルジャンドル多項式です。定数倍を調整すると、教科書に載る標準形 になります。
直交多項式は、グラム・シュミットの副産物にすぎません。ルジャンドルもチェビシェフもエルミートも、重みを変えて同じ手続きを回しただけです。
ベッセルの不等式
正規直交系 に対して、係数の 2 乗和はノルムを超えません。
射影で取り出した成分の合計が、もとのベクトルより大きくなることはない。当たり前のことを言っています。
等号が成り立つのは、 が取りこぼしなく空間を張るときです。そのとき正規直交基底と呼びます。
パーセバルの等式
が正規直交基底なら、ベッセルの不等式は等式になります。
ピタゴラスの定理の無限版です。長さの 2 乗は、各方向の成分の 2 乗和に等しい。
内積そのものも と書けます。空間はまるごと に写ります。
例:パーセバルからバーゼル問題を解く
を でフーリエ展開します。奇関数なので の項だけが残り、係数は です。
パーセバルの等式は、この設定で次の形になります。
左辺は 、右辺は です。両辺を並べて整理します。
バーゼル問題の答えが落ちてきました。同じ関数の長さを 2 通りに測っただけで、 が転がり出てくるのです。
射影定理
ヒルベルト空間の主役が、次の定理です。
を閉部分空間、 とすると、 に最も近い の点 がただ 1 つ存在する
残差 は のすべての元と直交する。空間は と分かれる
完備性がなければ、最短点の存在は保証されません。距離が下限に近づくのに、その点が空間にない、という事態が起こるからです。
有限次元の直感がそのまま無限次元で通用するのは、この定理のおかげです。
図で見る直交射影
閉部分空間 を直線とみなし、 から垂線を下ろします。
<div class="cont">
<svg viewBox="0 0 420 215" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="部分空間への直交射影">
<rect x="0" y="0" width="420" height="215" rx="10" fill="#fafbfc"/>
<line x1="70" y1="170" x2="350" y2="100" stroke="#6b7280" stroke-width="1.6"/>
<line x1="197" y1="56" x2="216" y2="134" stroke="#e5484d" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="99" y1="163" x2="197" y2="56" stroke="#3468d6" stroke-width="2"/>
<line x1="99" y1="163" x2="216" y2="134" stroke="#2e9e6b" stroke-width="2"/>
<polyline points="206.3,136.4 203.9,126.7 213.6,124.3" fill="none" stroke="#e5484d" stroke-width="1.2"/>
<circle cx="99" cy="163" r="3" fill="#1b1d22"/>
<circle cx="197" cy="56" r="3.5" fill="#3468d6"/>
<circle cx="216" cy="134" r="3.5" fill="#2e9e6b"/>
<g font-family="Georgia, serif" font-style="italic" font-size="14" paint-order="stroke" stroke="#ffffff" stroke-width="3.5" stroke-linejoin="round">
<text x="203" y="50" fill="#3468d6">x</text>
<text x="224" y="150" fill="#2e9e6b">Px</text>
<text x="228" y="92" fill="#c93c41">x − Px</text>
<text x="356" y="98" fill="#6b7280">M</text>
</g>
<text x="91" y="176" font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" text-anchor="end" fill="#9aa0a6">0</text>
<text x="210" y="204" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">残差は M と直交し、Px は x に最も近い M の点になる</text>
</svg>
</div>.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }垂線の足が で、残差 は と直角に交わります。最短距離を与える点が垂線の足になる、という初等幾何の事実です。
無限次元でも、絵はこのままです。 が閉じていること、空間が完備であること。その 2 つが、この絵を支えています。
例:直線への射影を計算する
で が張る直線に、 を射影します。
、 なので、 です。
残差は になります。 で、たしかに直交しています。
が「 方向の成分」と「それに垂直な成分」に分かれました。直交分解が数値で見えています。
例:最小二乗法は射影である
3 点 、、 に直線 を当てはめます。方程式は 3 本、未知数は 2 つで、ぴったり通る直線はありません。
正規方程式を解くと 、 が出ます。当てはめた直線は です。
での予測値は 、、 になります。残差ベクトルは です。
例:残差が直交していることを確かめる
最小二乗が射影なら、残差は当てはめに使った方向すべてと直交するはずです。2 本の列ベクトルで検算します。
定数項の列は です。内積は で直交しています。
の列は です。内積は で、こちらも直交します。
観測値を列空間へ落とした影が最小二乗解でした。統計の道具に見えて、正体はヒルベルト空間の射影定理です。
リースの表現定理
ヒルベルト空間 上の連続線形汎関数 は、ある を使って と必ず書けます。
しかも は一意で、 が成り立ちます。汎関数と点が 1 対 1 に対応するのです。
の双対空間は 自身と同一視できます。この自己双対性が、ヒルベルト空間を飛び抜けて扱いやすくしています。
例: でのリース表現
という汎関数を考えます。これを の形にしたい。
、 とすればよいので、 です。
係数の共役を取るだけで、対応する点が見つかりました。有限次元では、リースの定理はただの計算になります。
例:積分汎関数の表現
の上で とします。これは連続線形汎関数です。
定数関数 を使えば と書けます。 を表現するベクトルは です。
ノルムは になります。「平均を取る」という操作が、1 本のベクトルとして空間の中に住んでいるのです。
量子力学との対応
ヒルベルト空間が物理の言語になったのは、フォン・ノイマンによる定式化からです。
確率が内積の 2 乗で出てくる。この一点に、量子力学がヒルベルト空間を使う理由が凝縮されています。
を満たす作用素を 自己共役作用素 といいます。
固有値がすべて実数になるので、実測される量を表すのに使えます。
観測量が実数値であるという物理の要請が、作用素の性質として翻訳されているのです。
例:スピンの測定確率
2 準位系は で表せます。上向きと下向きを 、 としましょう。
状態 を考えます。ノルムは で、たしかに単位ベクトルです。
上向きが観測される確率は になります。下向きも同じく です。
重ね合わせとは、2 つの状態の「どちらでもある」ことではありません。射影の 2 乗が確率を与える、というだけの話です。
偏微分方程式との対応
ポアソン方程式 を解くとき、まず解の住む空間を選びます。微分可能性の要求をゆるめた関数空間を使うのです。
1 階の弱微分まで 2 乗可積分な関数の空間を ソボレフ空間 といいます。
内積 でヒルベルト空間になります。
方程式は積分の形に書き換えます。すべての に対して となる を探す、という問題です。
この を弱解といいます。2 階微分を要求しないので、解の候補がぐっと広がります。
例:ラックス・ミルグラムの定理
左辺を双線形形式 、右辺を連続線形汎関数と見ます。問題は を全ての で満たす を見つけることです。
が有界で、かつ強圧的()であれば、そのような がただ 1 つ存在します。これがラックス・ミルグラムの定理です。
証明の骨格はリースの表現定理です。汎関数を内積で表し、双線形形式が定める作用素が全単射であることを示します。
微分方程式の解の存在が、内積と完備性だけから出てきました。ヒルベルト空間が偏微分方程式の標準言語になった理由です。
理解の確認
sup ノルムの がヒルベルト空間でないことを示すのは、次のどれですか。
- が完備でないこと
- 、 が平行四辺形の法則を破ること
- が無限次元であること
無限次元に幾何を持ち込む
垂線を下ろし、成分に分解し、ピタゴラスの定理を使う。有限次元で覚えた操作が、関数の空間でもそっくり動きます。
フーリエ級数は正規直交系による展開であり、最小二乗法は射影であり、量子力学の確率は内積の 2 乗でした。見た目の違う 3 つが、同じ構造から出てきます。
この先には、自己共役作用素のスペクトル定理が待っています。有限次元の対角化が無限次元でどこまで生き延びるか、という問いです。
内積と完備性。この 2 つを備えた空間だけが、無限次元でユークリッド幾何の直感を許してくれます。









sup ノルムの C[0,1] は完備で、れっきとしたバナッハ空間です。ところが f=1、g=x とすると ∥f+g∥∞=2、∥f−g∥∞=1 となり、左辺が 5、右辺が 2(1+1)=4 で法則が破れます。ヨルダン・フォン=ノイマンの定理より、このノルムを与える内積は存在しません。無限次元であること自体は ℓ2 も同じなので、理由になりません。