中学社会667787 views
中学理科1628828 views
高校物理159140 views
数学講師2872095 views
高校化学2918822 views
Computer366795 views
英語610986 views
いろは3000890 views
高校国語787039 views
LaTeX959780 views

ヒルベルト空間の定義と内積|偏極恒等式から射影定理・最小二乗法までざっくりわかりやすく解説

で掛けて積分すると、値は になります。この事実を「2 つの関数は直交する」と読みます。

関数どうしが直角に交わる、というのです。矢印でも点でもないものに角度を入れる。その仕掛けが内積にほかなりません。

ヒルベルト空間は内積が定義されたバナッハ空間であり、量子力学や偏微分方程式の理論で中心的な役割を果たします。

内積の定義

複素ベクトル空間 上の写像 が次の条件を満たすとき、内積 といいます。

線形性(第 1 成分)

共役対称性

正値性

かつ

実ベクトル空間の場合は、共役対称性が単に となります。

正値性の には、暗黙の主張が隠れています。共役対称性から なので、この値は自動的に実数になるのです。

複素数には大小がありません。 と書けること自体が、共役対称性の贈り物です。

第 2 成分は共役線形になる

第 1 成分の線形性と共役対称性を組み合わせると、第 2 成分の振る舞いが決まります。スカラーを外に出してみます。

第 2 成分から出るときは、共役がついてしまいました。この非対称性は複素内積の宿命です。

実の場合は共役が何もしないので、両成分とも線形になります。複素数を使うから話がねじれるのです。

数学の規約と物理の規約

数学(この記事)

第 1 成分が線形、第 2 成分が共役線形。 となる。

物理(ディラック記法)

第 1 成分が共役線形、第 2 成分が線形。 となる。

どちらが正しい、という話ではありません。文献を開いたら、どちらの規約かをまず確かめる必要がある、というだけです。

以下では数学の規約で通します。第 1 成分が線形、と覚えてください。

例: で内積を計算する

の標準内積は です。 で計算します。

順序を入れ替えると何が起きるか、確かめます。

たしかに です。順序を変えると、値が共役に化けました。

例:内積からノルムを作る

同じベクトルどうしの内積を取ると、必ず実数の非負値が出ます。 で確かめます。

よって になります。虚数の成分があっても、長さはきちんと実数です。

各成分の絶対値の 2 乗を足しているだけ、と読めば当たり前でしょう。共役を掛ける仕組みが、そのために効いています。

内積から定まるノルム

内積から でノルムが定義できます。これがノルムの公理を満たすことは、次のコーシー・シュワルツの不等式から従います。

等号成立は が線形従属のときに限ります。

コーシー・シュワルツの証明

とし、任意のスカラー に対して が成り立つことを使います。左辺を展開します。

ここで と選びます。第 2 項と第 3 項が整理され、次の形が残ります。

両辺に を掛けて平方根を取れば、コーシー・シュワルツの不等式です。

この の選び方は、 から 方向の成分をちょうど引き去るものです。証明はすでに射影の計算になっています。

例:数値で確かめる

とします。内積は です。

ノルムは で、積はおよそ になります。

で、不等式はぎりぎり成立しました。2 つのベクトルの向きがよく揃っているので、等号に近いのです。

例:積分版のコーシー・シュワルツ

とします。内積は積の積分です。

ノルムは です。積も になります。

で成立します。関数の空間でも、同じ不等式がそのまま通用するのです。

三角不等式が出てくる

コーシー・シュワルツから、ノルムの三角不等式が導けます。 を展開してみます。

を使うと、右辺は 以下になります。

平方根を取れば です。内積さえあれば、ノルムの公理はただで手に入ります。

ノルム空間と内積空間の違い

ノルム空間

測れるのは長さだけ。2 つのベクトルが垂直かどうかを問う手段がない。

内積空間

長さに加えて角度が測れる。 が直交の定義になり、幾何が戻ってくる。

内積はノルムを生みますが、逆は一般に成り立ちません。長さの情報だけからは、角度を復元できないからです。

ただし例外があります。平行四辺形の法則を満たすノルムに限れば、内積が復元できます。この記事の後半の主題です。

ヒルベルト空間の定義

内積空間が、その内積から定まるノルムに関して完備であるとき、ヒルベルト空間 といいます。

, 標準内積
内積
内積

完備とは、コーシー列が必ずその空間の中で収束することです。近づいているのに行き先がない、という穴がありません。

穴があると、極限を取る議論がすべて崩れます。無限次元の解析で完備性を要求するのは、そのためです。

構造の階段

内積

ノルム

距離

完備ならヒルベルト空間

上から下へ、構造は一方通行で落ちていきます。内積があればノルムがあり、ノルムがあれば距離があります。

逆向きに登るには条件が要ります。距離からノルムへは平行移動不変性と斉次性、ノルムから内積へは平行四辺形の法則です。

例: は完備である

2 乗和が収束する数列の全体が です。コーシー列 を取ります。

各成分について が成り立つので、成分ごとにコーシー列になり、極限 が定まります。

並べた に入ることと、 を確かめれば完備性が出ます。

は無限次元ヒルベルト空間の原型です。可分なヒルベルト空間は、どれも と同型になります。

例:内積空間だがヒルベルト空間でない

内積 を入れます。内積の公理はすべて満たします。

ところが完備ではありません。、その間を直線でつないだ連続関数 を考えます。

は幅 程度の区間だけの積分なので、 に向かいます。 はコーシー列です。

しかし行き先は で飛ぶ階段関数で、連続関数ではありません。内積があっても完備とは限らないのです。

例:有限次元なら自動的に完備

有限次元の内積空間は、必ずヒルベルト空間になります。 と同型で、収束が成分ごとの収束に帰着するからです。

有限次元ではすべてのノルムが同値なので、完備性はノルムの選び方によりません。 の完備性から、すべてが従います。

完備性を気にするのは、無限次元に出たときだけです。困難はいつも無限から来ます。

平行四辺形の法則

内積から定まるノルムは、次の 平行四辺形の法則 を満たします。

証明は展開するだけです。 を書き下すと、交差項 が符号違いで現れ、足すと消えます。

逆に、この法則を満たすノルムは内積から定まることが知られています(ヨルダン・フォン=ノイマンの定理)。

)や (sup ノルム)はこの法則を満たさないため、ヒルベルト空間ではありません。

図で見る平行四辺形

2 辺を とする平行四辺形を描き、2 本の対角線を引きます。

HTML
CSS
JavaScript
<div class="cont">
<svg viewBox="0 0 420 232" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="平行四辺形と 2 本の対角線">
<rect x="0" y="0" width="420" height="232" rx="10" fill="#fafbfc"/>
<polygon points="90,190 230,190 300,80 160,80" fill="#5b8def" fill-opacity="0.07" stroke="#c8ccd2" stroke-width="1.2"/>
<line x1="90" y1="190" x2="300" y2="80" stroke="#e0872f" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="160" y1="80" x2="230" y2="190" stroke="#e5484d" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="90" y1="190" x2="230" y2="190" stroke="#3468d6" stroke-width="2"/>
<line x1="90" y1="190" x2="160" y2="80" stroke="#3468d6" stroke-width="2"/>
<polygon points="230,190 221,186 221,194" fill="#3468d6"/>
<polygon points="160,80 158.6,89.7 151.8,85.5" fill="#3468d6"/>
<circle cx="90" cy="190" r="3" fill="#1b1d22"/>
<g font-family="Georgia, serif" font-style="italic" font-size="14" paint-order="stroke" stroke="#ffffff" stroke-width="3.5" stroke-linejoin="round">
<text x="158" y="209" fill="#3468d6">x</text>
<text x="104" y="128" fill="#3468d6">y</text>
<text x="246" y="104" fill="#c4772a">x + y</text>
<text x="220" y="164" fill="#c93c41">x − y</text>
</g>
<text x="82" y="205" font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" text-anchor="end" fill="#9aa0a6">0</text>
<text x="210" y="222" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">対角線の 2 乗和は、4 辺の 2 乗和に等しい</text>
</svg>
</div>
.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }

2 本の対角線が です。法則は「対角線の 2 乗和は 4 辺の 2 乗和に等しい」と読み替えられます。

中線定理と呼ばれる初等幾何の事実そのものです。この等式の成立が内積の存在と同値になる、というのがヨルダン・フォン=ノイマンの定理の驚きです。

例: は法則を破る

ノルムで測ります。 です。

なので、左辺は になります。右辺は です。

で、法則は破れました。 ノルムを与える内積は存在しません。

同じ計算で も脱落します。左辺が 、右辺が です。

例:sup ノルムの も破る

を取ります。和は 、差は です。

区間 での最大値を見ます。 です。

左辺は 、右辺は なので、法則は成り立ちません。

は sup ノルムで完備なバナッハ空間ですが、ヒルベルト空間ではないのです。この空間に角度を測る手段はありません。

内積の復元

ノルムが平行四辺形の法則を満たすとき、内積は 偏極恒等式 で復元できます。

実空間では虚数単位の項が消えます。

長さを何回か測るだけで、角度が分かってしまう。これが偏極恒等式の主張です。

例:実 2 次元で内積を復元する

とします。和は 、差は です。

偏極恒等式に入れると を得ます。

直接計算した内積は 。ぴたりと一致しました。長さだけから内積が出ています。

例:複素数で復元する

とします。 で試します。

まず実部にあたる 2 項です。 で、差し引き になります。

残りの 2 項が効いてきます。 です。

偏極恒等式は を与えます。直接計算の と一致しました。

虚部の項がなければ、この は出てきません。複素の場合に 4 つの項が要るのは、そのためです。

直交とピタゴラス

のとき、 は直交するといい、 と書きます。

直交すれば が成り立ちます。展開で現れる交差項 が消えるからです。

ピタゴラスの定理が、無限次元でもそのまま生きています。三角関数の空間でも、量子状態の空間でも同じです。

例: は直交する

で計算します。積を積分するだけです。

積分が なので、2 つの関数は直交します。 が 2 周期ぶん振動し、正と負がきれいに打ち消し合うのです。

図で見る打ち消し

のグラフと、その符号つき面積を描きます。

HTML
CSS
JavaScript
<div class="cont">
<svg viewBox="0 0 420 232" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="sin x と cos x の積の面積">
<rect x="0" y="0" width="420" height="232" rx="10" fill="#fafbfc"/>
<polygon points="60,120 80,98.8 100,90 120,98.8 140,120" fill="#3468d6" fill-opacity="0.18"/>
<polygon points="140,120 160,141.2 180,150 200,141.2 220,120" fill="#e5484d" fill-opacity="0.18"/>
<polygon points="220,120 240,98.8 260,90 280,98.8 300,120" fill="#3468d6" fill-opacity="0.18"/>
<polygon points="300,120 320,141.2 340,150 360,141.2 380,120" fill="#e5484d" fill-opacity="0.18"/>
<line x1="52" y1="120" x2="392" y2="120" stroke="#c8ccd2" stroke-width="1"/>
<line x1="60" y1="120" x2="60" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<line x1="220" y1="120" x2="220" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<line x1="380" y1="120" x2="380" y2="192" stroke="#d7dbe0" stroke-width="1" stroke-dasharray="3 3"/>
<polyline points="60,120 80,97 100,77.6 120,64.6 140,60 160,64.6 180,77.6 200,97 220,120 240,143 260,162.4 280,175.4 300,180 320,175.4 340,162.4 360,143 380,120" fill="none" stroke="#8aa0d8" stroke-width="1.6"/>
<polyline points="60,60 80,64.6 100,77.6 120,97 140,120 160,143 180,162.4 200,175.4 220,180 240,175.4 260,162.4 280,143 300,120 320,97 340,77.6 360,64.6 380,60" fill="none" stroke="#e0b07a" stroke-width="1.6"/>
<polyline points="60,120 80,98.8 100,90 120,98.8 140,120 160,141.2 180,150 200,141.2 220,120 240,98.8 260,90 280,98.8 300,120 320,141.2 340,150 360,141.2 380,120" fill="none" stroke="#1b1d22" stroke-width="2"/>
<g font-family="ui-sans-serif, system-ui, sans-serif" font-size="11.5" paint-order="stroke" stroke="#ffffff" stroke-width="3" stroke-linejoin="round">
<text x="146" y="52" fill="#6a80b8">sin x</text>
<text x="386" y="52" text-anchor="end" fill="#b8894a">cos x</text>
<text x="72" y="113" fill="#1b1d22">sin x cos x</text>
</g>
<g font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" fill="#9aa0a6" text-anchor="middle">
<text x="60" y="205">0</text>
<text x="220" y="205">π</text>
<text x="380" y="205"></text>
</g>
<text x="210" y="224" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">青い面積と赤い面積が等しく、積分は 0 になる</text>
</svg>
</div>
.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }

薄い 2 本が 、濃い 1 本が積です。積の山と谷は、まったく同じ面積で正と負に分かれています。

塗った面積が過不足なく打ち消し合うこと。それが「直交する」という言葉の中身です。

例:三角関数系の直交性

もっと一般に、 なら は直交します。

のときは値が になります。長さを にそろえたければ、 で割ればよいわけです。

は、互いに直交する関数の無限列を作ります。フーリエ級数とは、この直交系による展開にほかなりません。

正規直交系

のとき のとき になる列 を、正規直交系といいます。

正規直交系があれば、展開の係数はただの内積で求まります。 と書けるなら、 です。

連立方程式を解く必要はありません。射影を 1 つずつ取るだけで係数が出る。これが直交性のご利益です。

例: の標準基底

を、第 成分だけが で残りが の数列とします。 のときだけ です。

任意の と書け、係数は で取り出せます。

基底は無限個ありますが、和は ノルムの意味で収束します。無限次元でも「座標」が使えるのです。

例:グラム・シュミットで直交化する

一次独立なベクトルから正規直交系を作る手続きが、グラム・シュミットの直交化です。 で回してみます。

から始めます。まず とします。

から 方向の成分を引きます。 なので、次のようになります。

なので です。 で、たしかに直交しています。

例:3 本目を直交化する

からは、 方向と 方向の成分を両方引きます。

係数は と、 です。

正規化して を得ます。3 本のベクトルが、互いに直交する 3 本に化けました。

引き算のたびに直交成分だけが残る。この単純な操作が、あらゆる直交基底の作り方です。

例:ルジャンドル多項式を作る

同じ手続きを関数空間で回すと、有名な多項式列が出てきます。 を直交化します。

です。次に から 方向の成分を引きますが、 なので、引くものがありません。 のままです。

からは 2 つ引きます。 を使います。

これがルジャンドル多項式です。定数倍を調整すると、教科書に載る標準形 になります。

直交多項式は、グラム・シュミットの副産物にすぎません。ルジャンドルもチェビシェフもエルミートも、重みを変えて同じ手続きを回しただけです。

ベッセルの不等式

正規直交系 に対して、係数の 2 乗和はノルムを超えません。

射影で取り出した成分の合計が、もとのベクトルより大きくなることはない。当たり前のことを言っています。

等号が成り立つのは、 が取りこぼしなく空間を張るときです。そのとき正規直交基底と呼びます。

パーセバルの等式

が正規直交基底なら、ベッセルの不等式は等式になります。

ピタゴラスの定理の無限版です。長さの 2 乗は、各方向の成分の 2 乗和に等しい。

内積そのものも と書けます。空間はまるごと に写ります。

例:パーセバルからバーゼル問題を解く

でフーリエ展開します。奇関数なので の項だけが残り、係数は です。

パーセバルの等式は、この設定で次の形になります。

左辺は 、右辺は です。両辺を並べて整理します。

バーゼル問題の答えが落ちてきました。同じ関数の長さを 2 通りに測っただけで、 が転がり出てくるのです。

射影定理

ヒルベルト空間の主役が、次の定理です。

最短点の存在

を閉部分空間、 とすると、 に最も近い の点 がただ 1 つ存在する

直交分解

残差 のすべての元と直交する。空間は と分かれる

完備性がなければ、最短点の存在は保証されません。距離が下限に近づくのに、その点が空間にない、という事態が起こるからです。

有限次元の直感がそのまま無限次元で通用するのは、この定理のおかげです。

図で見る直交射影

閉部分空間 を直線とみなし、 から垂線を下ろします。

HTML
CSS
JavaScript
<div class="cont">
<svg viewBox="0 0 420 215" xmlns="http://www.w3.org/2000/svg" role="img" aria-label="部分空間への直交射影">
<rect x="0" y="0" width="420" height="215" rx="10" fill="#fafbfc"/>
<line x1="70" y1="170" x2="350" y2="100" stroke="#6b7280" stroke-width="1.6"/>
<line x1="197" y1="56" x2="216" y2="134" stroke="#e5484d" stroke-width="1.8" stroke-dasharray="5 3"/>
<line x1="99" y1="163" x2="197" y2="56" stroke="#3468d6" stroke-width="2"/>
<line x1="99" y1="163" x2="216" y2="134" stroke="#2e9e6b" stroke-width="2"/>
<polyline points="206.3,136.4 203.9,126.7 213.6,124.3" fill="none" stroke="#e5484d" stroke-width="1.2"/>
<circle cx="99" cy="163" r="3" fill="#1b1d22"/>
<circle cx="197" cy="56" r="3.5" fill="#3468d6"/>
<circle cx="216" cy="134" r="3.5" fill="#2e9e6b"/>
<g font-family="Georgia, serif" font-style="italic" font-size="14" paint-order="stroke" stroke="#ffffff" stroke-width="3.5" stroke-linejoin="round">
<text x="203" y="50" fill="#3468d6">x</text>
<text x="224" y="150" fill="#2e9e6b">Px</text>
<text x="228" y="92" fill="#c93c41">x − Px</text>
<text x="356" y="98" fill="#6b7280">M</text>
</g>
<text x="91" y="176" font-family="ui-sans-serif, system-ui, sans-serif" font-size="11" text-anchor="end" fill="#9aa0a6">0</text>
<text x="210" y="204" font-family="ui-sans-serif, system-ui, sans-serif" font-size="12" text-anchor="middle" fill="#1b1d22">残差は M と直交し、Px は x に最も近い M の点になる</text>
</svg>
</div>
.cont { margin: 0; text-align: center; }
.cont svg { width: 100%; max-width: 420px; height: auto; }

垂線の足が で、残差 と直角に交わります。最短距離を与える点が垂線の足になる、という初等幾何の事実です。

無限次元でも、絵はこのままです。 が閉じていること、空間が完備であること。その 2 つが、この絵を支えています。

例:直線への射影を計算する

が張る直線に、 を射影します。

なので、 です。

残差は になります。 で、たしかに直交しています。

が「 方向の成分」と「それに垂直な成分」に分かれました。直交分解が数値で見えています。

例:最小二乗法は射影である

3 点 に直線 を当てはめます。方程式は 3 本、未知数は 2 つで、ぴったり通る直線はありません。

正規方程式を解くと が出ます。当てはめた直線は です。

での予測値は になります。残差ベクトルは です。

例:残差が直交していることを確かめる

最小二乗が射影なら、残差は当てはめに使った方向すべてと直交するはずです。2 本の列ベクトルで検算します。

定数項の列は です。内積は で直交しています。

の列は です。内積は で、こちらも直交します。

観測値を列空間へ落とした影が最小二乗解でした。統計の道具に見えて、正体はヒルベルト空間の射影定理です。

リースの表現定理

ヒルベルト空間 上の連続線形汎関数 は、ある を使って と必ず書けます。

しかも は一意で、 が成り立ちます。汎関数と点が 1 対 1 に対応するのです。

の双対空間は 自身と同一視できます。この自己双対性が、ヒルベルト空間を飛び抜けて扱いやすくしています。

例: でのリース表現

という汎関数を考えます。これを の形にしたい。

とすればよいので、 です。

係数の共役を取るだけで、対応する点が見つかりました。有限次元では、リースの定理はただの計算になります。

例:積分汎関数の表現

の上で とします。これは連続線形汎関数です。

定数関数 を使えば と書けます。 を表現するベクトルは です。

ノルムは になります。「平均を取る」という操作が、1 本のベクトルとして空間の中に住んでいるのです。

量子力学との対応

ヒルベルト空間が物理の言語になったのは、フォン・ノイマンによる定式化からです。

状態はノルム のベクトル で表す
観測量は自己共役作用素 で表す
測定結果が に対応する確率は で与えられる

確率が内積の 2 乗で出てくる。この一点に、量子力学がヒルベルト空間を使う理由が凝縮されています。

を満たす作用素を 自己共役作用素 といいます。

固有値がすべて実数になるので、実測される量を表すのに使えます。

観測量が実数値であるという物理の要請が、作用素の性質として翻訳されているのです。

例:スピンの測定確率

2 準位系は で表せます。上向きと下向きを としましょう。

状態 を考えます。ノルムは で、たしかに単位ベクトルです。

上向きが観測される確率は になります。下向きも同じく です。

重ね合わせとは、2 つの状態の「どちらでもある」ことではありません。射影の 2 乗が確率を与える、というだけの話です。

偏微分方程式との対応

ポアソン方程式 を解くとき、まず解の住む空間を選びます。微分可能性の要求をゆるめた関数空間を使うのです。

1 階の弱微分まで 2 乗可積分な関数の空間を ソボレフ空間 といいます。

内積 でヒルベルト空間になります。

方程式は積分の形に書き換えます。すべての に対して となる を探す、という問題です。

この を弱解といいます。2 階微分を要求しないので、解の候補がぐっと広がります。

例:ラックス・ミルグラムの定理

左辺を双線形形式 、右辺を連続線形汎関数と見ます。問題は を全ての で満たす を見つけることです。

が有界で、かつ強圧的()であれば、そのような がただ 1 つ存在します。これがラックス・ミルグラムの定理です。

証明の骨格はリースの表現定理です。汎関数を内積で表し、双線形形式が定める作用素が全単射であることを示します。

微分方程式の解の存在が、内積と完備性だけから出てきました。ヒルベルト空間が偏微分方程式の標準言語になった理由です。

理解の確認

sup ノルムの がヒルベルト空間でないことを示すのは、次のどれですか。

  • が完備でないこと
  • が平行四辺形の法則を破ること
  • が無限次元であること
__RESULT__

sup ノルムの は完備で、れっきとしたバナッハ空間です。ところが とすると となり、左辺が 、右辺が で法則が破れます。ヨルダン・フォン=ノイマンの定理より、このノルムを与える内積は存在しません。無限次元であること自体は も同じなので、理由になりません。

無限次元に幾何を持ち込む

垂線を下ろし、成分に分解し、ピタゴラスの定理を使う。有限次元で覚えた操作が、関数の空間でもそっくり動きます。

フーリエ級数は正規直交系による展開であり、最小二乗法は射影であり、量子力学の確率は内積の 2 乗でした。見た目の違う 3 つが、同じ構造から出てきます。

この先には、自己共役作用素のスペクトル定理が待っています。有限次元の対角化が無限次元でどこまで生き延びるか、という問いです。

内積と完備性。この 2 つを備えた空間だけが、無限次元でユークリッド幾何の直感を許してくれます。

ヒルベルト空間と内積を具体例で解説。平行四辺形の法則と偏極恒等式で内積を復元し、グラム・シュミットからルジャンドル多項式、パーセバルからバーゼル問題を導く。射影定理と最小二乗法、量子力学との対応まで図つきで解説。