長さと角度をあとから入れる、内積空間の公理と例

ベクトル空間の公理には、長さも角度も出てこない。足し算とスカラー倍だけで、$v$ がどれだけ長いかは決まらない。

そこへあとから入れる構造が内積である。$\Vert v\Vert =\sqrt{⟨v,v⟩}$ と定めれば長さが出て、$\cos \theta =\frac{⟨u,v⟩}{\Vert u\Vert \Vert v\Vert }$ と定めれば角度も出る^[1]。

入れ方は 1 通りではない。同じ空間に違う内積を入れれば、長さも直角も変わる。

内積の 4 条件

実ベクトル空間 $V$ 上の内積とは、2 つのベクトルに実数を返す写像で、次の 4 つを満たすものをいう^[1]。

第 2 変数の線形性は条件に入っていない。対称性から自動で出るためで、独立には数えない。

$$⟨x,\alpha y+\beta z⟩=⟨\alpha y+\beta z,x⟩=\alpha ⟨y,x⟩+\beta ⟨z,x⟩=\alpha ⟨x,y⟩+\beta ⟨x,z⟩$$

線形性からは $⟨0,x⟩=0$ も出る。$0=0\cdot 0$ と書いてスカラーを外へ出せばよい。

複素の場合は対称性を変える

複素ベクトル空間で対称性をそのまま使うと、非負性と衝突する。$⟨ix,ix⟩=i^2⟨x,x⟩=-⟨x,x⟩$ となってしまう^[1]。

そこで対称性を共役対称性に置き換える。

$$⟨x,y⟩=\overline{⟨y,x⟩}$$

これなら $⟨x,x⟩=\overline{⟨x,x⟩}$ で、自分自身が実数になる。非負性を課す意味が保たれる。

代わりに第 2 変数は共役線形になる。$⟨x,\alpha y⟩=\bar{\alpha }⟨x,y⟩$ で、スカラーが共役を付けて出てくる。

例：標準内積

${\mathbb{R}}^n$ でいちばん基本の内積が、成分の積を足したものである^[1]。

$$⟨x,y⟩=x_1{y}_1+x_2{y}_2+\cdots +x_n{y}_n=y^{\mathsf{T}}x$$

$u=(1,0)$、$v=(1,1)$ なら $⟨u,v⟩=1$。長さは $1$ と $\sqrt{2}$ なので $\cos \theta =\frac{1}{\sqrt{2}}$、角度は $45$ 度になる。

例：重みを付けた内積

対称で正定値な行列 $A$ を 1 つとると、別の内積が作れる。

$$⟨x,y{⟩}_A=y^{\mathsf{T}}Ax$$

$A$ が単位行列なら標準内積に戻る。次の $A$ をとってみる。

$$A=\left(\begin{array}{cc}2& 1\\ 1& 1\end{array}\right),⟨x,x{⟩}_A=2x_1^2+2x_1{x}_2+x_2^2$$

平方完成すると $x_1^2+(x_1+x_2{)}^2$ になり、$0$ 以上で、$0$ になるのは $x=0$ のときだけ。4 条件を満たしている。

この内積では $(1,0)$ と $(0,1)$ が直交しない。$⟨e_1,e_2{⟩}_A=1\ne 0$ で、標準内積で直角だったものが直角でなくなる。

例：関数の内積

区間 $[-1,1]$ 上の多項式の空間に、次の内積を入れる^[1]。

$$⟨f,g⟩={\int }_{-1}^{1}f(t)g(t)dt$$

$f=1$、$g=t$ の内積は ${\int }_{-1}^{1}tdt=0$。定数関数と 1 次関数が直交している。

$1$ の長さは $\sqrt{2}$、$t$ の長さは $\sqrt{2/3}$。関数に長さが付くと、近似の良し悪しを測れるようになる。

$t^2$ は $1$ と直交しない。${\int }_{-1}^1{t}^{2}dt=\frac{2}{3}$ である。$t^2-\frac{1}{3}$ に直せば直交し、ルジャンドル多項式の 2 番目が出てくる。

例：行列の内積

$m\times n$ 行列の空間には、フロベニウス内積が入る^[1]。

$$⟨A,B⟩=\mathrm{tr}(B^{\mathsf{T}}A)=\sum _{i,j}{a}_{ij}{b}_{ij}$$

成分をすべて並べて 1 本のベクトルと見た標準内積と同じもの。行列という見かけを外すと、${\mathbb{R}}^{mn}$ の標準内積になっている。

対応する長さがフロベニウスノルムである。成分が $1,2,0,3$ の 2 次行列なら $\Vert A{\Vert }_F=\sqrt{1+4+0+9}=\sqrt{14}$ になる。

コーシー・シュワルツの不等式

内積とノルムを結ぶ基本の不等式が、これである^[2]。

$$|⟨x,y⟩|\le \Vert x\Vert \cdot \Vert y\Vert$$

証明は 2 次関数を使う。$y\ne 0$ とし、実数 $t$ を動かして $\Vert x-ty{\Vert }^2$ を展開する。

$$0\le \Vert x-ty{\Vert }^2=\Vert x{\Vert }^2-2t⟨x,y⟩+t^2\Vert y{\Vert }^2$$

右辺は $t$ の 2 次関数で、つねに $0$ 以上。$t=\frac{⟨x,y⟩}{\Vert y{\Vert }^2}$ を代入すると、いちばん小さい値が出る^[1]。

$$0\le \Vert x{\Vert }^2-\frac{⟨x,y{⟩}^2}{\Vert y{\Vert }^2}$$

両辺に $\Vert y{\Vert }^2$ を掛けて平方根をとれば、求める不等式になる。

等号が成り立つのは、上の計算で $\Vert x-ty\Vert =0$ となるとき、つまり $x$ が $y$ の定数倍のときに限る^[2]。一次従属かどうかが、等号の条件になっている。

三角不等式

コーシー・シュワルツから、ノルムの三角不等式が出る^[2]。

$$\begin{array}{rl}\Vert x+y{\Vert }^2& =\Vert x{\Vert }^2+\Vert y{\Vert }^2+2⟨x,y⟩\\ & \le \Vert x{\Vert }^2+\Vert y{\Vert }^2+2\Vert x\Vert \Vert y\Vert =(\Vert x\Vert +\Vert y\Vert {)}^2\end{array}$$

両辺の平方根をとって $\Vert x+y\Vert \le \Vert x\Vert +\Vert y\Vert$。回り道より直線が短い、という当たり前の事実が、内積の 4 条件だけから出た。

中線定理

ノルムを内積から作ると、次の等式が必ず成り立つ^[2,3]。展開して整理するだけで出る。

$$\Vert u+v{\Vert }^2+\Vert u-v{\Vert }^2=2\left(\Vert u{\Vert }^2+\Vert v{\Vert }^2\right)$$

平行四辺形の 2 本の対角線の二乗和が、4 辺の二乗和に等しい。平面幾何の中線定理そのものである。

内積はノルムから復元できる

逆向きに、ノルムだけから内積を書き戻せる。実の場合は次の形になる^[3]。

$$⟨x,y⟩=\frac{1}{4}\left(\Vert x+y{\Vert }^2-\Vert x-y{\Vert }^2\right)$$

複素の場合は $\alpha =\pm 1,\pm i$ について $\alpha \Vert x+\alpha y{\Vert }^2$ を足し、4 で割る。偏極恒等式と呼ぶ。

つまり内積とノルムは、情報として同じものを持っている。片方を決めれば、もう片方が決まる。

どんなノルムが内積から来るのか

ノルムだけを公理にすると、内積から作れないものが混ざる。${\mathbb{R}}^2$ の $\Vert x{\Vert }_1=|x_1|+|x_2|$ がその例である。

$u=(1,0)$、$v=(0,1)$ で中線定理を試すと、左辺が $2^2+2^2=8$、右辺が $2(1+1)=4$。等しくない。

中線定理を満たすかどうかが、そのまま境目になる。満たせば偏極恒等式で内積が作れ、満たさなければ作れない^[3]。

$p\ne 2$ の $p$ ノルムは、どれも中線定理を満たさない^[3]。同じ $u$ と $v$ で左辺が $2^{1+2/p}$、右辺が $4$ になり、$p=2$ でだけ一致する。

直交

$⟨u,v⟩=0$ のとき、$u$ と $v$ は直交するという。角度の話をしなくても、内積が $0$ かどうかで言える。

直交するとピタゴラスの定理が成り立つ。展開したとき、内積の項が消えるためだ。

$$\Vert u+v{\Vert }^2=\Vert u{\Vert }^2+\Vert v{\Vert }^2+2⟨u,v⟩=\Vert u{\Vert }^2+\Vert v{\Vert }^2$$

零ベクトルはすべてのベクトルと直交する。逆に、すべてと直交するベクトルは零ベクトルしかない^[1]。$y=x$ とおけば $⟨x,x⟩=0$ となり、非退化性から $x=0$ が出る。

角度が入る例も確かめる。

補足

無限次元では、内積があるだけでは足りない場面が出てくる。収束するはずの列が空間の外へ出ていくことがあるためだ。

内積空間が距離について完備なとき、ヒルベルト空間と呼ぶ。二乗可積分関数の空間 $L^2$ がその代表で、フーリエ級数の理論はここで展開される。

有限次元なら完備性は自動で付いてくる。線形代数の範囲で完備性を気にしなくてよいのは、そのためである。

長さと角度は、空間にもとから備わったものではない。内積を 1 つ選んだ結果として決まる。どの内積を選ぶかで、何が直角かが変わる。

参考