点から平面へ垂線を下ろす〜直交射影の計算演習

$v$ から $W$ へ垂線を下ろした足が、直交射影です。$W$ が 1 本のベクトル $w$ で張られているなら、式は 1 行で書けます^[1]。

$${\mathrm{proj}}_{w}v=\frac{⟨v,w⟩}{\Vert w{\Vert }^2}w$$

$W$ が広がっても形は変わりません。直交する基底で同じ式を足すだけ。ただし基底が直交していないと、この足し算は通りません。

以下 11 問。直線への射影、平面への射影、射影行列、距離、最小二乗まで扱います。

2 つの向きから求める

$W$ そのものへ射影する道と、$W$ の直交補空間へ射影して引く道があります。

平面のように $W$ が大きいときは、法線が 1 本で済む後者が速い。

$${\mathrm{proj}}_{W}v=v-{\mathrm{proj}}_{n}v$$

どちらで求めても、${\mathrm{proj}}_{W}v$ が $W$ に入り、$v-{\mathrm{proj}}_{W}v$ が $W$ に直交する、という 2 つを満たします^[2]。

問題 1

$v=(3,4)$ の、$w=(1,0)$ 方向への射影を求めてください。

$⟨v,w⟩=3$、$\Vert w{\Vert }^2=1$ なので係数は $3$。

$${\mathrm{proj}}_{w}v=3(1,0)=(3,0)$$

$x$ 軸への射影なので、$y$ 成分が落ちただけ。残りの $(0,4)$ が $w$ と直交します。

問題 2

$v=(1,2,3)$ の、$w=(1,1,1)$ 方向への射影を求めてください。

$⟨v,w⟩=1+2+3=6$、$\Vert w{\Vert }^2=3$。係数は $\frac{6}{3}=2$ です。

$${\mathrm{proj}}_{w}v=2(1,1,1)=(2,2,2)$$

残りは $v-(2,2,2)=(-1,0,1)$。内積が $-1+0+1=0$ で、確かに直交します。

問題 3

$v=(1,2,3)$ の、平面 $W=\{x+y+z=0\}$ への射影を求めてください。

$W$ の法線は $n=(1,1,1)$。平面へ直接向かうより、法線方向を引くほうが速い。

問題 2 で ${\mathrm{proj}}_{n}v=(2,2,2)$ が出ています。

$${\mathrm{proj}}_{W}v=(1,2,3)-(2,2,2)=(-1,0,1)$$

$(-1)+0+1=0$ なので、答えが平面の上に乗っていると確かめられます。

問題 4

$W=\mathrm{span}\{(1,0,1),(0,1,1)\}$ への $v=(1,1,0)$ の射影を求めてください。

$2$ 本の基底が直交していません。$⟨(1,0,1),(0,1,1)⟩=1\ne 0$ なので、そのまま足す式は使えません。

法線を使います。$2$ 本の外積は $(-1,-1,1)$ です。

$⟨v,n⟩=-1-1+0=-2$、$\Vert n{\Vert }^2=3$ です。

$${\mathrm{proj}}_{n}v=-\frac{2}{3}(-1,-1,1)=\left(\frac{2}{3},\frac{2}{3},-\frac{2}{3}\right)$$

$${\mathrm{proj}}_{W}v=(1,1,0)-\left(\frac{2}{3},\frac{2}{3},-\frac{2}{3}\right)=\left(\frac{1}{3},\frac{1}{3},\frac{2}{3}\right)$$

確かめます。$\frac{1}{3}(1,0,1)+\frac{1}{3}(0,1,1)=\left(\frac{1}{3},\frac{1}{3},\frac{2}{3}\right)$ で、$W$ の元になっています。

問題 5

$W=\mathrm{span}\{(1,1)\}$ への射影行列を求めてください。

$1$ 本のときは $P=\frac{u{u}^{\mathsf{T}}}{u^{\mathsf{T}}u}$ です^[1]。

$$P=\frac{1}{2}\left(\begin{array}{c}1\\ 1\end{array}\right)\left(\begin{array}{cc}1& 1\end{array}\right)=\frac{1}{2}\left(\begin{array}{cc}1& 1\\ 1& 1\end{array}\right)$$

$v=(3,1)$ に当てると $\frac{1}{2}(4,4)=(2,2)$。$(1,1)$ の $2$ 倍で、確かに $W$ の元です。

問題 6

問題 5 の $P$ が $P^2=P$ と $P^{\mathsf{T}}=P$ を満たすことを確かめてください。

$P^2$ を計算します。

$$P^2=\frac{1}{4}\left(\begin{array}{cc}2& 2\\ 2& 2\end{array}\right)=\frac{1}{2}\left(\begin{array}{cc}1& 1\\ 1& 1\end{array}\right)=P$$

$P$ は対称なので $P^{\mathsf{T}}=P$ も明らかです。

一度射影したものをもう一度射影しても動かない。これが $P^2=P$ の意味です。

問題 7

問題 5 の $P$ について、$I-P$ が何への射影かを答えてください。

$I-P$ を計算します。

$$I-P=\frac{1}{2}\left(\begin{array}{cc}1& -1\\ -1& 1\end{array}\right)$$

$v=(3,1)$ に当てると $(1,-1)$。$(1,1)$ との内積が $0$ なので、$W$ の直交補空間の元です。

$Pv+(I-P)v=(2,2)+(1,-1)=(3,1)=v$ で、和がもとに戻ります。$I-P$ は直交補空間への射影です。

問題 8

$v=(1,2,3)$ から平面 $x+y+z=0$ までの距離を求めてください。

距離は $\Vert v-{\mathrm{proj}}_{W}v\Vert$、つまり法線方向の成分の長さです。

問題 3 で ${\mathrm{proj}}_{n}v=(2,2,2)$ が出ているので、距離は $\Vert (2,2,2)\Vert =2\sqrt{3}$。

点と平面の公式でも確かめられます。$\frac{|1+2+3|}{\sqrt{1+1+1}}=\frac{6}{\sqrt{3}}=2\sqrt{3}$ で一致します。

問題 9

正規直交基底 $e_1=\frac{1}{\sqrt{2}}(1,1,0)$、$e_2=(0,0,1)$ が張る $W$ へ、$v=(2,4,5)$ を射影してください。

基底が正規直交なので、内積を係数にして足すだけです^[3]。

$⟨v,e_1⟩=\frac{2+4}{\sqrt{2}}=3\sqrt{2}$、$⟨v,e_2⟩=5$。

$${\mathrm{proj}}_{W}v=3\sqrt{2}\cdot \frac{1}{\sqrt{2}}(1,1,0)+5(0,0,1)=(3,3,5)$$

残りは $(-1,1,0)$。$e_1$ とも $e_2$ とも内積が $0$ になります。

問題 10

$W=\mathrm{span}\{(1,0),(1,1)\}$ に対して、$v=(0,1)$ を各基底へ射影して足すと何が起こるかを確かめてください。

$(1,0)$ への射影は $0$、$(1,1)$ への射影は $\frac{1}{2}(1,1)$。足すと $\left(\frac{1}{2},\frac{1}{2}\right)$ です。

ところが $W$ は ${\mathbb{R}}^2$ 全体なので、正しい射影は $v$ 自身の $(0,1)$。合いません。

基底が直交していないと、この足し算は成り立たない。先に直交化するか、法線を使う必要があります^[1]。

問題 11

$3$ 点 $(1,1)$、$(2,2)$、$(3,2)$ に、最小二乗で直線 $y=a+bx$ を当ててください。

係数行列と右辺を並べます。

$$A=\left(\begin{array}{cc}1& 1\\ 1& 2\\ 1& 3\end{array}\right),\mathbf{b}=\left(\begin{array}{c}1\\ 2\\ 2\end{array}\right)$$

正規方程式 $A^{\mathsf{T}}A\mathbf{x}=A^{\mathsf{T}}\mathbf{b}$ を作ります。$A^{\mathsf{T}}A$ の成分は $3,6,6,14$、右辺は $(5,11)$。

$3a+6b=5$、$6a+14b=11$ を解いて $b=\frac{1}{2}$、$a=\frac{2}{3}$。

$$y=\frac{2}{3}+\frac{1}{2}x$$

残差は $-\frac{1}{6}$、$\frac{1}{3}$、$-\frac{1}{6}$ で、足すと $0$。$\mathbf{b}$ から $A$ の列空間への射影になっているので、残差がその空間と直交します。

まちがえやすい点

射影の性質も確かめます。

垂線を下ろす。それだけの操作ですが、基底が直交しているかどうかで手順が分かれます。直交していれば内積を並べるだけで、していなければ先に直交化するか法線に回ります。

参考文献