テンソル積とクロネッカー積｜次元が掛け算になる理由

$2$ 次元と $3$ 次元を直和でつなぐと $5$ 次元、テンソル積でつなぐと $6$ 次元になります。足し算と掛け算の違い。

$dim (V \oplus W) = dim V + dim W, dim (V \otimes W) = dim V \cdot dim W$

掛け算になる理由は、基底の作り方にあります。テンソル積では、両方の基底から 1 本ずつ選んだ組が新しい基底になる^[1]。

基底の組で作る

$V$ の基底を $e_{1}, \dots, e_{m}$ 、 $W$ の基底を $f_{1}, \dots, f_{n}$ とします。テンソル積 $V \otimes W$ は、 $e_{i} \otimes f_{j}$ という記号を基底に持つ空間として作れる^[1]。

$V \otimes W = {i, j \sum c_{ij} e_{i} \otimes f_{j} c_{ij} \in K}$

$e_{i} \otimes f_{j}$ は $m \times n$ 個。これが一次独立だと決めてしまうので、次元は $mn$ です。

$V = W = R^{2}$ なら、 $e_{1} \otimes e_{1}$ 、 $e_{1} \otimes e_{2}$ 、 $e_{2} \otimes e_{1}$ 、 $e_{2} \otimes e_{2}$ の 4 本。

$R^{2} \otimes R^{2}$ は $4$ 次元になります^[1]。

積のように展開する

$v \in V$ と $w \in W$ の $v \otimes w$ は、基底で書いてから積のように開いて定めます。 $\otimes$ の左右を入れ替えない掛け算だと思えばよい^[1]。

分配法則が成り立ちます。

$(v + v^{'}) \otimes w = v \otimes w + v^{'} \otimes w, v \otimes (w + w^{'}) = v \otimes w + v \otimes w^{'}$

スカラーはどちらへでも移せます。

$c (v \otimes w) = (c v) \otimes w = v \otimes (c w)$

例：展開してみる

$V = W = R^{2}$ で $v = e_{1} - e_{2}$ 、 $w = e_{1} + 2 e_{2}$ とします^[1]。

$v \otimes w = e_{1} \otimes e_{1} + 2 e_{1} \otimes e_{2} - e_{2} \otimes e_{1} - 2 e_{2} \otimes e_{2}$

4 つの基底の係数が $1, 2, - 1, - 2$ 。 $v$ の成分 $(1, - 1)$ と $w$ の成分 $(1, 2)$ を掛け合わせた表になっています。

別の基底で計算しても、同じ元が出ます。 $e_{1}^{'} = e_{1} + e_{2}$ 、 $e_{2}^{'} = 2 e_{1} - e_{2}$ で書き直して展開し、もとの基底に戻すと一致する^[1]。

作り方には基底を使いますが、できたものは基底によりません。この点を保証するのが、次の性質です。

双線形写像を線形にする

$ϕ : V \times W \to U$ が双線形であるとは、片方を固定したときにもう片方について線形であることをいいます。

テンソル積は、双線形写像を線形写像に化けさせる装置です^[2]。任意の双線形 $ϕ$ に対して、次を満たす線形写像 $\tilde{ϕ}$ がただ 1 つ存在します。

$\tilde{ϕ} (v \otimes w) = ϕ (v, w)$

存在は基底で定めれば出ます。 $\tilde{ϕ} (e_{i} \otimes f_{j}) = ϕ (e_{i}, f_{j})$ と決め、線形に延ばせばよい。

一意性は、 $e_{i} \otimes f_{j}$ が張っているためです。基底での値が決まれば、線形写像は 1 つに定まります。

この性質を満たす空間は、同型を除いて 1 つしかありません^[2]。だからテンソル積は、基底の選び方によらない対象として定義できます。

双線形写像 $ϕ$ が与えられる

テンソル積を経由させる

線形写像 $\tilde{ϕ}$ が 1 つ決まる

単純テンソルばかりではない

$v \otimes w$ の形に書ける元を単純テンソルと呼びます。 $V \otimes W$ の元が全部この形になる、とは限りません。

$e_{1} \otimes e_{1} + e_{2} \otimes e_{2}$ を考えます。 $v = (a, b)$ 、 $w = (c, d)$ として $v \otimes w$ を展開すると、係数は $a c$ 、 $a d$ 、 $b c$ 、 $b d$ です。

$a c = 1$ かつ $a d = 0$ なら、 $a \neq = 0$ より $d = 0$ 。ところが $b d = 1$ には $d \neq = 0$ が要ります。両立しません。

係数を行列 $(c_{ij})$ に並べると見通しがよくなります。単純テンソルの係数行列は階数 $1$ 、一般の元は階数がもっと大きい。

$e_{1} \otimes e_{1} + e_{2} \otimes e_{2}$ の係数行列は単位行列で階数 $2$ 。だから 1 つの単純テンソルでは書けません。

直和

V \oplus W

元は $(v, w)$ の組。次元は足し算で、成分は独立に動く

テンソル積

V \otimes W

元は $\sum c_{ij} e_{i} \otimes f_{j}$ 。次元は掛け算で、単純テンソルは一部にすぎない

クロネッカー積

線形写像どうしのテンソル積を、行列で書いたものがクロネッカー積です^[2,3]。 $A$ を $m \times n$ 、 $B$ を $p \times q$ とすると、 $m p \times n q$ の行列になります。

$A \otimes B = a_{11} B ⋮ a_{m 1} B \dots ⋱ \dots a_{1 n} B ⋮ a_{mn} B$

$A$ の各成分を $B$ 倍したブロックを並べる形。基底を $e_{i} \otimes f_{j}$ の順に並べたときの表現行列にあたります。

例：2 次どうしのクロネッカー積

$A = (1324), B = (0657)$

$A$ の成分ごとに $B$ を倍して並べます。

$A \otimes B = 0601857152101202410142028$

$4 \times 4$ の行列。 $2 \times 2 = 4$ 次元の空間に働く写像になっています。

トレースを見ると $0 + 7 + 0 + 28 = 35$ 。 $tr A \cdot tr B = 5 \cdot 7 = 35$ と一致します。

積の順序を保つ

クロネッカー積で大事な性質が、積を分けて計算できることです^[3]。

$(A \otimes B) (C \otimes D) = (A C) \otimes (B D)$

$A$ と $C$ 、 $B$ と $D$ がそれぞれ掛けられる形なら成り立ちます。大きな行列の積を、小さな行列 2 組の積に落とせる。

ここから他の性質が出ます。 $A$ 、 $B$ が正則なら $(A \otimes B)^{- 1} = A^{- 1} \otimes B^{- 1}$ 。転置も $(A \otimes B)^{T} = A^{T} \otimes B^{T}$ です。

固有値も掛け算になります。 $A v = λ v$ 、 $B w = μ w$ なら $(A \otimes B) (v \otimes w) = λ μ (v \otimes w)$ 。

トレースと行列式も分かります。 $A$ が $m$ 次、 $B$ が $n$ 次のとき、次の形です。

$tr (A \otimes B) = tr A \cdot tr B, det (A \otimes B) = (det A)^{n} (det B)^{m}$

上の例で確かめると $det A = - 2$ 、 $det B = - 30$ 、 $n = m = 2$ 。 $(- 2)^{2} (- 30)^{2} = 4 \cdot 900 = 3600$ です。

基本的な同型

テンソル積は、括弧の付け方や順番を入れ替えても同型になります。

(U \otimes V) \otimes W ≅ U \otimes (V \otimes W)

。3 つ以上の積で括弧を気にしなくてよくなります。

V \otimes W ≅ W \otimes V

。

v \otimes w

を

w \otimes v

へ送る写像で移ります。

(U \oplus V) \otimes W ≅ (U \otimes W) \oplus (V \otimes W)

。直和に対して分配します。

K \otimes V ≅ V

。体そのものが単位元の役をします。

次元で確かめると、どれも両辺が一致します。 $(2 + 3) \times 4 = 2 \times 4 + 3 \times 4$ のような計算になる。

テンソル積の同型は、同型があることよりもどの写像で移るかが大事になります。

$V \otimes W ≅ W \otimes V$ は $v \otimes w \mapsto w \otimes v$ で移る。基底を使わずに書ける写像なので、基底の選び方に依存しない。

型の付いたテンソル

$V$ とその双対空間 $V^{*}$ を混ぜると、型の付いたテンソルが定義できます。

$p V \otimes \dots \otimes V \otimes q V^{*} \otimes \dots \otimes V^{*}$

この空間の元を $(p, q)$ 型テンソルと呼びます。 $(1, 0)$ 型がベクトル、 $(0, 1)$ 型が線形汎関数、 $(1, 1)$ 型が線形写像にあたる。

$dim V = n$ なら、この空間の次元は $n^{p + q}$ 。添字が 1 本増えるたびに $n$ 倍されます。

$dim V = 3$ 、 $dim W = 5$ のとき、 $dim (V \otimes W)$ はいくらですか。

$15$
$8$
$2$

__RESULT__

基底が $e_{i} \otimes f_{j}$ の形で $3 \times 5 = 15$ 個できます。 $8$ は直和 $V \oplus W$ の次元です。テンソル積では、両方から 1 本ずつ選ぶ組み合わせの数だけ基底が並びます。

単純テンソルの話も確かめます。

$V \otimes W$ の元について、正しいのはどれですか。

すべて $v \otimes w$ の形に書ける
$v \otimes w$ の和としてなら書ける
$v \otimes w$ の形になるのは零元だけ

__RESULT__

$e_{i} \otimes f_{j}$ が基底なので、どの元も単純テンソルの一次結合です。ただし 1 つの $v \otimes w$ で書けるとは限りません。係数行列の階数が $1$ のときだけ、単純テンソルになります。

基底の組を全部並べる。だから次元が掛け算になり、双線形なものが線形になる。クロネッカー積は、この構成をそのまま数値に落とした形です。

参考

Keith Conrad. *Tensor Products*. University of Connecticut.

Keith Conrad. *Tensor Products II*. University of Connecticut.

Henry D. Pfister. *Application: Tensor Products*. ECE 586, Duke University.

$2$ 次元と $3$ 次元をつなぐと、直和なら $5$ 次元、テンソル積なら $6$ 次元です。両方の基底から 1 本ずつ選んだ $e_i \otimes f_j$ が新しい基底になるので、本数が掛け算になる。双線形写像を線形写像に化けさせる装置、という見方をすると、この空間が基底によらずに決まる理由も分かります。$e_1 \otimes e_1 + e_2 \otimes e_2$ が単純テンソルで書けないこと、その判定が係数行列の階数で付くこと、線形写像を行列に落とすとクロネッカー積になること。$(A \otimes B)(C \otimes D) = AC \otimes BD$ から、逆行列・固有値・トレース・行列式の公式が順に出るところまで。