次の各問いに答えよ。
(1) xyz 空間の 3 点 \mathrm{A}(1, 0, 0)，\mathrm{B}(0, -1, 0)，\mathrm{C}(0, 0, 2) を通る平面 \alpha に関して点 \mathrm{P}(1, 1, 1) と対称な点 \mathrm{Q} の座標を求めよ。ただし，点 \mathrm{Q} が平面 \alpha に関して \mathrm{P} と対称であるとは，線分 \mathrm{PQ} の中点 \mathrm{M} が平面 \alpha 上にあり，直線 \mathrm{PM} が \mathrm{P} から平面 \alpha に下ろした垂線となることである。
(2) 赤玉，白玉，青玉，黄玉が 1 個ずつ入った袋がある。よくかきまぜた後に袋から玉を 1 個取り出し，その玉の色を記録してから袋に戻す。この試行を繰り返すとき，n 回目の試行で初めて赤玉が取り出されて 4 種類すべての色が記録済みとなる確率を求めよ。ただし n は 4 以上の整数とする。
\vec{\mathrm{AB}} = (-1, -1, 0) と \vec{\mathrm{AC}} = (-1, 0, 2) は平面 \alpha 上にあって、平行ではありません。この 2 つの両方に垂直なベクトルは、平面 \alpha 上のどのベクトルとも垂直になる。
そのベクトルを \vec{n} = (a, b, c) とおくと、\vec{\mathrm{AB}}、\vec{\mathrm{AC}} との内積がどちらも 0 になる条件は次の 2 つです。
-a - b = 0, \quad -a + 2c = 0
a = 2 とすると b = -2、c = 1 となり、以下では \vec{n} = (2, -2, 1) を使います。
直線 \mathrm{PM} は平面 \alpha への垂線だから \vec{n} と平行で、実数 t を使って \vec{\mathrm{PQ}} = t\vec{n} と書けます。中点 \mathrm{M} は \mathrm{P} から \dfrac{t}{2}\vec{n} だけ進んだ点。
\mathrm{M} が平面 \alpha 上にあるのは、\vec{\mathrm{AM}} が \vec{n} と垂直になるときです。\vec{\mathrm{AM}} = \vec{\mathrm{AP}} + \dfrac{t}{2}\vec{n}、\vec{\mathrm{AP}} = (0, 1, 1) から内積を計算する。
\vec{\mathrm{AM}} \cdot \vec{n} = \vec{\mathrm{AP}} \cdot \vec{n} + \dfrac{t}{2}|\vec{n}|^2
\vec{\mathrm{AP}} \cdot \vec{n} = -2 + 1 = -1、|\vec{n}|^2 = 9 だから、内積は -1 + \dfrac{9}{2}t です。これが 0 になる t = \dfrac{2}{9} から \vec{\mathrm{PQ}} = \left(\dfrac{4}{9}, -\dfrac{4}{9}, \dfrac{2}{9}\right) で、\mathrm{P}(1, 1, 1) に足すと \mathrm{Q} の座標になる。
\mathrm{Q}\left(\dfrac{13}{9}, \dfrac{5}{9}, \dfrac{11}{9}\right)
n 回目にはじめて赤玉を取り出し、そこで 4 色がそろうのは、n - 1 回目までに赤玉を 1 度も取り出さず、白・青・黄をどれも 1 回以上取り出しているときです。
1 回の取り出し方は 4 通りで、どの色も確率 \dfrac{1}{4}。n 回の色の並び 4^n 通りは同じ確率で起きるため、条件に合う並びの数を 4^n で割れば確率になります。
n 回目は赤玉の 1 通りしかないから、数えるのは 1 回目から n - 1 回目までの並びだけになる。
白・青・黄だけの並びは 3^{n-1} 通り。このうち白を含まない並びは青と黄だけの 2^{n-1} 通りで、青を含まない並び、黄を含まない並びも同じ数あります。
白を含まない並びと青を含まない並びには、黄だけの並びが共通に含まれる。3^{n-1} から 3 \cdot 2^{n-1} を引くと、白だけ、青だけ、黄だけの 3 つは 2 回ずつ引かれるため、3 を足して戻します。
並びの数は 3^{n-1} - 3 \cdot 2^{n-1} + 3 で、4^n で割ると求める確率になる。
\dfrac{3^{n-1} - 3 \cdot 2^{n-1} + 3}{4^n}
n = 4 なら分子は 27 - 24 + 3 = 6 で、はじめの 3 回が白・青・黄の並べかえ 3! = 6 通りになることと一致します。確率は \dfrac{6}{256} = \dfrac{3}{128}。