a, b を a^2 + b^2 > 1 かつ b \ne 0 をみたす実数の定数とする。座標空間の点 \mathrm{A}(a,\ 0,\ b) と点 \mathrm{P}(x,\ y,\ 0) をとる。点 \mathrm{O}(0,\ 0,\ 0) を通り直線 \mathrm{AP} と垂直な平面を \alpha とし，平面 \alpha と直線 \mathrm{AP} との交点を \mathrm{Q} とする。
(1) (\vec{\mathrm{AP}} \cdot \vec{\mathrm{AO}})^2 = |\vec{\mathrm{AP}}|^2|\vec{\mathrm{AQ}}|^2 が成り立つことを示せ。
(2) |\vec{\mathrm{OQ}}| = 1 をみたすように点 \mathrm{P}(x,\ y,\ 0) が xy 平面上を動くとき，点 \mathrm{P} の軌跡を求めよ。
\mathrm{A} の z 座標は b \ne 0、\mathrm{P} の z 座標は 0 だから、\mathrm{A} と \mathrm{P} は一致せず |\vec{\mathrm{AP}}| > 0 です。
\mathrm{Q} は直線 \mathrm{AP} 上の点なので、実数 s を使って \vec{\mathrm{AQ}} = s\vec{\mathrm{AP}} と書ける。
\mathrm{Q} は \alpha 上の点でもあり、\alpha は \mathrm{O} を通って \mathrm{AP} に垂直だから、\vec{\mathrm{OQ}} \cdot \vec{\mathrm{AP}} = 0 です。
\vec{\mathrm{OQ}} = \vec{\mathrm{AQ}} - \vec{\mathrm{AO}} = s\vec{\mathrm{AP}} - \vec{\mathrm{AO}} を代入すると、s が決まる。
s|\vec{\mathrm{AP}}|^2 - \vec{\mathrm{AP}} \cdot \vec{\mathrm{AO}} = 0
s = \dfrac{\vec{\mathrm{AP}} \cdot \vec{\mathrm{AO}}}{|\vec{\mathrm{AP}}|^2} を |\vec{\mathrm{AQ}}|^2 = s^2|\vec{\mathrm{AP}}|^2 に代入し、両辺に |\vec{\mathrm{AP}}|^2 をかけます。
\begin{aligned}|\vec{\mathrm{AP}}|^2|\vec{\mathrm{AQ}}|^2 &= s^2|\vec{\mathrm{AP}}|^4 \\ &= (\vec{\mathrm{AP}} \cdot \vec{\mathrm{AO}})^2\end{aligned}
\vec{\mathrm{OQ}} と \vec{\mathrm{AQ}} は垂直です。三平方の定理から |\vec{\mathrm{AQ}}|^2 = |\vec{\mathrm{OA}}|^2 - |\vec{\mathrm{OQ}}|^2。
|\vec{\mathrm{OA}}|^2 = a^2 + b^2 だから、|\vec{\mathrm{OQ}}| = 1 は |\vec{\mathrm{AQ}}|^2 = a^2 + b^2 - 1 と同じ条件になる。
(1) の式に代入すると、\mathrm{P} のみたす式は次のとおりです。
(\vec{\mathrm{AP}} \cdot \vec{\mathrm{AO}})^2 = (a^2 + b^2 - 1)|\vec{\mathrm{AP}}|^2
\vec{\mathrm{AP}} = (x - a,\ y,\ -b)、\vec{\mathrm{AO}} = (-a,\ 0,\ -b) から、内積と大きさを計算する。
\begin{aligned}\vec{\mathrm{AP}} \cdot \vec{\mathrm{AO}} &= -a(x - a) + b^2 \\ &= a^2 + b^2 - ax\end{aligned}
|\vec{\mathrm{AP}}|^2 = (x - a)^2 + y^2 + b^2
c = a^2 + b^2 - 1 とおくと c > 0 で、a^2 + b^2 = c + 1 だから、条件は次のように書けます。
(c + 1 - ax)^2 = c\{(x - a)^2 + y^2 + b^2\}
両辺を展開し、右辺に現れる a^2 + b^2 も c + 1 に置きかえる。
\begin{aligned}&(c + 1)^2 - 2a(c + 1)x + a^2x^2 \\ &= c(x^2 - 2ax + y^2 + c + 1)\end{aligned}
左辺から右辺を引くと、x の 1 次の項は -2ax、定数項は c + 1 になります。
(a^2 - c)x^2 - 2ax - cy^2 + c + 1 = 0
a^2 - c = 1 - b^2 だから、軌跡は次の曲線になる。
\begin{aligned}&(1 - b^2)x^2 - 2ax \\ &\quad - (a^2 + b^2 - 1)y^2 + a^2 + b^2 = 0\end{aligned}
|b| = 1 のときは c = a^2 > 0 で、方程式は -2ax - a^2y^2 + a^2 + 1 = 0。x = \dfrac{a^2 + 1}{2a} - \dfrac{a}{2}y^2 の放物線です。
|b| \ne 1 のときは x について平方完成する。
\begin{aligned}&(1 - b^2)\left(x - \dfrac{a}{1 - b^2}\right)^2 - cy^2 \\ &= \dfrac{b^2c}{1 - b^2}\end{aligned}
0 < |b| < 1 なら 1 - b^2 > 0 で、x^2 と y^2 の係数は異符号、右辺は正。双曲線になります。
|b| > 1 なら 1 - b^2 < 0 で、係数はどちらも負、右辺も負です。両辺に -1 をかけると楕円の式になる。
軌跡は展開して求めた曲線で、|b| > 1 のとき楕円、|b| = 1 のとき放物線、0 < |b| < 1 のとき双曲線です。
|\vec{\mathrm{OQ}}| は \mathrm{O} と直線 \mathrm{AP} の距離です。|\vec{\mathrm{OQ}}| = 1 は、直線 \mathrm{AP} が \mathrm{O} を中心とする半径 1 の球に \mathrm{Q} で接することを表す。
\mathrm{A} を通ってこの球に接する直線を集めると、\mathrm{A} を頂点とする円錐になります。\mathrm{P} はその直線と xy 平面の交点で、軌跡は円錐と xy 平面が交わってできる曲線。
\mathrm{P} が限りなく遠ざかるのは、接する直線が xy 平面と平行に近づくとき。\mathrm{A} を通る水平な直線は高さ b のところを通るため、球に接するには |b| \leqq 1 が必要になる。
そのような直線の向きは |b| < 1 で 2 つ、|b| = 1 で 1 つあり、|b| > 1 ではありません。この数が双曲線、放物線、楕円の違いになっている。