平面上の三角形 \mathrm{OAB} を考える。\angle \mathrm{AOB} は鋭角，\mathrm{OA} = 3, \mathrm{OB} = t とする。また，点 \mathrm{A} から直線 \mathrm{OB} に下ろした垂線と直線 \mathrm{OB} の交点を \mathrm{C} とし，\mathrm{OC} = 1 とする。線分 \mathrm{AB} を 2:1 に内分する点を \mathrm{P}, 点 \mathrm{A} から直線 \mathrm{OP} に下ろした垂線と直線 \mathrm{OB} との交点を \mathrm{R} とする。
(1) 内積 \vec{\mathrm{OA}} \cdot \vec{\mathrm{OB}} を t を用いて表せ。
(2) 線分 \mathrm{OR} の長さを t を用いて表せ。
(3) 線分 \mathrm{OB} の中点を \mathrm{M} とする。点 \mathrm{R} が線分 \mathrm{MB} 上にあるとき，t のとりうる値の範囲を求めよ。
\mathrm{C} は \mathrm{A} から直線 \mathrm{OB} へ下ろした垂線の足ですから、\mathrm{OC} は \vec{\mathrm{OA}} を \mathrm{OB} の向きへ映した長さです。\mathrm{OC} = \mathrm{OA}\cos\angle \mathrm{AOB} = 3\cos\angle \mathrm{AOB} で、これが 1 ですから \cos\angle \mathrm{AOB} = \dfrac{1}{3} です。
これは正で、\angle \mathrm{AOB} が鋭角だという条件とも合います。大事なのは、この角が t に関係なく決まってしまうことです。動くのは \mathrm{B} の遠さだけで、三角形の開き具合は変わりません。
内積は \vec{\mathrm{OA}} \cdot \vec{\mathrm{OB}} = 3 \cdot t \cdot \dfrac{1}{3} = t です。
\mathrm{OC} \times \mathrm{OB} = 1 \times t と見ても同じです。映した長さと相手の長さを掛けたものが内積、という定義そのものになっています。
\mathrm{P} は \mathrm{AB} を 2:1 に内分する点ですから \vec{\mathrm{OP}} = \dfrac{\vec{\mathrm{OA}} + 2\vec{\mathrm{OB}}}{3} です。内分の比が 2:1 なので、遠いほうの \mathrm{B} に重みが 2 つきます。
\mathrm{R} は直線 \mathrm{OB} の上にあるので \vec{\mathrm{OR}} = k\vec{\mathrm{OB}} とおけます。条件は \mathrm{AR} \perp \mathrm{OP}、つまり (k\vec{\mathrm{OB}} - \vec{\mathrm{OA}}) \cdot (\vec{\mathrm{OA}} + 2\vec{\mathrm{OB}}) = 0 です。
展開すると k\,\vec{\mathrm{OA}} \cdot \vec{\mathrm{OB}} + 2k|\vec{\mathrm{OB}}|^2 - |\vec{\mathrm{OA}}|^2 - 2\,\vec{\mathrm{OA}} \cdot \vec{\mathrm{OB}} = 0 です。(1) の t と |\vec{\mathrm{OB}}|^2 = t^2、|\vec{\mathrm{OA}}|^2 = 9 を入れて kt + 2kt^2 = 9 + 2t となります。
k = \dfrac{2t+9}{t(2t+1)} ですから、\mathrm{OR} = kt = \dfrac{2t+9}{2t+1} です。k は正なので \mathrm{R} は \mathrm{B} と同じ側にあります。
\mathrm{OR} = \dfrac{2t+9}{2t+1} = 1 + \dfrac{8}{2t+1} と書き直すと、動きが読めます。t が大きくなるほど \mathrm{OR} は小さくなり、1 に近づきます。
t を 0 に近づけると \mathrm{OR} は 9 に近づきます。\mathrm{B} が原点のそばにあるとき、\mathrm{R} はずっと遠くにいるということです。
いっぽう \mathrm{M} は \mathrm{OB} の中点なので \mathrm{OM} = \dfrac{t}{2}、\mathrm{B} までは t です。こちらは t とともに大きくなります。
\mathrm{R} が線分 \mathrm{MB} の上にあるとは、\dfrac{t}{2} \leqq \mathrm{OR} \leqq t ということです。減っていく \mathrm{OR} と、増えていく 2 本にはさまれる t を探します。
右の側は \dfrac{2t+9}{2t+1} \leqq t です。2t+1 > 0 なので払って 2t+9 \leqq 2t^2+t、つまり 2t^2-t-9 \geqq 0 となります。
2t^2-t-9 = 0 の解は t = \dfrac{1 \pm \sqrt{73}}{4} で、正のほうは \dfrac{1+\sqrt{73}}{4} です。t > 0 では t \geqq \dfrac{1+\sqrt{73}}{4} が答えになります。
左の側は \dfrac{t}{2} \leqq \dfrac{2t+9}{2t+1} です。2(2t+1) > 0 を掛けて 2t^2+t \leqq 4t+18、つまり 2t^2-3t-18 \leqq 0 となります。解は t = \dfrac{3 \pm 3\sqrt{17}}{4} で、正のほうまでが範囲です。
合わせて \dfrac{1+\sqrt{73}}{4} \leqq t \leqq \dfrac{3(1+\sqrt{17})}{4} です。およそ 2.386 \leqq t \leqq 3.842 で、\mathrm{OB} が \mathrm{OA} = 3 と同じくらいの長さのときだけ、\mathrm{R} が後ろ半分に収まります。