座標空間に 3 点 \mathrm{O}\,(0,\,0,\,0), \mathrm{A}\,(0,\,1,\,1), \mathrm{P}\,(x,\,y,\,0) がある。\angle \mathrm{OAP} = 30^\circ かつ y \geqq 0 を満たすように点 \mathrm{P} が動くとき,(x+1)(y+1) の最大値と最小値を求めよ。
\angle \mathrm{OAP} は真ん中の \mathrm{A} が頂点です。そこから伸びる 2 本、\vec{\mathrm{AO}} と \vec{\mathrm{AP}} のなす角が 30^\circ ということです。
\vec{\mathrm{AO}} = (0,\,-1,\,-1) で長さは \sqrt{2}、\vec{\mathrm{AP}} = (x,\,y-1,\,-1) で長さは \sqrt{x^2+(y-1)^2+1} です。
内積は \vec{\mathrm{AO}} \cdot \vec{\mathrm{AP}} = -(y-1)+1 = 2-y です。x が消えるのは、\vec{\mathrm{AO}} の第 1 成分が 0 だからです。
よって条件は \dfrac{2-y}{\sqrt{2}\sqrt{x^2+(y-1)^2+1}} = \cos 30^\circ = \dfrac{\sqrt{3}}{2} です。右辺が正なので 2-y > 0 でなければなりません。
分母を払って 2 乗すると 4(2-y)^2 = 6\{x^2+(y-1)^2+1\} です。2 で割って 2(2-y)^2 = 3\{x^2+(y-1)^2+1\} となります。
左辺は 2y^2-8y+8、右辺は 3x^2+3y^2-6y+6 です。移すと 3x^2+y^2+2y-2 = 0、平方完成して 3x^2+(y+1)^2 = 3 となります。
つまり x^2 + \dfrac{(y+1)^2}{3} = 1 で、中心 (0,\,-1)、横に 1、縦に \sqrt{3} の楕円です。\mathrm{A} を頂点として 30^\circ の向きに開く円錐を、z = 0 の平面で切った切り口が出てきた、ということです。
y \geqq 0 で切ると、楕円の上のほうの弧だけが残ります。楕円の上では y+1 \leqq \sqrt{3} なので y \leqq \sqrt{3}-1 で、これは 2 より小さいですから、2-y > 0 は自動的にみたされます。2 乗して増えた解はありません。
楕円の式から (y+1)^2 = 3(1-x^2) です。y+1 は 1 以上なので正で、y+1 = \sqrt{3}\sqrt{1-x^2} と書けます。
y \geqq 0 は \sqrt{3}\sqrt{1-x^2} \geqq 1、つまり 1-x^2 \geqq \dfrac{1}{3} です。よって x の動く範囲は -\dfrac{\sqrt{6}}{3} \leqq x \leqq \dfrac{\sqrt{6}}{3} になります。
求める値は (x+1)(y+1) = \sqrt{3}(1+x)\sqrt{1-x^2} です。根号の中へ入れると \sqrt{3}\sqrt{(1+x)^3(1-x)} となります。1-x^2 = (1+x)(1-x) を使いました。
値は 0 以上ですから、g(x) = (1+x)^3(1-x) の大小を調べれば足ります。根号を外して 4 次の多項式にできました。
g'(x) = 3(1+x)^2(1-x)-(1+x)^3 = (1+x)^2\{3(1-x)-(1+x)\} = (1+x)^2(2-4x) です。
x の範囲では (1+x)^2 > 0 ですから、符号を決めるのは 2-4x だけです。x = \dfrac{1}{2} の手前で増え、その先で減ります。\dfrac{1}{2} は \dfrac{\sqrt{6}}{3} より小さいので、範囲の内側にあります。
最大は x = \dfrac{1}{2} のときです。y+1 = \sqrt{3}\sqrt{1-\dfrac{1}{4}} = \dfrac{3}{2} なので y = \dfrac{1}{2} で、値は \dfrac{3}{2} \cdot \dfrac{3}{2} = \dfrac{9}{4} です。
最小は両端のどちらかです。端では 1-x^2 = \dfrac{1}{3} すなわち y = 0 で、値は x+1 そのものになります。x = \dfrac{\sqrt{6}}{3} で 1+\dfrac{\sqrt{6}}{3}、x = -\dfrac{\sqrt{6}}{3} で 1-\dfrac{\sqrt{6}}{3} ですから、最小値は 1-\dfrac{\sqrt{6}}{3}(およそ 0.184)です。