座標空間内に 4 点 \mathrm{O}(0,\ 0,\ 0),\mathrm{A}(6,\ 0,\ 0),\mathrm{B}(0,\ 6,\ 0),\mathrm{C}(0,\ 0,\ 6) をとる。\mathrm{OA},\mathrm{OB},\mathrm{OC} を辺にもつ立方体を K とし,3 点 \mathrm{D}(0,\ 2,\ 6),\mathrm{E}(0,\ 6,\ 3),\mathrm{F}(3,\ 6,\ 0) を通る平面を \alpha とする。\alpha による K の切り口を底面とし,\mathrm{O} を頂点とする錐体の体積を求めよ。
\vec{\mathrm{DE}} = (0,\ 4,\ -3)、\vec{\mathrm{DF}} = (3,\ 4,\ -6) です。この 2 つの両方に垂直なベクトルを \vec{n} = (a,\ b,\ c) とおくと、内積が 0 という条件から 4b-3c = 0、3a+4b-6c = 0 となり、\vec{n} = (4,\ 3,\ 4) がとれる。
点 \mathrm{P}(x,\ y,\ z) が \alpha 上にあるのは \vec{n} \cdot \vec{\mathrm{DP}} = 0 のときで、4x+3(y-2)+4(z-6) = 0、すなわち 4x+3y+4z = 30 です。\alpha は x 軸、y 軸、z 軸と \left(\dfrac{15}{2},\ 0,\ 0\right)、(0,\ 10,\ 0)、\left(0,\ 0,\ \dfrac{15}{2}\right) で交わる。
立方体の 8 つの頂点で 4x+3y+4z の値を調べると、\mathrm{O} で 0、\mathrm{A} で 24、\mathrm{B} で 18、\mathrm{C} で 24 と 30 より小さく、残りの 4 つでは 42 以上になります。平面 \alpha は、30 より小さい頂点と大きい頂点を結ぶ辺と交わる。
そのような辺は \mathrm{A}、\mathrm{B}、\mathrm{C} から 2 本ずつの 6 本です。たとえば \mathrm{A} から y 軸の向きにのびる辺では 24+3y = 30 から y = 2 で、交点は \mathrm{D}、\mathrm{E}、\mathrm{F} と、\mathrm{G}(6,\ 2,\ 0)、\mathrm{H}\left(6,\ 0,\ \dfrac{3}{2}\right)、\mathrm{I}\left(\dfrac{3}{2},\ 0,\ 6\right) になる。
切り口は、この 6 点を順に結んだ 6 角形 \mathrm{DEFGHI} です。\mathrm{O} は 4x+3y+4z < 30 の側にある。
x \geqq 0、y \geqq 0、z \geqq 0、4x+3y+4z \leqq 30 の部分は、\mathrm{O} と 3 つの軸との交点を頂点とする四面体 T です。\mathrm{O} で直角に交わる 3 辺の長さが \dfrac{15}{2}、10、\dfrac{15}{2} だから、体積は \dfrac{1}{6} \cdot \dfrac{15}{2} \cdot 10 \cdot \dfrac{15}{2} = \dfrac{375}{4} になる。
立方体のうち \alpha の \mathrm{O} の側にある部分は、T から立方体の外へはみ出す 3 か所を除いたものです。はみ出すのは x > 6、y > 6、z > 6 の小さな四面体で、\mathrm{A}、\mathrm{B}、\mathrm{C} で直角に交わる 3 辺は順に \dfrac{3}{2}、2、\dfrac{3}{2} と 4、3、3 と \dfrac{3}{2}、2、\dfrac{3}{2}。
体積はそれぞれ \dfrac{3}{4}、6、\dfrac{3}{4} です。2 か所に同時に入る点は 4x+3y+4z > 30 となって T の外にあり、重なりはない。
残る部分の体積は \dfrac{375}{4}-\dfrac{3}{4}-6-\dfrac{3}{4} = \dfrac{345}{4} です。
残った部分を、\mathrm{O} を頂点とし、\mathrm{O} を通らない面を底面とする錐体に分けます。底面は 6 角形 \mathrm{DEFGHI} と、立方体の面の上の三角形 \mathrm{AGH}、\mathrm{BFE}、\mathrm{CID} の 4 つです。
三角形 \mathrm{AGH} は面 x = 6 の上にあり、面積は \dfrac{1}{2} \cdot 2 \cdot \dfrac{3}{2} = \dfrac{3}{2}、\mathrm{O} からこの面までの距離は 6 で、錐体の体積は 3 になる。同じように、\mathrm{BFE} の側は面積 \dfrac{9}{2} で 9、\mathrm{CID} の側は 3 です。
求める錐体は残りの 1 つで、体積は \dfrac{345}{4}-(3+9+3) = \dfrac{285}{4} となる。