整式 f(x) = (x-1)^2(x-2) を考える。
(1) g(x) を実数を係数とする整式とし，g(x) を f(x) で割った余りを r(x) とおく。g(x)^7 を f(x) で割った余りと r(x)^7 を f(x) で割った余りが等しいことを示せ。
(2) a, b を実数とし，h(x) = x^2+ax+b とおく。h(x)^7 を f(x) で割った余りを h_1(x) とおき，h_1(x)^7 を f(x) で割った余りを h_2(x) とおく。h_2(x) が h(x) に等しくなるような a, b の組をすべて求めよ。
g を f で割った商を Q とすると g = Qf + r と書けます。示したいのは，この r に取りかえてから 7 乗してよい，ということです。
7 乗して二項展開します。g^7 = (Qf+r)^7 = \displaystyle\sum_{n=0}^{7} {}_7\mathrm{C}_n (Qf)^{7-n} r^n です。
n \leqq 6 の項はどれも Qf を因数に持つので f で割り切れます。f を持たない項は n = 7 の r^7 だけです。
よって g^7 - r^7 は f で割り切れ，2 つを f で割った余りは等しくなります。余りを取る操作と 7 乗は入れかえてよい，ということです。
h は 2 次，f は 3 次ですから，h を f で割った余りは h 自身です。
h_1 は h^7 の余りです。(1) を g = h^7, r = h_1 として使うと，h_1^7 の余りは \left(h^7\right)^7 = h^{49} の余りに等しくなります。
つまり h_2 は h^{49} を f で割った余りです。h_2 = h という条件は，h(x)^{49} - h(x) が f(x) = (x-1)^2(x-2) で割り切れることと同じになります。
7 乗を 2 度という手順が，割り切れるかどうかという 1 つの条件に化けました。同値なので，ここから出す条件はそのまま答えになります。
x = 2 を代入すると h(2)^{49} = h(2) です。x = 1 からも h(1)^{49} = h(1) が出ます。
実数 u で u^{49} = u となるのは u\left(u^{48}-1\right) = 0 のときで，u = 0,\, 1,\, -1 の 3 つに限られます。
(x-1)^2 は同じ因数が 2 つ重なっているので，値が 0 になるだけでは足りません。h(x)^{49} - h(x) を微分した式も x = 1 で 0 になる必要があります。
微分すると \left(49h(1)^{48} - 1\right)h'(1) = 0 です。h(1) は 0,\, 1,\, -1 のどれかで 49h(1)^{48} は 0 か 49 ですから，1 にはなりません。残るのは h'(1) = 0，つまり 2+a = 0 で a = -2 です。
a = -2 が決まったので h(x) = x^2-2x+b です。h(1) = b-1, h(2) = b となります。
h(1) も h(2) も 0,\, 1,\, -1 のどれかでなければなりません。h(1) の側からは b = 0,\, 1,\, 2，h(2) の側からは b = -1,\, 0,\, 1 です。
両方に入るのは b = 0 と b = 1 です。b = 2 は h(2) = 2 となって外れます。
b = 0 なら h(1) = -1, h(2) = 0，b = 1 なら h(1) = 0, h(2) = 1 で，どちらも 3 つの条件をすべて満たします。答えは (a,\, b) = (-2,\, 0) と (-2,\, 1) です。