2 以上の整数で，1 とそれ自身以外に正の約数を持たない数を素数という。以下の問いに答えよ。
(1) f(x) = x^3+10x^2+20x とする。f(n) が素数となるような整数 n をすべて求めよ。
(2) a, b を整数の定数とし，g(x) = x^3+ax^2+bx とする。g(n) が素数となるような整数 n の個数は 3 個以下であることを示せ。
f(x) = x(x^2+10x+20) と因数分解できます。f(n) は 2 つの整数 n と n^2+10n+20 の積です。
素数 p を 2 つの整数の積に書くと、p = 1 \cdot p、p = (-1)\cdot(-p) の形しかありません。つまり片方は \pm 1 です。
だから n = \pm 1 か、n^2+10n+20 = \pm 1 のどちらかになります。調べる相手が有限個に絞れました。
n = 0 は f(0) = 0 なので除きます。素数は 2 以上の整数です。
n = 1 のとき f(1) = 1 \cdot 31 = 31 で素数です。n = -1 のとき f(-1) = (-1)\cdot 11 = -11 で、負なので素数ではありません。
n^2+10n+20 = 1 は n^2+10n+19 = 0。判別式が 24 で平方数ではないので、整数解はありません。
n^2+10n+20 = -1 は n^2+10n+21 = 0、(n+3)(n+7) = 0 ですから n = -3 か n = -7 です。
f(-3) = (-3)\cdot(-1) = 3、f(-7) = (-7)\cdot(-1) = 7。どちらも素数です。よって答えは n = 1,\ -3,\ -7 の 3 つとなります。
(2) も同じ形です。g(x) = x(x^2+ax+b) ですから、h(x) = x^2+ax+b と置いて g(n) = n\,h(n) です。
g(n) が素数 p になるとき、n は p の約数ですから n = \pm 1 か n = \pm p です。n \geqq 2 なら n = p で h(n) = 1、n \leqq -2 なら n = -p で h(n) = -1 となります。
n = 1 が使えるのは h(1) が素数のとき、とくに h(1) \geqq 2 のときです。n = -1 が使えるのは -h(-1) が素数のとき、とくに h(-1) \leqq -2 のときです。
h は下に凸の放物線ですから、h(n) = 1 の解も h(n) = -1 の解も 2 つまでです。候補はこの 4 通りに尽きるので、あとはどれとどれが同時に使えるかを見ます。
h(n) = 1 を満たす n \geqq 2 が 2 つある場合から見ます。それを o_1, o_2 とすると h(x)-1 = (x-o_1)(x-o_2) です。h(n) = -1 は (n-o_1)(n-o_2) = -2 となり、解は o_1 と o_2 のあいだ、つまり 2 より大きいので -2 以下にはなれません。
h(-1)-1 = (o_1+1)(o_2+1) \geqq 9 ですから h(-1) > 0 で、n = -1 も使えません。残るのは o_1, o_2 と n = 1 の 3 個までです。
h(n) = -1 を満たす n \leqq -2 が 2 つある場合も同じです。それを i_1, i_2 とすると、n \geqq 2 では (n-i_1)(n-i_2) \geqq 16 で 2 になれず、h(-1)+1 = (-1-i_1)(-1-i_2) \geqq 1 から n = -1 も使えません。やはり 3 個までです。
残るのは両側とも 1 つずつの場合です。ここへ n = 1 と n = -1 を足すと 4 個になりそうですが、そうはなりません。
両方使えるなら h(1) \geqq 2 かつ h(-1) \leqq -2 で、差を取ると h(1)-h(-1) = 2a \geqq 4、軸 -\dfrac{a}{2} は -1 以下です。すると h は x \geqq 1 で増え続けるので、n \geqq 2 で h(n) = 1 となることはありません。どの場合も 3 個を超えられず、a = 15, b = 25（n = 1,\ -2,\ -13）のようにちょうど 3 個になる例もあります。