1909 年、ガイガーとマースデンは、放射性の元素から出るアルファ粒子を薄い金属の箔に当て、散乱された粒子を数えました。アルファ粒子はヘリウムの原子核で、電荷は +2e、質量は電子の約 7300 倍です。
ほとんどのアルファ粒子は、箔をまっすぐ通り抜けるか、わずかに向きを変えるだけでした。ところが、ごくまれに 90° より大きく曲がって、入ってきた側へ戻ってくるものがありました。白金の箔では、およそ 8000 個に 1 個でした。
当時の原子の模型では、正の電荷は原子全体に広がっていて、その中に電子が散らばっていると考えられていました。この模型では、アルファ粒子が 1 個の原子から受ける力は弱く、曲がる角はとても小さくなります。たくさんの原子で小さく曲がるのが重なっても、90° を超える確率は無視できるほど小さいはずでした。
ラザフォードは 1911 年、原子の正の電荷と質量のほとんどが、中心のごく小さな領域に集まっていると考えました。これが原子核です。アルファ粒子が原子核のすぐ近くを通ると、強いクーロン力を受けて大きく曲がります。
図は、ほとんどのアルファ粒子がまっすぐ通り抜け、まれに大きく曲がるようすを描いたものです。見やすいように、大きく曲がるものを実際よりずっと多くしています。
原子番号 Z の原子核とアルファ粒子のあいだの位置エネルギーは、U(r) = \dfrac{k}{r}、k = \dfrac{2Ze^2}{4\pi\varepsilon_0} です。金の原子核はアルファ粒子の約 50 倍重いので、止まっているとします。
ケプラー問題と同じく、角運動量 p_\theta とエネルギー E が保存します。違うのは、力が反発で k の符号が逆になることだけです。軌道の式は \dfrac{d^2u}{d\theta^2} + u = -\dfrac{mk}{p_\theta^2} になり、解は r = \dfrac{p}{e\cos\theta - 1} です。E > 0 なので e > 1 で、軌道は原子核を外側の焦点とする双曲線です。
遠くから来るときに、原子核を通る直線からずれている距離 b を、衝突パラメータといいます。遠くでの速さを v_0 とすると、角運動量は p_\theta = mv_0b です。図は b を変えた何本もの軌道で、b が小さいほど原子核に近づき、大きく曲がります。
正面からぶつかる b = 0 のアルファ粒子は、運動エネルギーがすべて位置エネルギーに変わる距離 d = \dfrac{k}{E} でいったん止まり、まっすぐ戻ります。図はこの d を長さの単位にしています。
入ってくる向きと出ていく向きのあいだの角を、散乱角 \Theta といいます。双曲線の 2 本の漸近線の向きは \cos\theta = \dfrac{1}{e} で決まり、離心率は e^2 = 1 + \left(\dfrac{2b}{d}\right)^2 です。これらから \tan\dfrac{\Theta}{2} = \dfrac{d}{2b} が得られます。
b = \dfrac{d}{2} のとき \Theta = 90^\circ、b = d で 53^\circ、b = 2d で 28^\circ です。90° より大きく曲がるのは、b が \dfrac{d}{2} より小さく、原子核のすぐ近くを通ったアルファ粒子だけです。
図の曲線がこの関係です。b を大きくすると散乱角は小さくなりますが、0 にはなりません。クーロン力は遠くまで届くので、原子核から離れて通るアルファ粒子も少しは曲がります。実際の原子では電子が原子核の電荷を打ち消すので、原子の大きさより遠くを通ると、ほとんど曲がりません。
散乱角は b と d の比だけで決まり、アルファ粒子のエネルギーや原子核の電荷は d を通してだけ入ってきます。エネルギーを 2 倍にすると d は半分になり、同じ角に曲がるには、半分の衝突パラメータで通らなければなりません。
実験で数えられるのは、ある向きの小さな立体角 d\Omega の中に散乱された粒子の数です。粒子は箔の中の原子核に対してでたらめな位置に来るので、衝突パラメータが b と b + db のあいだに来た粒子が、散乱角 \Theta と \Theta + d\Theta のあいだへ出ていきます。
半径 b、幅 db の輪の面積 2\pi b\,db を、出ていく先の立体角 d\Omega = 2\pi\sin\Theta\,d\Theta で割ったものを、微分断面積といいます。前の場面の式から計算すると \dfrac{d\sigma}{d\Omega} = \left(\dfrac{d}{4}\right)^2\dfrac{1}{\sin^4(\Theta/2)} になります。これがラザフォードの散乱公式です。
\dfrac{1}{\sin^4(\Theta/2)} は、散乱角が小さいところでとても大きくなり、10° と 180° では約 17000 倍違います。図の縦軸は常用対数の目盛りです。前へ少し曲がる粒子がほとんどで、後ろへ跳ね返る粒子はごくわずかですが、0 ではありません。
1913 年、ガイガーとマースデンは、散乱角、箔の厚さ、アルファ粒子の速さを変えて数を数え、この式のとおりになることを確かめました。散乱される数は d^2 に比例するので、原子核の電荷の 2 乗に比例します。1920 年にはチャドウィックが、散乱の数から白金、銀、銅の原子核の電荷を求め、原子番号に等しいことを確かめています。
ラザフォードの式は、アルファ粒子と原子核がクーロン力だけで力をおよぼし合うとして導きました。アルファ粒子は、散乱角が大きいほど原子核に近づき、正面衝突でいちばん近い d まで近づきます。
ガイガーとマースデンが使ったアルファ粒子のエネルギーは、約 7.7 MeV です。金の原子核に正面から近づく距離は d = \dfrac{2 \times 79 \times 1.44\,\mathrm{MeV\,fm}}{7.7\,\mathrm{MeV}} = 30\,\mathrm{fm} で、1 fm は 10^{-15} m です。式が成り立っていたということは、原子核の半径はこれより小さいことになります。
いまわかっている金の原子核の半径は約 7 fm で、金の原子の半径 1.4 \times 10^5 fm（0.14 nm）の約 2 万分の 1 です。図は 3 つの長さを常用対数の目盛りで並べたもので、原子核が原子に比べてきわめて小さいことがわかります。
アルファ粒子のエネルギーを上げて、原子核に接するほど近づけると、散乱される数はラザフォードの式からずれ始めます。原子核の中の強い力がはたらき始めるためで、このずれから原子核の大きさが測られました。1919 年にはラザフォードが、水素の原子核との衝突で、式からのずれを見つけています。
原子核の大きさは、のちに、高いエネルギーの電子を当てる実験で詳しく測られました。原子核の半径は、質量数を A として、およそ 1.2A^{1/3} fm であることがわかっています。