情報とエントロピー：マクスウェルの悪魔

熱力学第二法則によれば、孤立系のエントロピーは決して減少しません。しかし1867年、マクスウェルは「悪魔」と呼ばれる思考実験でこの法則に挑戦しました。この謎の解決には100年以上を要し、情報とエントロピーの深い関係が明らかになりました。

マクスウェルの悪魔

容器が仕切り板で左右に分けられ、同じ温度の気体が入っています。仕切りには小さな穴があり、「悪魔」がその開閉を制御します。

悪魔の戦略

分子が近づくたびに、高速分子は右から左へ、低速分子は左から右へのみ通す。

予想される結果

左側は高温、右側は低温になる。仕事をせずに温度差を作り出し、第二法則に違反？

悪魔は分子を「選別」するだけで、物理的な仕事をしていないように見えます。なぜこれが第二法則に反しないのでしょうか。

1929年、シラードはこの問題を1分子の場合に単純化しました。

1分子が容器内にある

悪魔は分子が左右どちらにいるか「測定」

情報に基づきピストンを適切に動かす

等温膨張で仕事 $W = k_{B} T lo g 2$ を取り出す

初期状態に戻り、サイクルを繰り返す？

シラードは「測定」の行為が熱力学的コストをもつと主張しました。しかし、正確なコストの所在は長く議論が続きました。

1961年、ランダウアーは計算の物理学の観点から決定的な洞察を与えました。

問題は「測定」ではなく「消去」にありました。悪魔が次のサイクルを始めるには、前のサイクルで得た情報を消去する必要があります。

情報の記録

1ビットの情報を記録する過程は可逆にできる。

情報の消去

1ビットを消去するには、最低 $k_{B} T lo g 2$ のエネルギーを熱として放出する必要がある（不可逆）。

これがランダウアーの原理です。悪魔は情報を蓄積し続けることはできず、どこかで消去しなければなりません。そのとき放出される熱が、エントロピー減少を補って第二法則を救うのです。

シャノンは情報理論において、情報のエントロピーを定義しました。

$S_{info} = - i \sum p_{i} lo g p_{i}$

これはボルツマンのエントロピー $S = k_{B} lo g W$ と数学的に同じ形をしています。

ボルツマンのエントロピー

$S = k_{B} lo g W$ ：状態数 $W$ の対数。系の「乱雑さ」を表す。

シャノンの情報エントロピー

$H = - \sum p_{i} lo g p_{i}$ ：確率分布の「不確実さ」を表す。

両者は本質的に同じ概念を異なる文脈で表現しています。係数 $k_{B}$ は単位の違いに過ぎません。

1957年、ジェインズは統計力学を情報理論の観点から再構築しました。

与えられた制約のもとで、情報エントロピーを最大化する確率分布を採用するという原理です。これにより、ボルツマン分布やフェルミ-ディラック分布が自然に導かれます。

制約条件（エネルギー一定など）を設定

情報エントロピーを最大化

ラグランジュ乗数法で最適分布を求める

カノニカル分布などが導出される

この見方では、統計力学は「無知についての合理的な推論」として理解されます。

マクスウェルの悪魔の解決は、情報が物理的な実体であることを示しました。

現代では、量子情報理論、ブラックホールの情報パラドックス、生命と情報の関係など、情報と物理学の境界で活発な研究が続いています。マクスウェルの悪魔は、150年以上を経た今も深い問いを投げかけています。