非可測集合の存在(ヴィタリ集合)
選択公理を認めると、ルベーグ非可測集合の存在が証明できる。最も有名な構成がヴィタリによるもので、 の任意の部分集合が「長さ」を持つわけではないことを示す。
ヴィタリ集合の構成
上で同値関係 を
と定める。この関係は を有理数ずつずれた「層」に分割する。各同値類は の形をしており、稠密かつ可算である。
同値類全体の集合を とする。選択公理により、各同値類から代表元を 1 つずつ選んで集めた集合 が存在する。この をヴィタリ集合という。
ヴィタリ集合の非可測性
がルベーグ可測と仮定して矛盾を導く。
の元を と列挙し、 とおく。 たちは互いに素である。なぜなら、 とすると ()となり、 なので である。 は各同値類から 1 点のみを含むので となり、 すなわち が従う。
次に、 が成り立つ。左の包含は、任意の に対し、 と同値な代表元 をとれば なので となることから従う。右の包含は と から明らかである。
ルベーグ測度の性質を適用する。 が可測なら も可測で、平行移動不変性から である。可算加法性により
が成り立つ。包含関係から
となるべきである。しかし なら左辺は 0、 なら左辺は となり、どちらも矛盾する。したがって はルベーグ可測ではない。
選択公理の役割
ヴィタリ集合の構成は選択公理に本質的に依存している。選択公理なしでは、各同値類から代表元を選ぶ操作を正当化できない。
実際、ソロヴェイのモデルでは選択公理を否定すると(より正確には、従属選択公理のみを認めると) のすべての部分集合がルベーグ可測になりうる。非可測集合の存在は選択公理と不可分に結びついている。
他の非可測集合
ヴィタリ集合以外にも非可測集合は多く存在する。
ベルンシュタイン集合: の部分集合 で、任意の非可算閉集合 に対して かつ を満たすもの。このような集合はルベーグ非可測である。
ハメルの基底を用いた構成: を 上のベクトル空間と見たときの基底(ハメル基底)を用いても非可測集合が構成できる。
非可測集合の普遍性
非可測集合は病的な例外ではなく、むしろ「ほとんどの」部分集合は非可測である。 の濃度は だが、ルベーグ可測集合の全体 の濃度も である。しかし、 は の「小さな」部分に過ぎない(測度論的・圏論的な意味で)。
非可測集合の存在は、 のすべての部分集合に一貫した「大きさ」を割り当てることの不可能性を示しており、測度論の本質的な限界を明らかにしている。