稠密集合・疎集合の例｜有理数・整数・カントール集合

位相空間 $(X,\mathcal{O})$ において、部分集合がどれだけ「広がっているか」を測る概念が、稠密集合と疎集合です。片方は空間のすみずみまで行き渡った集合、もう片方はどこにもまとまった広がりを持たない集合で、位相的な「大きさ」の両極端をなします。

集合の大きさというと、要素の個数（濃度）や測度をまず思い浮かべます。しかし位相空間には、開集合との交わり方という別の物差しがあります。有理数は実数の中で可算個しかありませんが、どんな区間にも顔を出すという意味では実数直線を埋め尽くしています。この「濃度は小さいのに広がりは大きい」というねじれを捉えるのが、稠密という概念です。逆に、閉じていてなお広がりを持たない集合が疎集合であり、両者の対比はやがてベールのカテゴリー論という強力な道具に育ちます。

稠密集合の定義

部分集合 $A\subseteq X$ が稠密（dense）であるとは、$A$ の閉包が空間全体に一致すること、すなわち $\overline{A}=X$ が成り立つことをいいます。閉包は $A$ とその触点をすべて集めた最小の閉集合なので、$\overline{A}=X$ は「どの点にも $A$ の点でいくらでも近づける」ことを意味します。

実際には、次の三つの条件はすべて同値です。稠密性はどれで確かめてもかまいません。

二番目の条件がいちばん使いやすく、直感にもよく合います。どんなに小さな開集合を取っても、その中に必ず $A$ の点がある。$A$ は $X$ のどの領域にも染み出している、というわけです。三番目は一番目を補集合の言葉で言い換えたもので、稠密と「内部が空」を結ぶ後の議論で効いてきます。

稠密集合の例

もっとも基本的な例は、実数 $\mathbb{R}$（通常の位相）における有理数全体 $\mathbb{Q}$ です。任意の実数 $x$ と任意の $\epsilon >0$ に対して、開区間 $(x-\epsilon ,x+\epsilon )$ には必ず有理数が含まれます。どの区間も有理数と交わるので、二番目の条件から $\mathbb{Q}$ は稠密だとわかります。

同じ理由で、無理数全体 $\mathbb{R}\setminus \mathbb{Q}$ も $\mathbb{R}$ で稠密になります。有理数と無理数が互いに補い合いながら、どちらも実数直線を隙間なく覆っている情景です。分母が 2 の冪だけの二進有理数のように、$\mathbb{Q}$ をさらに絞った集合でも稠密性は保たれます。高次元でも事情は同じで、${\mathbb{Q}}^n$ は ${\mathbb{R}}^n$ で稠密です。

位相を変えると稠密性は一変します。離散位相ではすべての集合が開かつ閉なので、稠密な集合は空間全体 $X$ ただ一つに限られます。逆に密着位相では、空でない集合はどれも稠密です。稠密性が集合そのものだけでなく、入れた位相に強く依存することがよくわかります。関数の空間にも稠密集合はあり、ワイエルシュトラスの近似定理は、閉区間上の連続関数の全体において多項式が稠密であることを主張しています。

可分空間

稠密集合の中でも、可算なものが取れるかどうかは特に大切です。可算な稠密部分集合を持つ空間を可分（separable）といいます。$\mathbb{R}$ は可算な $\mathbb{Q}$ が稠密なので可分であり、同様に ${\mathbb{R}}^n$ も ${\mathbb{Q}}^n$ によって可分です。

可分性は「空間を可算個の点で近似できる」という素性のよさを表し、解析ではしばしば前提になります。もちろん可分でない空間も存在します。非可算集合に離散位相を入れると、稠密集合は全体しかなく、それは非可算なので可算な稠密集合を持てません。この空間は可分ではないわけです。

疎集合の定義

稠密の反対側にあるのが疎集合です。部分集合 $A\subseteq X$ が疎（nowhere dense）であるとは、$A$ の閉包の内部が空であること、すなわち $\mathrm{int}(\overline{A})=\varnothing$ が成り立つことをいいます。

定義に閉包が入っている点に注意します。まず閉包で $A$ を閉じ、そのうえで内部が空かどうかを問う二段構えです。つまり疎集合とは、閉じてもなお、どんな小さな開球も丸ごとは含まないほど痩せた集合です。どの開集合の中にも自分の領域を持てない、というのが疎のこころにあたります。

疎集合の例

整数全体 $\mathbb{Z}$ は $\mathbb{R}$ で疎です。$\mathbb{Z}$ は閉集合なので $\overline{\mathbb{Z}}=\mathbb{Z}$ であり、開区間を一切含まないため $\mathrm{int}(\mathbb{Z})=\varnothing$ となります。有限集合や、$\{1/n:n\ge 1\}\cup \{0\}$ のような収束列も、同じ理由で疎です。後者は極限 $0$ を含むので閉じており、内部はやはり空になります。

もう少し込み入った例も見てみましょう。開集合 $U$ の境界 $\partial U$ はつねに疎です。境界は閉じていて、しかも $U$ の外周にへばりつくだけなので内部を持ちません。平面 ${\mathbb{R}}^2$ の中の一本の直線も、閉じていて面としての広がりがないため疎になります。

とりわけ有名なのがカントール集合です。単位区間から中央三分の一を繰り返し取り除いて得られるこの集合は、閉集合でありながら区間を一切含まず、内部が空なので疎です。それでいて非可算であり、ルベーグ測度は $0$ になります。濃度は連続体なのに、位相的にも測度的にも無視できるという、直感を裏切る例です。

稠密と疎の対比

ここまでの二つの概念を並べると、位相的な大小の両極がはっきりします。

両者は補集合を通してつながります。$A$ が疎であることと、開集合 $X\setminus \overline{A}$ が稠密であることは同値です。実際、$X\setminus \overline{A}$ の閉包が全体になる条件は $\mathrm{int}(\overline{A})=\varnothing$ にほかならず、これは疎の定義そのものです。疎集合の「外側」は、つねに空間全体へ稠密に広がっているわけです。

「内部が空」と「疎」は違う

ここで、初学者がもっとも取り違えやすい点を切り分けておきます。稠密集合の補集合は内部を持ちません。$\overline{A}=X$ ならば $\mathrm{int}(X\setminus A)=X\setminus \overline{A}=\varnothing$ だからです。ところが「内部が空」であることは「疎」であることより弱く、両者を同一視すると誤ります。

その反例が無理数です。無理数 $\mathbb{R}\setminus \mathbb{Q}$ はどんな区間も丸ごとは含まないので内部が空ですが、閉包は $\mathbb{R}$ 全体なので $\mathrm{int}(\overline{\mathbb{R}\setminus \mathbb{Q}})=\mathbb{R}\ne \varnothing$ です。したがって疎ではなく、むしろ稠密でした。疎かどうかは「集合そのもの」ではなく「その閉包」の内部で決まる、という一点を見落とすと、この落とし穴にはまります。

やせた集合とベールのカテゴリー

疎集合は一つひとつは薄いですが、可算個をあわせるとどうなるでしょうか。疎集合の可算和として書ける集合を第一類集合（meager、やせた集合）、そうでない集合を第二類集合と呼びます。

有理数 $\mathbb{Q}$ は、一点集合という疎集合の可算和なので第一類です。濃度でも測度でも小さい $\mathbb{Q}$ は、この意味でもやはり小さいわけです。ここで効くのがベールの範疇定理で、完備距離空間はそれ自身の中で第二類である、と述べます。言い換えれば、$\mathbb{R}$ を疎集合の可算和で覆い尽くすことはできません。

この定理から、$\mathbb{R}$ が第一類の $\mathbb{Q}$ とその補集合の無理数に分かれるとき、無理数の側は第一類ではありえない、と従います。もし無理数も第一類なら、$\mathbb{R}$ 自身が第一類の和になって定理に反するからです。位相的な意味で「ほとんどすべての実数は無理数」なのです。濃度・測度・カテゴリーという三つの物差しが、そろって同じ結論を指す様子には目を見張るものがあります。ベールの範疇定理は、この先で一様有界性原理や開写像定理といった関数解析の基本定理を支える土台にもなります。

まとめ

代表的な集合を、稠密か疎かで整理します。

稠密と疎は、濃度や測度とは別に、位相そのものが与える大小の尺度です。どの開集合とも交わるか、閉じてもなお広がりを持たないか。その両極を押さえ、さらに可算和を許してベールのカテゴリーへ進むと、「大きさ」をめぐる位相の景色がひと続きに見えてきます。