層 (数学)

数学における層（そう、sheaf, faisceau）とは、位相空間上で連続的に変化する様々な数学的構造をとらえるための概念であり、大域的なデータを局所的に取り出すこと、および局所的なデータの張り合わせ可能性によって定式化される。より形式的に、大域から局所への移行のみを考える概念は前層（ぜんそう、presheaf）とよばれる。

定義

前層

(X, T) を位相空間とする。X の開集合 U ∈ T に対し集合 F(U) を対応付けるとき、開集合の包含関係 U ⊂ V に応じて制限写像（せいげんしゃぞう、restriction map）と呼ばれる写像

\rho _{U}^{V}\colon F(V)\to F(U)

（ρ_U^V を ρ_U,V のように記すこともある）が定まって、次の条件

$\rho _{U}^{U}=\mathrm {identity} ,$
$U\subset V\subset W\Rightarrow \rho _{U}^{W}=\rho _{U}^{V}\circ \rho _{V}^{W}$

が成立するとき、集合と写像の族 F = {(F(U))_U∈T, (ρ_U^V)_{U,V∈T;U ⊆ V}} を X を底空間とし集合に値を持つ前層（または簡単に X 上の集合の前層）と呼ぶ。各開集合 U に対応付けられる F(U) がどれも加群の構造を持ち、制限写像がどれも加群の準同型となっているならば X 上の加群の前層、同じく F(U) がどれも環であって制限写像がどれも環準同型ならば X 上の環の前層、といったように F(U) たちのもつ構造によって前層をクラスに分けることができる。

各開集合 U に対して F(U) の元を前層 F の U 上の切断（せつだん、section）と呼ぶ。開集合の包含関係 U ⊂ V と V 上の切断 s ∈ F(V) が与えられたとき、

s|_{U}:=\rho _{U}^{V}(s)

と記して、s|_U を切断 s の U への制限 (restriction) と呼ぶ。

圏論の言葉で言えば、X の開集合系（これは包含関係に関する順序集合となる） T を圏と見なすとき、X 上の前層とは T から集合の圏への反変関手のことであるということができる。また、可換群の（あるいは加群の）前層や環の前層は T から可換群の圏や環の圏への反変関手のことであり、同様にして T から適当な圏 C への反変関手として C に値を持つ前層が定義される。二つの前層を関手と見なして、その間の自然変換となるものを前層の射または前層の準同型とよぶ。

層

位相空間 X 上の前層はその切断が局所的な切断の張り合わせで定義できるとき層と呼ばれる。正確には X 上の層とは、前層 F = {F(U), ρ_U^V} であって、X の各開集合 U に対して開被覆

U=\bigcup _{\lambda \in \Lambda }U_{\lambda }

が任意に与えられたとき、F(U) の元 s, t が任意の λ に対して

s|_{U_{\lambda }}=t|_{U_{\lambda }}

を満たすならば常に s = t が成立（既約性条件）し、さらに切断の族 (s_λ ∈ U_λ)_λ∈Λ が常に

s_{\lambda }|_{V_{\lambda }\cap V_{\mu }}=s_{\mu }|_{V_{\lambda }\cap V_{\mu }}

を満たすものであるならば常に、F(U) の元 s で

s|_{U_{\lambda }}=s_{\lambda }

をすべての λ に対して満たすものが存在する（閉条件）ようなもののことをいう。

茎・芽

FをX上の前層とする。Xの点xに対してその開近傍系 B(x) はU ⊆ VのときV ≤ Uとして順序関係を入れると有向集合になる。このとき(FU)_{U ∈ B(x)}は直系になり、その直極限 $F_{x}=\lim _{\rightarrow }F(U)$ はFの x 上の茎 (stalk) とよばれる。F_xの元はxにおけるFの芽 (germ) とよばれる。

エタールバンドル

局所同相写像 E → XはX上のエタールバンドルとよばれる。X上の層とX上のエタールバンドルの間には自然な対応がある。

エタールバンドルEに対応する層F_Eは各開集合Uに対してその上のEへの切断の空間Γ(U, E)を与え、開集合の包含関係に対して切断の制限写像を対応させることで定義される。Xの点xについて、茎F_{E, x}はEにおけるxの逆像と自然に対応する。

逆に、層Fに対応するエタールバンドルE_EはFの茎の合併集合 $\cup _{x\in X}F_{x}$ に、次のようにして位相を入れることで構成される(射影E_F → XはF_x → xの寄せ集めで作られる)。任意の開集合 U と FU の任意の元 s についてO(U; s) = { s_y ∈ F_y | y ∈ U }(s_yは茎F_yにおけるsの芽)とおき、O(U; s)の形にかける集合全てで生成されるような開集合系をE_F上で考える。

例

連続関数の層

Xを位相空間とする。X の開集合 U に対して、その上の複素数値連続関数のなす空間を C(U) とかくことにする。開集合の包含関係 V ⊆ U に対して関数の定義域の制限 C(U) → C(V) を考えることでX 上の層が得られる。点x におけるこの層の芽とはxのまわりでの関数の局所的な振る舞いを表していると考えることができる。同様に、複素多様体に対しその上の正則関数のなす層を考えることができる。

定数層

Mを集合とするとき、離散位相を考えてMを位相空間とみなせる。このとき、直積空間X × MからXへの第一成分への射影写像は局所同相写像になっていて、X上のエタールバンドルを与えている。これに対応する層はMが定めるX上の定数層と呼ばれる。

空間の復元

Xを位相空間とする。一点集合が定めるX上の定数層はO(X)上Xによって表現される関手yX = Hom_O(X)(-, X)だと見なすことができる。より一般にyXの部分層とXの開集合の間に自然な対応があり、X上の層からXの開集合たちとその間の包含関係を復元できることがわかる。簡素な空間 (sober space) と呼ばれるクラスの分離空間についてはその開集合系からもとの空間と位相同型な位相空間を得ることができる。このことから層は位相空間の圏論的・「代数／組み合わせ」的な言い換えを与えているとも考えられる。

前層の層化

前層Pに対してその層化 aP が、普遍性 Hom(P, F) ≡ Hom(aP, F) (Fは任意の層)を満たすような層として定義される。この定義から、とくにすでに層であるような前層 P に対して層化 aP を考えれば、PとaPは自然に同型であることが要請される。集合の前層については実際に層化を考えることができ、加群や環の前層など付加的な構造を付与した場合でもたいていの場合には層化が可能である。

層化の構成には何通りかの方法がある。たとえば層に付随するエタールバンドルの構成を前層に対して同様に実行することでエタールバンドルが得られ、このエタールバンドルに付随する層を考えることで層化が得られる。

歴史

層の概念が最初にはっきりと現れたのは、第二次世界大戦中のジャン・ルレーによる偏微分方程式の研究だと言われている。その後、アンリ・カルタンのセミナーで形式的な整備が進められた。さらに任意の係数体上の多様体にコホモロジー理論を構築することを目的の一つとして、1955年にジャン＝ピエール・セールによって代数幾何学に層の概念が持ち込まれた。アレクサンドル・グロタンディークによりこの考えが推し進められ、スキーム上有意義な「層」を表現しうるトポスの概念が得られた。ほかに層が決定的に用いられる理論として佐藤幹夫らに端を発する偏微分方程式系の解析（D-加群の理論）があげられる。