投稿者: 勉強録として自分にとってわかりやすい前層・層の定義を記事にしておきます。
また、それらの例や前層だが層にならない例もあげておきます。
前層と層
\((X, \mathcal{O}_X)\)を位相空間とする. 開集合族\(\mathcal{O}_X\)を包含写像を射として圏と見たとき, 反変関手\(F:\mathcal{O}_X \to \mathbf{Set}\)を\(X\)上の前層という.
各記号は定義1-1と同じとする. \(U \subset V\)なる\(U, V \in \mathcal{O}_X\)について包含写像を\(\iota_{UV}\)と表すとすると, \(X\)上の前層\(F\)により写像\(F(\iota_{UV}):F(V) \to F(U)\)が定まる. この\(F(\iota_{UV})\)を\(r_{VU}\)と表し\(V\)から\(U\)への制限写像という. また, \(f \in F(V)\)としたとき, \(r_{VU}(f)\)を\(f\)の\(U\)への制限といい\(f|_{U}\)と表す.
\(U,V\)が入れ替わるのでややこしいですが, \(\iota_{UV}\)は\(U\)から\(V\)への包含写像だし\(r_{VU}\)は\(V\)から\(U\)への制限写像というように順に並んでいます. \(F(\iota_{UV}) = r_{VU}\)が成り立ちますが, ここで入れ替わっているのは\(F\)が反変関手だからです.
\((X, \mathcal{O}_X)\)を位相空間とし, \(F\)を\(X\)上の前層とする. 任意の\(U \in \mathcal{O}_X\)と\(U = \bigcup_{i \in I} V_i\)なる任意の\(U\)の開被覆\(\{V_i\}_{i \in I} \subset \mathcal{O}_X\)について, 次の２条件が成り立つとき\(F\)を\(X\)上の層という.
(1) \(f,g \in F(U)\)について, 任意の\(i \in I\)に対し\(f|_{V_i} = g|_{V_i}\)のとき\(f=g\)が成り立つ.
(2) \(\langle f_i \rangle_{i \in I} \in \prod_{i \in I} F(V_i)\)について, 任意の\(i, j \in I\)で\(f_i|_{V_i \cap V_j} = f_j|_{V_i \cap V_j}\)となるときある\(f \in F(U)\)が存在して\(f|_{V_i} = f_i\)が成り立つ.
具体例
ここではいくつか例を上げていきます.
最初に2つ層となる例をあげて, 最後に前層であるが層でない例をあげます. １つ目は自明な例なのであまり面白くはないですが, きちんと層になることを確かめられます. ２つ目は解析をやっていると出てくる例です.
３つ目は前層であるが層でない例で個人的にはこれが一番重要だと思います.
例１：\(\mathbf{1}\)への層
\(\mathbf{Set}\)のうち元を１つしか持たないような適当な集合\(\{x\}\)をとる. 恒等写像\(\mathrm{id}:\{x\} \to \{x\}\)を射とし\(\{x\}\)を圏\(\mathbf{1}\)と見る. このとき, 位相空間\((X, \mathcal{O}_X)\)の開集合系\(\mathcal{O}_X\)から\(\mathbf{1}\)への（自明な）反変関手を\(F\)とすればこれは前層である.
これが層であることを見よう. 任意の\(U \in \mathcal{O}_X\)と\(U = \bigcup_{i \in I} V_i\)なる任意の\(U\)の開被覆\(\{V_i\}_{i \in I} \subset \mathcal{O}_X\)をとる.
(1) \(f,g \in F(U)\)とすると\(f = g = \mathrm{id}\)となるから自明に成り立つ.
(2) (1)同様, 出現するすべての写像を表す記号が\(\mathrm{id}\)しか表し得ないためやはり自明に成り立つ.
例２：超函数への層
\(\mathbb{R}^n\)の開集合系を\(\mathcal{O}\)と表す. 各\(O \in \mathcal{O}\)に対し, \(F(O) = \mathscr{D}'(O)\)とする. つまり, \(O \in \mathcal{O}\)に対しその上のSchwartz超函数全体の集合を対応させる. 超函数の制限写像を射とすればこのような対応\(F\)は前層となる.
（やや面倒だしまじめにやると趣旨がずれるのでやらないが）Schwartz超函数の定義に従えば\(F\)は層の条件を満たす.
例３：定数関数への前層（前層であるが層でない例）
位相空間\((X, \mathcal{O}_X)\)の開集合\(O \in \mathcal{O}_X\)に対しその上の定数関数の集合を\(\mathrm{Cst}(O)\)と表す. \(F(O) = \mathrm{Cst}(O)\)なる対応\(F\)は定数関数の制限写像を射として前層となる.
しかし, これは層にならない. 実際, \(F\)が層であったと仮定し\(X\)が\(U, V \in \mathcal{O}_X\)で\(U \cap V = \emptyset\)なる開集合をもつ位相空間であったとする. \(f_1 \in F(U)\)と\(f_2 \in F(V)\)を異なる値をとる定数関数とすると, 層の条件(2)より\(f \in F(U \cup V)\)が存在して\(f|_U = f_1, f|_V = f_2\)となるはずであるが, これは\(f_1, f_2\)が異なる値をとることに反する. よって, \(F\)は層でない.
例４：一様連続関数への前層（前層であるが層でない例）
\((\mathbb{R}, \mathcal{O}_\mathbb{R})\)の開集合\(O \in \mathcal{O}_\mathbb{R}\)に対しその上の一様連続関数の集合を\(\mathrm{UC}(O)\)と表す. \(F(O) = \mathrm{UC}(O)\)なる対応\(F\)は前層となる. しかし, これは層にならない.
たとえば, \(U = (-1, 0), V = (0,1)\)としたとき, \(f_1 \in F(U)\)として\(f_1 = -1\), \(f_2 \in F(V)\)として\(f_2 = 1\)をとれば, \(\varepsilon < 2 \) のときどんな\(\delta > 0\)に対しても\(x = 0\)の周りで\(f_1 – f_2 = 2 > \varepsilon\)となる. すなわち, \(U \cup V\)上で一様連続な\(f_1, f_2\)の拡張は存在せず, 層の条件(2)が満たされない.
例について
この記事では触れませんでしたが開集合にその上の連続関数や\(C^{\infty}\)関数の集合を対応させるのは代表的な層の例です（参考文献のどの本にも載ってると思います）.
層や前層についてはずっといつか勉強したいと思っていましたがなかなか時間を捻出できずにいました。これから少しずつやっていければと思います。
参考文献
[1] alg_d，全ての概念はKan拡張である，Webサイト壱大整域，2021.
[2] 斉藤毅, 数学原論, 東京大学出版会，2020.
[3] Robert Goldblatt, Topoi The Categorial Analysis of Logic, 2006.
[4] S・マックレーン, 圏論の基礎, 丸善出版, 2012.