シグモイド関数

標準シグモイド関数

シグモイド関数（ゲイン5）

シグモイド関数（シグモイドかんすう、sigmoid function）は、

$\varsigma _{a}(x)={\frac {1}{1+e^{{-ax}}}}$

で表される実関数である。なお、$a$ をゲイン (gain) と呼ぶ。

狭義には、ゲインが1の標準シグモイド関数 (standard sigmoid function)

$\varsigma _{1}(x)={\frac {1}{1+e^{{-x}}}}$

をさす。

以下は広義のシグモイド関数について述べる。標準シグモイド関数については、$a=1$ を代入すればよい。

シグモイド (sigmoid) とは、シグモイド曲線 (sigmoid curve) ともいい、ギリシャ文字のシグマ（語中では σ だがここでは語末形の ς のこと）に似た形と言う意味である。ただし、単にシグモイドまたはシグモイド曲線と言った場合は、シグモイド関数と似た性質を持つς型の関数（累積正規分布関数、ゴンペルツ関数など）を総称するのが普通である。

性質

$(-\infty ,\infty )\rightarrow (0,1)$ の単調増加連続関数で、1つの変曲点を持つ。

$y=0$ と $y=1$ を漸近線に持ち、

$\lim _{{x\rightarrow \infty }}\varsigma _{a}(x)=1$

$\lim _{{x\rightarrow -\infty }}\varsigma _{a}(x)=0$

$\lim _{{x\rightarrow \pm \infty }}{\dot \varsigma }_{a}(x)=0$

である。

$x=0$ では

$\varsigma _{a}(0)=1/2$

${\dot \varsigma }_{a}(0)=a/4$

${\ddot \varsigma }_{a}(0)=0$

である。つまり、変曲点は $(0,1/2)$ である。

また、$(0,1/2)$ を中心に点対称である。つまり、$\varsigma _{a}(x)-1/2$ は奇関数であり、

$\varsigma _{a}(-x)=1-\varsigma _{a}(x)$

を満たす。

逆関数は、

$\varsigma _{a}^{{-1}}(y)={\frac {1}{a}}\ln \left({\frac {y}{1-y}}\right)={\frac {1}{a}}\operatorname {logit}y$

と、ロジット関数で表せる。特に、標準シグモイド関数とロジット関数は互いに逆関数である。

導関数と二階導関数は

${\dot \varsigma }_{a}(x)={\frac {ae^{{-ax}}}{(1+e^{{-ax}})^{2}}}=a\varsigma _{a}(x)\{1-\varsigma _{a}(x)\}$

${\ddot \varsigma }_{a}(x)=a^{2}\varsigma _{a}(x)\{1-\varsigma _{a}(x)\}\{1-2\varsigma _{a}(x)\}$

と、シグモイド関数自身を使って簡潔に表せる。

他の関数との関係

双曲線正接関数

$\tanh x={\frac {e^{x}-e^{{-x}}}{e^{x}+e^{{-x}}}}$

を使って

$\varsigma _{a}(x)={\frac {\tanh(ax/2)+1}{2}}$

とも表せる。

ロジスティック関数

$N={\frac {K}{1+\exp {rK(t_{0}-t)}}}$

の特殊ケースで、$r=a,K=1,t_{0}=0$ と置いた場合にあたる。

応用

導関数をシグモイド関数自身で簡単に導出できるため、微分成分が必要となるプロパゲーションに適している。パーセプトロンにおけるバックプロパゲーションなどで用いられる。

関連項目

• フェルミ分布関数
• ロジスティック関数