【E資格対策】多層パーセプトロン

パーセプトロン

パーセプトロンは, 入力値に重みをかけ, そこにバイアスを加えた総和がある閾値 θ\theta を超えると発火し, 出力を行う.

パーセプトロン

Y={1W1X1+W2X2+bθ0W1X1+W2X2+b>θY = \begin{cases} 1 & W_1 X_1 + W_2 X_2 + b \leq \theta \\ 0 & W_1 X_1 + W_2 X_2 + b > \theta \end{cases}

パーセプトロンの全てのノードが前の層の全てのノードと接続されている場合, これを全結合層(fully connected layer)と呼ぶ.

多層パーセプトロン

多層パーセプトロンは, 単一のパーセプトロンを多層化することによって構築される. 各層のパーセプトロンの数(ユニット数)や隠れ層の数を増やすことにより, 非線形な関数もモデル化することができる.

多層パーセプトロンの計算量は, パラメータの総数によって決まる. 具体的には, ネットワークへの入力を xx 次元, 隠れ層数を ss, バイアス数を bb とすると, パラメータ総数は xs+bxs + b となる.

参考文献