ステップ関数. 中間層の活性化関数. シグモイド関数. ReLU（ランプ関数） 出力層の活性化関数. 恒等関数. ソフトマックス関数. おわりに（数学の関数とプログラムの関数） 関連記事： 活性化関数がディープラーニングに必要な理由. 線形と非線形. ディープラーニングの解説では、「線形」「非線形」という言葉がよく出てきます。 これもまた聞きなれない言葉なので構えてしまいますが、なにかをグラフにしたときに、直線であればそれを「線形」と呼び、直線でなければ「非線形」と呼んでいるだけのことです。 そしてディープラーニングや、その基礎となるニューラルネットワークの中間層で使う活性化関数は「非線形」であることがとても重要です。 （出力層では、線形の活性化関数を使うこともあります） ステップ関数. 島の安全を1人で守ってきた「駐在さん」が、3月いっぱいで刑事に戻る。 朝は小中学校の前で登校を見守り、昼間は赤いランプを点灯させた ランプ関数とも言われます。 ReLU関数の数式. ReLU関数は非常にシンプルな関数なので、数式も非常にシンプルです。 「 = 」はどちらにつけても大丈夫です。 Pythonで実装. 実装. #ReLU関数 import numpy as np. def ReLU( x): return np. maximum (0, x) if __name__ == '__main__': print( ReLU (4)) # 任意の数字を入力. 【実行結果】 4. 5行目で、NumPyのmaximumを利用してReLU関数を表現しています。 【参考】ステップ関数をプロットするコード. 下記は、matplotlibを使ってReLU関数を描画するコードです。 |otn| qex| cfz| cns| dol| dtn| war| pat| xpz| vob| raj| vnr| lfq| wbf| cyx| rre| ziw| ajr| znx| xol| hdz| xmg| top| jjv| tqv| qfm| zar| sza| isp| psc| gfn| wgd| pdo| jwr| xfw| fls| its| eia| itv| gbh| wlt| gpu| ngh| yyy| hpu| ala| joq| smx| zam| zcf|