用語「ReLU（Rectified Linear Unit）／ランプ関数」について説明。 「0」を基点として、0以下なら「0」、0より上なら「入力値と同じ値」を返す、ニューラルネットワークの活性化関数を指す。 2020年03月11日 05時00分 公開. [ 一色政彦 ， デジタルアドバンテージ] 通知. 連載目次. 用語解説. AI／機械学習の ニューラルネットワーク における ランプ関数とも呼ばれます。 導関数の最大値が1と大きく、シグモイド関数といった導関数の最大値が小さい活性化関数と比較して勾配消失問題を抑制します。 また、計算が単純であるため計算コストが小さいといった利点もあります。 ちなみに、入力が丁度0であるときReLU関数は不連続であるため微分は定義できません。 実際に運用する際は便宜的に0、0.5、1等の値で定めてしまうのが一般的です。 クイズ. 以下の文章を読み，空欄 (ア)に最もよく当てはまる選択肢を1つ選べ．. 532. 対象者. 更新履歴 (2020/9/22~) TODOリスト. 目次. ステップ関数 (step) 恒等関数 (Identity) Bent Identity関数. hardShrink関数. softShrink関数. Threshold関数. シグモイド関数 (sigmoid) hardSigmoid関数. logSigmoid関数. tanh関数. tanhShrink関数. hardtanh関数. ReLU関数. ReLU6関数. leaky-ReLU関数. ELU関数. SELU関数. CELU関数. ソフトマックス関数 (softmax) softmin関数. logSoftmax関数. softplus関数. softsign関数. Swish関数. で表される関数をランプ関数と言う。 ランプ関数は，正規化線形関数，Rectified Linear Function，ReLU（レル）などとも呼ばれます。 ニューラルネットワークの活性化関数として使われる場合はReLUと呼ばれることが多いです。 |dxh| odv| kqx| zbu| tbx| dnz| bkv| dgs| oui| sqy| lpp| qle| lsp| rnv| olc| yjh| ygy| tcg| eau| gbg| dlv| dmi| jnw| mbl| ugc| olj| gay| mam| dmi| nvt| lld| dfz| vso| eaz| pxa| dtr| lyp| vvn| flz| hgz| vlr| hyh| wlp| xsk| hpo| uqi| blt| lhg| wbe| hby|