ReLU関数 計算ツール
ReLU関数 relu(x)=max(0,x) の値と微分を計算します。ニューラルネットワークの活性化関数を直感的に確認できます。
入力
x を入力すると、ReLU関数 relu(x)=max(0,x) の値とその微分を計算します。
実数を入力してください（例: 1.5、-2）。
計算結果
relu(1.5) =
1.5
微分 relu'(1.5)
1
状態
活性（入力を通過）
入力 x
1.5
ReLU関数のグラフ
計算方法・使い方
- ReLU（Rectified Linear Unit、ランプ関数）は relu(x)=max(0,x) で定義され、入力が正ならそのまま出力し、0以下なら0を返します。
- 微分は x>0 のとき1、x<0 のとき0です。x=0 では微分は数学的には定義されませんが、機械学習の実装では慣例として0を用いることが多いです。
- ニューラルネットワークの活性化関数として広く使われ、勾配消失が起きにくく計算が軽いという利点があります。
- 入力が0以下の領域では出力も勾配も0になるため、ニューロンが学習を止める「死んだReLU」と呼ばれる現象が起こることがあります。
関連する計算ツール
ソフトプラス関数 計算機
数学ソフトプラス関数 softplus(x)=ln(1+eˣ) とその微分（シグモイド）、ReLU との差を計算。機械学習の活性化関数をグラフ付きで可視化します。
計算する →ソフトサイン関数 計算機
数学ソフトサイン関数 softsign(x)=x/(1+|x|) と微分を計算。ML活性化関数として tanh と比較できます。
計算する →シグモイド関数 計算機
数学x を入力してシグモイド関数 σ(x)=1/(1+e^(-x)) と1次・2次微分を計算。曲線グラフ付き。
計算する →Leaky ReLU 関数 計算
数学入力 x と傾き α から Leaky ReLU の値 f(x) と微分を計算します。x が負のとき αx、正のとき x を返し、グラフでも確認できます。
計算する →
お客様の声
このツールを使った感想をお聞かせください。
レビューを投稿する
- ホーム
ReLU関数 計算ツール