斜坡函数

斜坡函数是一个一元实函数，因此其图形类似斜坡，故得其名，斜坡函数有许多不同的定义方式，例如“负值时为０，其他值的输出等于输入”。斜坡函数的斜率以及斜坡的位置也可以调整，此条目中的斜坡函数是单位斜坡函数（斜坡斜率为1，从0的位置开始）。

斜坡函数的图

在机器学习中，常会称斜坡函数为ReLU激活函数，或是线性整流函数，类似电子工程中的半波整流器。若用在统计学的似然函数，会称为Tobit模型。

斜坡函数在数学以及工程上有许多的应用，依使用的情境不同，也有不同的名称。也有不少类似斜坡函数的函数。

定义

斜坡函数（$R(x):\mathbb {R} \rightarrow \mathbb {R}$）可以用许多的解析方式来定义。以下是一些定义：

$R(x):={\begin{cases}x,&x\geq 0;\\0,&x<0\end{cases}}$

或

$R(x):=\operatorname {max} (x,0)$

• 单位阶跃函数乘以x：

$R\left(x\right):=xH\left(x\right)$

• 单位阶跃函数和其本身的卷积：

$R\left(x\right):=H\left(x\right)*H\left(x\right)$

• 单位阶跃函数的积分：

$R(x):=\int _{-\infty }^{x}H(\xi )\,\mathrm {d} \xi$

• 麦考利括弧：

$R(x):=\langle x\rangle$

解析性质

非零性质

此函数在整个定义域中的值都是非负值，因此其绝对值都是其自身。

$\forall x\in \mathbb {R} :R(x)\geqslant 0$

及

$\left|R\left(x\right)\right|=R\left(x\right)$

导数

斜坡函数的导数为单位阶跃函数

$R'(x)=H(x)\ \mathrm {if} \ x\neq 0$

傅里叶变换

斜坡函数的傅里叶变换如下

${\mathcal {F}}\left\{R(x)\right\}(f)$ $=$ $\int _{-\infty }^{\infty }R(x)e^{-2\pi ifx}dx$ $=$ ${\frac {i\delta '(f)}{4\pi }}-{\frac {1}{4\pi ^{2}f^{2}}}$

其中$\delta (x)$为狄拉克δ函数（在此公式中，有出现其微分项）

拉普拉斯变换

斜坡函数的傅里叶变换如下

$R(x)$单边的拉普拉斯变换定义如下：

${\mathcal {L}}\left\{R\left(x\right)\right\}(s)=\int _{0}^{\infty }e^{-sx}R(x)dx={\frac {1}{s^{2}}}.$

代数性质

迭代不变性

斜坡函数的每个迭代函数都是其自身：
$R\left(R\left(x\right)\right)=R\left(x\right)$.

• 证明：$R(R(x)):={\frac {R(x)+|R(x)|}{2}}={\frac {R(x)+R(x)}{2}}$ $=$
  $=$ ${\frac {2R(x)}{2}}=R(x)$.

此处应用到非零性质。

参考资料

• Mathworld （页面存档备份，存于互联网档案馆）