其在z>0的部分与ReLU一样保持不变；在z<0的部分，采用一个非常小的斜率0.01，其公式如下： $$ Leaky \operatorname{ReLU}(z)=\left{\begin{array}{ll}0.01 z & \text { if } z \leqslant 0 \ z & \text { if } z>0\end{array}\right. $$ 其图像如下所示： 该方法是 ...