ReLU函数（Rectified Linear Unit）是一种常用的激活函数，它将负值映射为零，保持正值不变。ReLU函数的公式如下：
scss
f(x) = max(0, x)
以下是使用ReLU函数的Python示例代码：
python
import numpy as np
def relu(x):
return np.maximum(0, x)
# 使用单个值进行示例
x = 2
result = relu(x)
print(result) # 输出：2
# 使用NumPy数组进行示例
x_array = np.array([-2, -1, 0, 1, 2])
result_array = relu(x_array)
print(result_array) # 输出：[0 0 0 1 2]
在上述示例中，我们定义了一个relu函数，它接受一个输入值x，并返回计算后的结果。然后我们使用单个值和NumPy数组进行了示例，分别计算了对应的ReLU函数值，并打印输出。
ReLU函数在机器学习和深度学习中广泛用于激活函数。相比于Sigmoid函数和Tanh函数，ReLU函数具有以下优势：
非线性：ReLU函数引入了非线性特性，使得神经网络能够学习和表示更复杂的函数关系。
梯度稀疏性：在正区间上，ReLU函数的导数为1，这使得反向传播的梯度计算更加简单和高效。
缓解梯度消失问题：ReLU函数没有上界，不会导致梯度饱和和梯度消失的问题。
需要注意的是，ReLU函数在负值区间上输出为零，这可能导致神经元的"死亡"问题。为了解决这个问题，可以使用ReLU的变体，如Leaky ReLU和Parametric ReLU。
在实际应用中，ReLU函数常用于深度学习的隐藏层和卷积神经网络中。它帮助提升模型的表达能力和收敛速度，同时也可以减少梯度消失问题。