介绍
线性整流函数(Rectified Linear Unit, ReLU),又称修正线性单元,是一种人工神经网络中常用的激活函数(activation function),通常指代以斜坡函数及其变种为代表的非线性函数。
函数图像
根据下图我们可以看到,在y轴左侧的函数值全为0,在y轴右侧的值为其本身,所以这个函数就是将一个张量中的所有特征值为负的重置为0,正值不变。
使用
tf.nn.relu(
features, name=None
)
参数含义
参数名称 | 具体含义 |
---|---|
features | 一个张量。必须为以下类型之一:float32、float64、int32、uint8、int16、int8、int64、bfloat16、uint16、half、uint32、uint64、qint8。 |
name | 操作的名称(可选)。 |
实例
features = tf.constant([-1, 2,3,-1])
tf.nn.relu(features)
测试结果:
[0,2,3,0]