1.L1损失
(1)基本公式
(2)python实现
2.L2损失
(1)基本公式
(2)python实现
注意:①、同线性代数中矩阵乘法的定义: np.dot()
②、对应元素相乘:np.multiply(),或*
3.一般的神经网络损失(交叉熵损失)
(1)基本公式
(2)带有L2正则化的损失
(1)基本公式
(2)python实现
(1)基本公式
(2)python实现
注意:①、同线性代数中矩阵乘法的定义: np.dot()
②、对应元素相乘:np.multiply(),或*
(1)基本公式
(2)带有L2正则化的损失