版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/xinzhi8/article/details/77488733
论文与原理详解参考:
机器学习-神经网络表述 :http://blog.csdn.net/xinzhi8/article/details/69569174
机器学习-神经网络反向传播算法 : http://blog.csdn.net/xinzhi8/article/details/69664207
机器学习-神经网络综合运用 : http://blog.csdn.net/xinzhi8/article/details/69676883
机器学习算法实现-神经网络 : http://blog.csdn.net/xinzhi8/article/details/70154778
深度学习—卷积神经网络(一): http://blog.csdn.net/xinzhi8/article/details/77129566
链式法则的原理
后向传播
代码实现
例子采用3层神经网络对数据进行2分类,L0为数据,L1为第二层,L2为第三层,W0为L0到L1的权重矩阵,
W1为L1到L2的权重举证。W0为3x4矩阵,W1为4x1矩阵。如下图:
定义一个sigmoid函数
当flag=True为反向传播,否则为前向传播,解释下反向传播为什么是x *(1 - x),手写的,如下图:
前向传播代码,随机造了W0 ,W1, L0
反向传播示意图
反向传播代码:
权重矩阵更新:
试验结果:每次权重矩阵的跟新带来分类的错误率
源码: