实验环境
Python3.6 shell
步骤
shell中FIle->open找到mnist_loader.py,打开。
之后,run->run moudle,在shell中会出现如下文字
交叉熵实验
输入如下命令
运行结果
最优结果为9568/10000,比二次代价函数要好。
over fitting
选择training_data的前1000张,Epoch=400
输入如下命令
运行结果
结果:最好结果仅为8179/10000,过度拟合
regularization
1、lambda=0.1,training_data=1000
2、lambda=5.0,training_data=50000
结果:准确率得到显著提升,即regulariziation可以抑制overfitting。