可视化模型结构
api的介绍
命名空间的使用
通过命名空间的使用可以使模型结构更加清新!
一般空间里没有get_variable的话使用name_scope,否则可能使用variable_name命名空间!
更高级的模型可视化,Memory and Compute time
可视化参数分布
可视化训练过程
可视化Embedding数据分析
就是一串代码,然后进行降维进行可视化的过程(通过PCA或者T-SNE)!不做过多阐述!
一些模型调优手段
1.图像数据的各种仿射变换。安装库:https://github.com/mdbloice/Augmentor
2.参数初始化!
3.优化器的选取!
4.归一化操作!
5.学习率的选取!
太大可能会导致loss爆炸,太小可能会导致loss变化很小,一般先设置大一点有需要在慢慢进行调整!
6.Batch_size的选取!(此参数很有必要,会有影响的)
7.ensemble model!(模型融合,进行提升)
同样的模型结构,不同的初始化方法!(bagging)
不同的模型,选取最好的几个模型结构!
8.过拟合一般进行系数加正则项 / dropout / early stopping(一般是验证集的准确率连续下降,认为过拟合了)