(九)Tensorflow的Tensorbard的使用

可视化模型结构

api的介绍

命名空间的使用

通过命名空间的使用可以使模型结构更加清新!

一般空间里没有get_variable的话使用name_scope,否则可能使用variable_name命名空间!

更高级的模型可视化,Memory   and  Compute time

可视化参数分布

可视化训练过程

可视化Embedding数据分析

就是一串代码,然后进行降维进行可视化的过程(通过PCA或者T-SNE)!不做过多阐述!

一些模型调优手段

1.图像数据的各种仿射变换。安装库:https://github.com/mdbloice/Augmentor

2.参数初始化!

3.优化器的选取!

4.归一化操作!

5.学习率的选取!

太大可能会导致loss爆炸,太小可能会导致loss变化很小,一般先设置大一点有需要在慢慢进行调整!

6.Batch_size的选取!(此参数很有必要,会有影响的)

7.ensemble  model!(模型融合,进行提升)

同样的模型结构,不同的初始化方法!(bagging)

不同的模型,选取最好的几个模型结构!

8.过拟合一般进行系数加正则项 / dropout / early stopping(一般是验证集的准确率连续下降,认为过拟合了)

猜你喜欢

转载自blog.csdn.net/taka_is_beauty/article/details/89113448