欠拟合:模型并不能好好描绘训练集特征,损失函数还有继续下降的空间,一般是由于模型参数过于简单。
过拟合:模型除了记住数据普遍特征之外,还记住了训练集的个别数据特征,导致训练集损失函数值下降的同时验证集损失函数却在上升,模型不能很好的预测未知的新数据。往往是由于模型参数过于复杂造成,一般的解决方法为增加数据量或者限制模型参数。
一般情况下,相同的性能的模型往往越简单越好。
消除过拟合的基本方法:
1.获取更多训练数据
2.减少模型参数
3.正则化
4.添加dropout层
欠拟合:模型并不能好好描绘训练集特征,损失函数还有继续下降的空间,一般是由于模型参数过于简单。
过拟合:模型除了记住数据普遍特征之外,还记住了训练集的个别数据特征,导致训练集损失函数值下降的同时验证集损失函数却在上升,模型不能很好的预测未知的新数据。往往是由于模型参数过于复杂造成,一般的解决方法为增加数据量或者限制模型参数。
一般情况下,相同的性能的模型往往越简单越好。
消除过拟合的基本方法:
1.获取更多训练数据
2.减少模型参数
3.正则化
4.添加dropout层