sklearn警告:ConvergenceWarning: lbfgs failed to converge (status=1):

问题

这个警告是训练逻辑回归模型的时候出来的。

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

结果如下:

ConvergenceWarning: lbfgs failed to converge (status=1):
STOP: TOTAL NO. of ITERATIONS REACHED LIMIT.

在这里插入图片描述

解决

上面默认运行了:

LogisticRegression(... solver='lbfgs', max_iter=100 ...)

1.lbfgs问题

lbfgs stand for: “Limited-memory Broyden–Fletcher–Goldfarb–Shanno Algorithm”. It is one of the solvers’ algorithms provided by Scikit-Learn Library.

The term Limited-memory simply means it stores only a few vectors that represent the gradients approximation implicitly.

It has better convergence on relatively small datasets.

2.没有收敛问题

这是说训练模型的时候,参数的迭代次数达到了限制(默认max_iter=100),但是两次迭代参数变化还是比较大,仍然没有在一个很小的阈值以下,这就叫没有收敛。

不过,这只是一个警告(温馨提示)而已,我们要么选择 1.忽略,要么 2.增大最大迭代次数,要么 3.更换其他的模型或者那个参数solver,要么 4.将数据进行预处理,提取更有用的特征。

我们选择方案2,如下:

model=LogisticRegression(max_iter=1000)
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案3,如下:

model=LogisticRegression(solver="sag")
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案1,忽略一切警告,绝了。如下:

import warnings
warnings.filterwarnings("ignore")

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

猜你喜欢

转载自blog.csdn.net/qq_43391414/article/details/113144702