最近需要复习一下机器学习相关知识，记录一下

一、简介

线性回归：$h(x)=w^{T}x+b$

logistic回归就是在线性模型的基础上加上一个sigmoid函数$g$，即$h(x)=g(w^{T}x+b)$$。$$g(z)=1/(1+e^{-z})$。
它可以将一个线性回归中的结果转化为一个概率值。此时$h(x)$表示的就是某件事发生的概率，我们也可以记为$p(Y=1|x)$

二、 逻辑回归的损失函数

逻辑回归采用的是交叉熵的损失函数。

对于一般的二分类的逻辑回归来说交叉熵函数为：$J(\theta )=-[yln(y^{\prime })+(1-y)ln(1-y^{\prime })]$,其中$y^{\prime }$是预测值。

实际上我们求的是训练中所有样本的损失，因此：

$$J(\theta )=-\frac{1}{m}\sum [y_{i}ln(y_i‘)+(1-y_i)ln(1-y_i‘)]$$

三、逻辑回归的优化方法

3.1 梯度下降

函数梯度的方向就是函数增长最快的方向，反之梯度的反方向就是函数减少最快的方向。因此我们想要计算一个函数的最小值，就朝着该函数梯度相反的方向前进。
假设我们需要优化的函数：$f(X)=f(x_1,...,x_n)$

首先我们初始化自变量，从$X^{(}0)=(x_1^{(0)},...x_n^{(0)})$开始。设置一个学习率$\eta$。
对于任何$i>=0$:

如果是最小化$f$

$$x_1^{i+1}=x_1^i-\eta \frac{\partial f}{\partial x_1}(x^{(i)})$$

$$x_n^{i+1}=x_n^i-\eta \frac{\partial f}{\partial x_n}(x^{(i)})$$

反之如果求$f$的最大值，则

$$x_1^{i+1}=x_1^i+\eta \frac{\partial f}{\partial x_1}(x^{(i)})$$

$$x_n^{i+1}=x_n^i+\eta \frac{\partial f}{\partial x_n}(x^{(i)})$$

3.2逻辑回归的优化

逻辑回归优化的目标函数：
$J(w,b)=-\frac{1}{m}\sum [y_{i}ln(\sigma (w^{T}x+b))+(1-y_i)ln(1-\sigma (w^{T}x+b))]$

我们需要优化参数$w,b$，从而使其在我们已知的样本$X,y$上值最小。也就是我们常说的经验风险最小。

首先我们需要对$J(w,b)$求导。

先令 $g=\sigma (w^{T}x+b)$

$$\frac{\partial J(g)}{\partial g}=-\frac{\partial }{\partial g}[yln(g)+(1-y)ln(1-g)]=-\frac{y}{g}+\frac{1-y}{1-g}$$

再令：$a=w^{T}x+b$

$$\frac{\partial g}{\partial a}=\frac{\partial (\frac{1}{1+e^{-a}})}{\partial a}=-(1+e^{-a}{)}^{-2}-e^{-a}=\frac{1}{1+e^{-a}}\frac{1+e^{-a}-1}{1+e^{-a}}=\sigma (a)(1-\sigma (a))=g(1-g)$$

可以发现$g=\sigma (a)$，但是$g$对$a$求导之后居然是 $g(1-g)$，在后续的梯度下降优化中，Sigmoid函数的这个性质可以减少很多不必要的计算。

接下来求需要优化的参数$w,b$的梯度。
根据链式求导：

$$\frac{\partial J}{\partial w}=\frac{\partial J}{\partial g}\frac{\partial g}{\partial a}\frac{\partial a}{\partial w}=(-\frac{y}{g}+\frac{1-y}{1-g})g(1-g)x=(g-y)x$$

$$\frac{\partial J}{\partial b}=\frac{\partial J}{\partial g}\frac{\partial g}{\partial a}\frac{\partial a}{\partial b}=(-\frac{y}{g}+\frac{1-y}{1-g})g(1-g)=(g-y)$$

四、调用sklearn中的lr

import numpy as np
from sklearn import datasets
from sklearn.model_selection import train_test_split
X=datasets.load_iris()['data']
Y=datasets.load_iris()['target']
from sklearn.linear_model import LogisticRegression
X_train,X_test,y_train,y_test=train_test_split(X,Y,test_size=0.1,stratify=Y)


model=LogisticRegression(penalty='l2',
                  class_weight=None,
                 random_state=None,  max_iter=100)
model.fit(X_train,y_train)
model.predict_proba(X_test)

penalty:惩罚系数，也就是我们常说的正则化，默认为"l2",可选为l1。

class_weight:类别权重，一般我们在分类不均衡的时候使用，比如{0:0.1,1:1}代表在计算loss的时候，0类别的loss乘以0.1。这样在0类别的数据过多时候就相当于给1类别提权了。

max_iter：最大迭代次数。

五、为什么逻辑回归中经常会将特征离散化。

这个是工业界中常见的操作，一般我们不会将连续的值作为特征输入到逻辑回归的模型之中，而是将其离散成0，1变量。这样的好处有：

1：稀疏变量的内积乘法速度快，计算结果方便存储，并且容易扩展；

2：离散化后的特征对异常数据有很强的鲁棒性：比如一个特征是年龄>30是1，否则0。如果特征没有离散化，一个异常数据“年龄300岁”会给模型造成很大的干扰。

3：逻辑回归属于广义线性模型，表达能力受限；单变量离散化为N个后，每个变量有单独的权重，相当于为模型引入了非线性，能够提升模型表达能力，加大拟合；

4：离散化后可以进行特征交叉，由M+N个变量变为M*N个变量，进一步引入非线性，提升表达能力；

5：特征离散化后，模型会更稳定，比如如果对用户年龄离散化，20-30作为一个区间，不会因为一个用户年龄长了一岁就变成一个完全不同的人。当然处于区间相邻处的样本会刚好相反，所以怎么划分区间是比较重要的。