目录
预测的算法——逻辑回归(logistic regression)
预测的算法——逻辑回归(logistic regression)
什么是特征向量
以识别 64*64px img 为例
- 第1步 img 转 rgb 矩阵 64*64*3
- 第2步 rgb 矩阵 转 特征向量 64*64*3维度的特征向量
其中
- x是个(n,1)维的矩阵
- w也是一个(n,1)维的矩阵,它表示权重(weight)
- b是一个实数,在这里可以将其看作为一个阀值
- 逻辑回归简化版: z = dot(w,x) + b
逻辑回归文字举例
你听说在你的城市将会有一个音乐节。你要决定是否去参加这个节日。
你需要通过权衡3个因素(3个特征)来做出决定:1、天气好吗 2、你的女友是否愿意陪你去 3、举办地点离地铁近吗
分析
这3个因素就对应着上图中的x1、x2,x3(它们是x这个训练样本中的3个特征)
我们可以给它们赋个值,如果天气好,那么x1为1,否则为0,x2和x3类推
假设你很讨厌坏天气,如果天气不好,你就不会去参加这个节日,对其它两个因素要求不高不怕冷落了女友
那么我们分别给3个权重赋值为7,2,2。w1的值大很多,这表明天气对你来说很重要,比你的女友是否愿意去,以及交通的便利性更重要
而b我们可以看作一个阀值,假设我们给b赋值为-5,那么也就是说,只要天气好,即使女友不陪你去、交通也不方便,你也会去参加这个节日
解
z= x1 * w1 + x2 * w2 + x3 * w3 = 1 * 7 + 0 * 2 + 0 * 2 = 7(这里的*代表乘法)
(我们这里先不考虑σ函数),而7 +(-5)> 0,结果是你会去那个音乐节
如果我们选择不同的w和b值,那么对于同一个输入x,会有不同的结果输出
总结