Neurons and the brains
1.what is it?
- Origins:Algorithms that try to mimic the brain
- Was very widely uesd in 80s and early 90s;popularity diminished in late 90s.
- Recent resurgence:State-of-the-art technique for many applications
2.why have one learning algorithm?
我们可以看,听,触摸,闻东西,这些功能的实现是大脑固定某一部分细胞的功能吗?只有这些细胞能够完成对应的功能吗?联想到我们是从一个受精卵发育出来的,我更倾向于这些功能不是先天某个细胞拥有的,而是后天通过学习这项技能而成为了具有这些功能的细胞。一些神经网络的研究也证明了这一点。
我们把视觉信息传递到听觉皮质中,听觉中枢可以学会“看”。
- 将图像信息接到舌头上,舌头(味觉中枢)可以学会看。
- 回声实现“看”
- 触觉学会看
3.why we need deep learning?
对于分类器问题,当参数非常多的时候,使用线性回归是不现实的,因为会产生非常多的项。
3.1example1
对于图像处理问题,我们是把图片处理成一个矩阵,矩阵中的每个数代表每个像素点的亮度值
如果我们需要分辨一张50*50pixel的照片是不是汽车,那么需要对2500个参数进行辨别,(如果是RGB的话需要7500),如果考虑所有的二次项,采用线性回归我们会有3 million项,这显然是不切实际的。