现在好多博主已经写的很完美了，我就写一点很直观的东西：

一、求导总结

（1）向量对向量求导：

设A为nxn的矩阵，x为n维列向量，f(x)=Ax，是列向量，求f(x)对x的导，得：（分母布局下）

其实说到分母分子布局，我觉得它就相当于对不同的求导形式（如分母是行向量还是列向量，分子是行向量还是列向量四种情况）起了个名字，如果是分子布局，就让分子是列向量（列向量就是大哥，走到哪都是大哥），或者分母是行向量（行向量是小弟）；若是分母布局，就让分母是大哥，或者分母是小弟。

在分母布局下求的时候可以先把分子当作一个标量，然后对分母进行列向量排布求导。然后如果分子分母一个做大哥一个做小弟还好，没有冲突他们会得到分母布局的称号或者分子布局；但是如果两个都想做大哥，那就没得办法了，得看你的称号是分母还是分子了，若是分母，就得先把分子看成标量，对分子进行列排序，然后对分母进行行排序，反之则反。感觉还是很有规律的，可以通过这个推出别的很多东西：

（2）向量对标量求导：

         这就是我刚刚说的，根据那两种布局，可以得到两种形式的结果，这两者是相对应的，而且不存在两者都要做大哥的情况。

（3）向量对矩阵求导：

         很少用。

（4）矩阵对向量求导：

         很少用。

（5）矩阵对标量求导：

         这个倒没有什么，不涉及转置什么的

（6）矩阵对矩阵求导：

         我猜测如果是分母布局的话就不用转置了，分子布局的话就需要转置，但是没找到依据。

（7）标量对向量求导：

         这个还是跟分母分子布局有关。

（5）标量对标量求导：

         额，这就不写了吧...和标量正常求导是一样的

（6）标量对矩阵求导：

         此时矩阵在分母上，如果是分子布局，分母上的矩阵它被安排了，必须要转置一下才可以；但如果是分母布局的话，矩阵就如鱼得水，如虎添翼了，它不想转置就不用转。

二、常用的总结

当然可能一下子看着这么多东西会比较乱，但是没关系，我觉得不会每个都记住的，常用的有

（1）梯度：

（2）雅可比：

          还是分子布局啊！

（3）海塞：

虽然一般也不会这么求，一般是那雅可比近似，这样求太麻烦了

三、个人总结

我希望可以在优秀的博客上做些自己的东西，让整个知识体系更适合自己，所以先列几个比较优秀的博客，以供以后自己看着学：

Reference：

https://blog.csdn.net/daaikuaichuan/article/details/80620518--------看起来很权威的样子，我的有些图出自于此

https://blog.csdn.net/lipengcn/article/details/52815429 ---------------有很多公式的，虽然有的也不一定对

https://blog.csdn.net/nomadlx53/article/details/50849941-------------讲分母布局和分子布局的

http://www.pianshen.com/article/5516168061/ --------------------------分子分母布局的对比

https://www.jianshu.com/p/4128e5b31fb4---------------------------------分母布局讲的比较细