概率基础知识
高斯分布[Linear Guassian Model]
Data: $p\left( x|\theta \right) =\frac{1}{\sqrt{2x}\cdot \sigma}\cdot \exp \left( -\frac{\left( x-\mu \right) ^2}{2\sigma ^2} \right) $ ,其中x同分布
MLE[最大似然估计]：
$$p\left( x \right) =\frac{1}{\left( 2x \right) ^{\frac{p}{2}}|\Sigma |^{\frac{1}{2}}}\exp \left( -\frac{1}{2}\left( x-\mu \right) ^T\Sigma ^{-1}\left( x-\mu \right) \right) $$
单维度：
多维度：
MLE的概述：
极大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。说的是已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，参数估计就是通过若干次试验，观察其结果，利用结果推出参数的大概值。极大似然估计是建立在这样的思想上：已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。
扫描二维码关注公众号，回复：
5571386 查看本文章
当然极大似然估计只是一种粗略的数学期望（非无偏）。