参考：https://www.zhihu.com/question/24261751
- 先验概率：实际中经验所得的概率；
- 后验概率：知果求因，即条件概率P(A|B)
- 极大似然估计：已知某事件发生，其概率应最大
用“瓜熟蒂落”这个因果例子，从概率（probability）的角度说一下，先验概率，就是常识、经验所透露出的“因”的概率，即瓜熟的概率。应该很清楚。后验概率，就是在知道“果”之后，去推测“因”的概率，也就是说，如果已经知道瓜蒂脱落，那么瓜熟的概率是多少。后验和先验的关系可以通过贝叶斯公式来求。也就是：P（瓜熟 | 已知蒂落）=P（瓜熟）×P（蒂落 | 瓜熟）/ P（蒂落）
似然函数，是根据已知结果去推测固有性质的可能性（likelihood），是对固有性质的拟合程度，所以不能称为概率。在这里就是说，不要管什么瓜熟的概率，只care瓜熟与蒂落的关系。如果蒂落了，那么对瓜熟这一属性的拟合程度有多大。似然函数，一般写成L（瓜熟 | 已知蒂落），和后验概率非常像，区别在于似然函数把瓜熟看成一个肯定存在的属性，而后验概率把瓜熟看成一个随机变量。—再扯一扯似然函数和条件概率的关系。似然函数就是条件概率的逆反。意为：L（瓜熟 | 已知蒂落）= C × P（蒂落 | 瓜熟），C是常数。具体来说，现在有1000个瓜熟了，落了800个，那条件概率是0.8。那我也可以说，这1000个瓜都熟的可能性是0.8C。注意，之所以加个常数项，是因为似然函数的具体值没有意义，只有看它的相对大小或者两个似然值的比率才有意义，后面还有例子。
同理，如果理解上面的意义，分布就是一“串”概率。先验分布：现在常识不但告诉我们瓜熟的概率，也说明了瓜青、瓜烂的概率后验分布：在知道蒂落之后，瓜青、瓜熟、瓜烂的概率都是多少似然函数：在知道蒂落的情形下，如果以瓜青为必然属性，它的可能性是多少？如果以瓜熟为必然属性，它的可能性是多少？如果以瓜烂为必然属性，它的可能性是多少？似然函数不是分布，只是对上述三种情形下各自的可能性描述。那么我们把这三者结合起来，就可以得到：==后验分布 正比于 先验分布 × 似然函数==。先验就是设定一种情形，似然就是看这种情形下发生的可能性，两者合起来就是后验的概率。至于似然估计：就是不管先验和后验那一套，只看似然函数，现在蒂落了，可能有瓜青、瓜熟、瓜烂，这三种情况都有个似然值（L（瓜青）：0.6、L（瓜熟）：0.8、L（瓜烂）：0.7），我们采用最大的那个，即瓜熟，这个时候假定瓜熟为必然属性是最有可能的。