定义：

朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。
#朴素贝叶斯法的学习与分类
给定训练数据集：

T={(x1,y1),(x2,y2),(x3,y3),……,(xn,yn)}
其中y∈{c1,c2,c3,……，cK}

P(X,Y)是X和Y的联合概率分布。

先验概率分布：

条件概率分布：

朴素贝叶斯法对条件概率分布作了条件独立性的假设。（在实际问题中，这种假设几乎不可能成立）由于这是一个较强的假设，朴素贝叶斯法也因此得名。具体地，条件独立性假设是：

**朴素贝叶斯法实际上学习到生成数据地机制，所以属于生成模型。条件独立假设等于是说用于分类的特征在类确定的条件下都是条件独立的。这一假设使朴素贝叶斯法变得简单，但有时会牺牲一定的分类准确率。

朴素贝叶斯分类器的推导

后验概率公式

又因为x之间是独立的，所以可以写为

所以朴素贝叶斯分类器可表示为：

因为上式的分母在ck改变时，即Y值改变时都不变，所以可以将朴素贝叶斯分类器写为

###后验概率最大化的含义
朴素贝叶斯法将实例分到后验概率最大的类中。这等同于期望风险最小化。假设选择0-1损失函数：

所以这个时候可以将期望风险函数写为

再带入，可写为

对于这个公式，我的理解是：对于一个已知标签的数据，将它分到不同的类里面有不同的损失函数取值和概率，这个公式将所有所有损失函数取值乘相应的概率后加和起来得到条件期望
为了使期望风险最小化，只需要对X=x逐个极小化，由此可以得到：

朴素贝叶斯是一种将整体风险最小化的一种方法，毕竟就算你利用朴素贝叶斯求解出某个数据属于哪一类，你也不知道是否分类正确。

总结

朴素贝叶斯算法就是通过先验概率来计算后验概率来得到结论的。
原理很简单，就是计算每一种可能中这些特征同时存在的概率，取概率最大的那种可能。