生成式模型和判别式模型
生成式模型
Gaussians——高斯
Naive Bayes——朴素贝叶斯
Mixtures of Multinomials——混合多项式
Mixtures of Gaussians——混合高斯
Mixtures of Experts——混合专家
HMMs——隐马尔科夫模型
Sigmoidal Belief Networks——S形信任网络
Bayesian Networks——贝叶斯网络
Markov Random Fields——马尔科夫随机场
Latent Dirichlet Allocation——网络隐含狄利克雷分布
判别式模型
Logistic Regression——逻辑回归
SVM——支持向量机
Traditional Neural Networks——传统神经网络
Nearest Neighbor——近邻取样
(K-Nearest Neighbor)——KNN
CRF——条件随机场(基于隐马尔科夫模型)
Linear Discriminant Analysis——线性判别分析
Boosting
Linear Regression——线性回归
两者区别
产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念,它们的区别在于:
- 对于输入x,类别标签y:
产生式模型估计它们的联合概率分布P(x,y)
判别式模型估计条件概率分布P(y|x) - 产生式模型可以根据贝叶斯公式得到判别式模型,但反过来不行。