机器学习方法分类总结
这篇文章只是一个类似于知识概括的文章,主要作用是帮忙梳理:
1) 分类
- 贝叶斯模型(Bayesian Mode)
- 朴素贝叶斯算法(Naive Bayesian Mode)
- 平均单依赖估计(AveragedOne-Dependence Estimators, AODE)
- Bayesian Belief Network(BBN) - K-邻近 (k-Nearest Neighbor,KNN)
- 支持向量机(SupportVector Machine, SVM)
- 径向基网络(RBF network)之BP监督训练
- 决策树(Decision Trees)
- 分类及回归树(ClassificationAnd Regression Tree, CART)
- ID3,C4.5,CART
- 卡方自动交互检测法(chi-squared automatic interaction detector, CHAID)
- 决策树桩,单层决策树(Decision Stump)
- 多元自适应回归(MARS)
- 梯度提升树算法,增强树(GBM) - 神经网络(Neural Networks)
- 集成算法
- Boosting
- Bootstrapped Aggregation(Bagging)
- AdaBoost
- 堆叠泛化(Stacked Generalization, Blending)
- 随机森林(Random Forest)
2) 回归
- 线性回归(Linear Regression)
- 最小二乘法(OrdinaryLeast Square)
- 逻辑回归 (Logistic Regression)
- 多项式回归(Polynomial Regression)
- 逐步回归(Stepwise Regression) (缩减方法)
- 岭回归(Ridge Regression)L2
- 稀疏约束(Least Absolute Shrinkage and Selection Operator)(LASSO)L1
- 弹性网络(Elastic Net)
- 多元自适应回归样条(MultivariateAdaptive Regression Splines)
- 本地散点平滑估计(Locally Estimated Scatterplot Smoothing)
3) 聚类
- K-Means(K均值)聚类
- 期望最大化算法(Expectation Maximization, EM)
- 均值漂移聚类(Mean-Shift Clustering)
- 基于密度的聚类(DBSCAN)
- 凝聚层次聚类(Hierarchical Clustering)
- 图团体检测(Graph Community Detection)
- 学习矢量量化(Learning Vector Quantization, LVQ)
- 自组织映射算法(Self-Organizing Map , SOM)
4) 降维
- 主成份分析(PrincipleComponent Analysis, PCA)
- 拉普拉斯特征映射(Laplacian Eigenmaps,LE)
- 局部保留投影(Locality Preserving Projections,LPP)
- 多维尺度缩放(Multi-Dimensional Scaling, MDS)
- 等度量映射(Isometric Mapping,Isomap)
- 局部线性嵌入(Locally Linear Embedding,LLE)
- 线性判别分析(Linear Discriminant Analysis,LDA)
- 偏最小二乘回归(Partial Least Square Regression,PLS)
关联规则分析
- Apriori算法
- Eclat算法
人工神经网络
- 感知器神经网络(PerceptronNeural Network)
- 反向传递(Back Propagation)
- Hopfield网络
- 自组织映射(Self-OrganizingMap, SOM)
- 学习矢量量化(Learning Vector Quantization, LVQ);
深度学习
- 受限波尔兹曼机(RestrictedBoltzmann Machine, RBN)
- Deep Belief Networks(DBN)
- 卷积网络(Convolutional Network)
- 堆栈式自动编码器(Stacked Auto-encoders)