认识达内从这里开始

机器学习技术是大多数程序员在学习人工智能技术的时候需要重点掌握的一个技术，而本文我们就通过案例分析来简单了解一下，机器学习常用模型及优缺点分析。

1、决策树模型

决策树模型是一种简单易用的非参数分类器。它不需要对数据有任何的先验假设，计算速度较快，结果容易解释，而且稳健性强。

在复杂的决策情况中，往往需要多层次或多阶段的决策。当一个阶段决策完成后，可能有m种新的不同自然状态发生;每种自然状态下，都有m个新的策略可选择，选择后产生不同的结果并再次面临新的自然状态，继续产生一系列的决策过程，这种决策被称为序列决策或多级决策。

此时，如果继续遵循上述的决策准则或采用效益矩阵分析问题，就容易使相应的表格关系十分复杂。决策树是一种能帮助决策者进行序列决策分析的有效工具，其方法是将问题中有关策略、自然状态、概率及收益值等通过线条和图形用类似于树状的形式表示出来。

决策树模型就是由决策点、策略点(事件点)及结果构成的树形图，一般应用于序列决策中，通常以大收益期望值或低期望成本作为决策准则，通过图解方式求解在不同条件下各类方案的效益值，然后通过比较，做出决策。

决策树模型优、缺点

优点：浅层的(Shallow)决策树视觉上非常直观，而且容易解释;是对数据的结构和分布不需作任何假设;是可以捕捉住变量间的相互作用(Interaction)。

缺点：深层的(Deep)决策树视觉上和解释上都比较困难;决策树容易过分微调于样本数据而失去稳定性和抗震荡性;决策树对样本量(SampleSize)的需求比较大;处理缺失值的功能非常有限。

2、KNN算法

KNN即近邻算法，核心思想是如果一个样本在特征空间中的k个相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。

该方法在确定分类决策上只依据邻近的一个或者几个样本的类别来决定待分样本所属的类别。kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，kNN方法较其他方法更为适合。其主要过程为：

1.计算训练样本和测试样本中每个样本点的距离(常见的距离度量有欧式距离，马氏距离等);

2.对上面所有的距离值进行排序;

3.选前k个小距离的样本;

4.根据这k个样本的标签进行投票，得到后的分类类别;

如何选择一个佳的K值，这取决于数据。一般情况下，在分类时较大的K值能够减小噪声的影响。但会使类别之间的界限变得模糊。一个较好的K值可通过各种启发式技术来获取，比如，交叉验证。另外噪声和非相关性特征向量的存在会使K近邻算法的准确性减小。

近邻算法具有较强的一致性结果。随着数据趋于无限，算法保证错误率不会超过贝叶斯算法错误率的两倍。对于一些好的K值，K近邻保证错误率不会超过贝叶斯理论误差率。

KNN算法优、缺点

优点：简单，易于理解，易于实现，无需估计参数，无需训练;理论成熟，既可以用来做分类也可以用来做回归;可用于非线性分类;适合对稀有事件进行分类;准确度高，对数据没有假设，对outlier不敏感。

缺点：计算量大;样本不平衡问题(即有些类别的样本数量很多，而其它样本的数量很少);需要大量的内存;可理解性差，无法给出像决策树那样的规则。

3、SVM算法

SVM(SupportVectorMachine)指的是支持向量机，是常见的一种判别方法。在机器学习领域，是一个有监督的学习模型，通常用来进行模式识别、分类以及回归分析。

SVM的主要思想可以概括为两点：

1.它是针对线性可分情况进行分析，对于线性不可分的情况，通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分，从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成为可能。

2.它基于结构风险小化理论之上在特征空间中构建优超平面，使得学习器得到全局优化，并且在整个样本空间的期望以某个概率满足一定上界。

SVM算法优、缺点

优点：可用于线性/非线性分类，也可以用于回归;低泛化误差;容易解释;计算复杂度较低。

缺点：对参数和核函数的选择比较敏感;原始的SVM只比较擅长处理二分类问题。

【免责声明】本文系本网编辑部分转载，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与管理员联系，我们会予以更改或删除相关文章，以保证您的权益!更多内容请加danei456学习了解。欢迎关注“达内在线”参与分销，赚更多好礼。