机器学习算法基础第四天(决策树、随机森林)

1043-李同学

发表文章数:31

热门标签

首页 » 算法 » 正文

一、分类算法-决策树

1.1 认识决策树
决策树思想的来源非常朴素,程序设计中的条件分支结构就是if-then结构,最早的决策树就是利用这类结构分割数据的一种分类学习方法
例如:
机器学习算法基础第四天(决策树、随机森林)
比如:你母亲要给你介绍男朋友,是这么来对话的:
女儿:多大年纪了?
母亲:26。
女儿:长的帅不帅?
母亲:挺帅的。
女儿:收入高不?
母亲:不算很高,中等情况。
女儿:是公务员不?
母亲:是,在税务局上班呢。
女儿:那好,我去见见。

银行贷款数据
机器学习算法基础第四天(决策树、随机森林)
你如何去划分是否能得到贷款?
机器学习算法基础第四天(决策树、随机森林)
机器学习算法基础第四天(决策树、随机森林)
决策树的实际划分
机器学习算法基础第四天(决策树、随机森林)
1.2 决策树的划分依据之一-信息增益
特征A对训练数据集D的信息增益g(D,A),定义为集合D的信息熵H(D)与特征A给定条件下D的信息条件熵H(D|A)之差,即公式为:
机器学习算法基础第四天(决策树、随机森林)
注:信息增益表示得知特征X的信息而使得类Y的信息的不确定性减少的程度。
信息增益的计算
信息熵的计算:机器学习算法基础第四天(决策树、随机森林)
条件熵的计算:
机器学习算法基础第四天(决策树、随机森林)
机器学习算法基础第四天(决策树、随机森林)
1.3 常见决策树使用的算法
ID3
信息增益 最大的准则
C4.5
信息增益比 最大的准则
CART
回归树: 平方误差 最小
分类树: 基尼系数 最小的准则 在sklearn中可以选择划分的原则

1.4 sklearn决策树API
class sklearn.tree.DecisionTreeClassifier(criterion=’gini’, max_depth=None,random_state=None)
决策树分类器
criterion:默认是’gini’系数,也可以选择信息增益的熵’entropy’
max_depth:树的深度大小
random_state:随机数种子

method:
decision_path:返回决策树的路径

1.5 案例:泰坦尼克号乘客生存分类模型
1、pd读取数据

2、选择有影响的特征,处理缺失值

3、进行特征工程,pd转换字典,特征抽取
x_train.to_dict(orient=“records”)

4、决策树估计器流程
机器学习算法基础第四天(决策树、随机森林)
机器学习算法基础第四天(决策树、随机森林)
1.6 决策树的优缺点以及改进
优点:
简单的理解和解释,树木可视化。
需要很少的数据准备,其他技术通常需要数据归一化,
缺点:
决策树学习者可以创建不能很好地推广数据的过于复杂的树,这被称为过拟合。
决策树可能不稳定,因为数据的小变化可能会导致完全不同的树被生成。

二.集成学习方法-随机森林

1.1 集成学习方法
集成学习通过建立几个模型组合的来解决单一预测问题。它的工作原理是生成多个分类器/模型,各自独立地学习和作出预测。这些预测最后结合成单预测,因此优于任何一个单分类的做出预测。

1.2 定义
定义:在机器学习中,随机森林是一个包含多个决策树的分类器,并且其输出的类别是由个别树输出的类别的众数而定。
例如, 如果你训练了5个树, 其中有4个树的结果是True, 1个数的结果是False, 那么最终结果会是True。

1.3 算法介绍
根据下列算法而建造每棵树:
用N来表示训练用例(样本)的个数,M表示特征数目。输入特征数目m,用于确定决策树上一个节点的决策结果;其中m应远小于M。
从N个训练用例(样本)中以有放回抽样的方式,取样N次,形成一个训练集(即bootstrap取样),并用未抽到的用例(样本)作预测,评估其误差。

为什么要随机抽样训练集?
如果不进行随机抽样,每棵树的训练集都一样,那么最终训练出的树分类结果也是完全一样的。

为什么要有放回地抽样?
如果不是有放回的抽样,那么每棵树的训练样本都是不同的,都是没有交集的,这样每棵树都是“有偏的”,都是绝对“片面的”(当然这样说可能不对),也就是说每棵树训练出来都是有很大的差异的;而随机森林最后分类取决于多棵树(弱分类器)的投票表决。

1.4 API
class sklearn.ensemble.RandomForestClassifier(n_estimators=10, criterion=’gini’, max_depth=None, bootstrap=True, random_state=None)
随机森林分类器
n_estimators:integer,optional(default = 10) 森林里的树木数量
criteria:string,可选(default =“gini”)分割特征的测量方法
max_depth:integer或None,可选(默认=无)树的最大深度
bootstrap:boolean,optional(default = True)是否在构建树时使用放回抽样

机器学习算法基础第四天(决策树、随机森林)
输出结果:
机器学习算法基础第四天(决策树、随机森林)

1.5 算法评价
优点:
在当前所有算法中,具有极好的准确率。
能够有效地运行在大数据集上。
能够处理具有高维特征的输入样本,而且不需要降维。
能够评估各个特征在分类问题上的重要性。
对于缺省值问题也能够获得很好得结果。

未经允许不得转载:作者:1043-李同学, 转载或复制请以 超链接形式 并注明出处 拜师资源博客
原文地址:《机器学习算法基础第四天(决策树、随机森林)》 发布于2020-10-14

分享到:
赞(0) 打赏

评论 抢沙发

评论前必须登录!

  注册



长按图片转发给朋友

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

Vieu3.3主题
专业打造轻量级个人企业风格博客主题!专注于前端开发,全站响应式布局自适应模板。

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录