统计学习方法读书笔记3-感知机SVM

首页 » 算法 » 正文


感知机是二类分类的线性分类模型,其输入是实例的特征向量,输出为实例的类别,属于判别模型。感知机旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法,对损失函数进行极小化,得到感知机模型。


统计学习方法读书笔记3-感知机SVM

1.感知机模型

统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM

2.感知机的学习策略

1.数据集的线性可分性

感知机一般划分线性可分数据集

2.感知机学习策略

统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM

3.感知机学习算法

1.原始形式-随机梯度下降法

统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM

2.对偶形式

对偶形式与原始形式的比较:

 - 对偶形式解决了原始形式的冗余问题
 - α与w的比较,空间复杂度降低
 - 引入了Gram矩阵,消除了x_i,x_j的影响,时间复杂度为O(1)

统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM

4.感知机算法收敛性证明

P41~P43
统计学习方法读书笔记3-感知机SVM
统计学习方法读书笔记3-感知机SVM

未经允许不得转载:作者:1147-柳同学, 转载或复制请以 超链接形式 并注明出处 拜师资源博客
原文地址:《统计学习方法读书笔记3-感知机SVM》 发布于2020-10-20

分享到:
赞(0) 打赏

评论 抢沙发

评论前必须登录!

  注册



长按图片转发给朋友

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

Vieu3.3主题
专业打造轻量级个人企业风格博客主题!专注于前端开发,全站响应式布局自适应模板。

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录