NLP(14):Logistic Regression

1411-李同学

发表文章数:148

首页 » 算法 » 正文

Logistic Regression

1、使用情况,分类问题

  • 贷款违约
  • 广告点击
  • 商品推荐
  • 情感分析
  • 疾病诊断

NLP(14):Logistic Regression
核心:找到特征到标签的映射关系

2、使用sigmoid函数将线性回归的输出值映射到(0,1)区间

NLP(14):Logistic Regression
NLP(14):Logistic Regression

逻辑回归是线性的:决策边界为线性的。

NLP(14):Logistic Regression
在决策边界上的任意点,既可以属于左边的分类也可以属于右边的分类

3、逻辑回归的目标函数

NLP(14):Logistic Regression
NLP(14):Logistic Regression
加入log:避免overflow和underflow

Minimizing the Function

NLP(14):Logistic Regression

4、Gradient Descent

NLP(14):Logistic Regression

Gradient Descent for logistic regression

NLP(14):Logistic Regression

SGD

NLP(14):Logistic Regression
NLP(14):Logistic Regression

当给定的数据线性可分的时候,逻辑回归的参数会趋向于正无穷

线性可分时:损失函数为0,根据损失函数的定义,此时

θ

(

z

)

/theta(z)

θ(z)函数的值为1,即指数项为0,即w参数趋近于正无穷。

未经允许不得转载:作者:1411-李同学, 转载或复制请以 超链接形式 并注明出处 拜师资源博客
原文地址:《NLP(14):Logistic Regression》 发布于2021-02-10

分享到:
赞(0) 打赏

评论 抢沙发

评论前必须登录!

  注册



长按图片转发给朋友

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

Vieu3.3主题
专业打造轻量级个人企业风格博客主题!专注于前端开发,全站响应式布局自适应模板。

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录