摘要:本文主要向大家介绍了机器学习入门之从零开始机器学习003-逻辑回归算法,通过具体的内容向大家展现,希望对大家学习机器学习入门有所帮助。
本文主要向大家介绍了机器学习入门之从零开始机器学习003-逻辑回归算法,通过具体的内容向大家展现,希望对大家学习机器学习入门有所帮助。
一、逻辑回归概念
面对一个回归或者分类问题,建立代价函数,然后通过优化方法迭代求解出最优的模型参数,然后测试验证我们这个求解的模型的好坏。
Logistic回归虽然名字里带“回归”,但是它实际上是一种分类方法,主要用于两分类问题(即输出只有两种,分别代表两个类别)
是什么手段让逻辑回归只能输出两种值呢?答:Sigmoid函数。
二、Sigmoid函数
Logistic函数(或称为Sigmoid函数),函数形式为
其中e代表着常数 2.71828......
通过下面的图形可以看到,把任意一个z带入到Sigmoid函数中,都会得到一个(0,1)之间的值。那么我们能否把(0,1)之间的值想成是
0-100%的一个概率值呢?我们把概率小于50%的分为不易发生的一类。把剩余的分为另外一类。这样就产生了两个类别。达到分类的目的。这个就是逻辑回归作为分类的理论依据。
三、判定条件(分类的那条线)
对多元线性回归方程求Sigmoid函数hθ(x)=g(θ0+θ1x1+...+θnxn),找到一组θ,假设得到−3+x1+x2=0的直线,把样本分成两类。把(1,1)代入g函数,概率值<0.5,就判定为负样本。这条直线就是判定边界,如下图:
这条线就是线性回归函数,换句话说,参数z就是一个线性回归函数。
因此逻辑回归函数的表达式如下:
四、代价函数
逻辑回归方法主要是用最大似然估计来学习的,所以单个样本的后验概率为:
整个样本的后验概率就是:
您输入的评论内容中包含违禁敏感词
我知道了
请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了,明天再试试吧!
我们会在第一时间安排职业规划师联系您!
您也可以联系我们的职业规划师咨询:
版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号