-
人工智能
站-
热门城市 全国站>
-
其他省市
-
-
400-636-0069
小标
2018-10-22
来源 ：
阅读 1042
评论 0
摘要：本文主要向大家介绍了机器学习入门之机器学习中的规则化，通过具体的内容向大家展现，希望对大家学习机器学习入门有所帮助。
本文主要向大家介绍了机器学习入门之机器学习中的规则化，通过具体的内容向大家展现，希望对大家学习机器学习入门有所帮助。
简单的讲，规则化就是给损失函数（cost function）多项式再加上一项，使得训练出的权重向量W更小一些。这样，在向量W中，就会使得一些item更趋近于0，可以认为更趋近为0的项代表的维度对模型的分类预测效果影响很小，可以选择性的忽略这些维度。
能够从原始数据集中提取出影响较大的维度，忽略一些影响较小的维度，就意味着能够在一定程度上防止过拟合（overfitting）。为什么？因为模型兼顾的维度越多，越容易出错，这方面有个奥卡姆剃刀原理。
如何选择加上的那一项呢，常用的有L1,L2范数。
L1范数是指向量所有item的绝对值的和:
L2范数是指向量所有item的平方和开根号:
Spark针对不同的损失函数模型，赋予了默认的L1或L2规则化。为什么不同的模型对应不同的规则化呢，这个并不好解释，我个人觉得还是跟数据特征和先验积累有关。不过，只要了解L1和L2的不同之处，就能灵活运用。L1与L2主要的不同之处可以从变化曲线的斜率看出，L1是线性变化，L2是乘方变化的。
本文由职坐标整理并发布，希望对同学们有所帮助。了解更多详情请关注职坐标人工智能机器学习频道！
喜欢 | 0
不喜欢 | 0
您输入的评论内容中包含违禁敏感词
我知道了
请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了，明天再试试吧！
我们会在第一时间安排职业规划师联系您！
您也可以联系我们的职业规划师咨询：
版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com，All Rights Reserved.
沪公网安备 31011502005948号
索取资料
答疑解惑
技术交流
职业测评
面试技巧
高薪秘笈
