ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

神经网络能否代替决策树算法?

2021-05-07 18:07:28  阅读:186  来源: 互联网

标签:结构化 特征 算法 神经网络 数据 决策树


两者是不同的应用场景。传统的机器学习比如SVM和树算法,要求数据是结构化数据,比如离散或者连续的好几个特征,特征通常都是数值类型,并且具有一定统计意义。要求数据的量也很小,著名的IRIS数据集就150条数据,波士顿房价数据集就506条数据神经网络这样的算法现在构成越来越深的网络,要求数据是非结构化数据,比如图片、语音、文字,其中的统计意义隐藏的非常深。由于网络参数通常很多,Inception系列大约都有两千万个参数,也要求数据量非常的大,一般来说小于十万的数据集基本没法用。这也意味着对于小规模的数据集,如果不是用微调这样的技巧,网络将会和数据集发生过拟合而失去泛化能力当然,如果你真的要用神经网络代替的话,也不是不行。从数学意义上可以分析的我们知道决策树划开的都是垂直或水平的线,形如:
这里写图片描述
从sklearn里抄来的而对于全连接神经网络, 在去掉b的情况下,wx这个矩阵相乘是把特征x所在的空间进行线性变换,+b是对原点进行偏移,激活函数 引入非线性部分,空间直觉上来看就是扭曲了空间。综上可以发现DT这样的算法对数据的线性是有很高的要求的,这也是为什么传统机器学习之前总要进行繁杂的特征工程。说道特征工程,深度网络可以将一些非结构数据转化为结构化数据,从而极大地减轻了特征工程师的工作量,再在此基础上做解释性更好的工作。也是一个比较好的思路神经网络可以在数学形式上复刻决策树,但需要加上较强的约束,比如完全去掉激活函数就去掉了非线性的部分

标签:结构化,特征,算法,神经网络,数据,决策树
来源: https://blog.51cto.com/u_14540820/2759421

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有