标签：误差 导数 迭代 回归 方向 神经网络 参数 线性 函数

引言

有时候，可以用线性模型模拟数据的分布情况。比如房价与面积之间的关系。

示例

假设价格只取决于房屋状况的两个因素，即面积（平方米）和房龄（年）。

有了这个函数之后，我们要考虑的就是怎样让这个函数的参数调整为接近实际情况的值。

(①)引言

首先可以想到随机生成。让随机生成值，最后保留表现最好的。

考虑到具有本质上的连续性，可以通过迭代的方式让从较差的值逐渐变为较好的值。

通过迭代，我们容易联想到导数的性质。

导数本质上是斜率，即指定方向的变化速度。在极值点处，变化速度为0；在其他点，导数值大的方向函数值逐渐变大、导数值小的方向函数值逐渐变小。

(②)误差函数

 (③)参数迭代

由①、②知，当误差函数正在变大时，要调整参数使之向相反的方向运动；当误差函数变小时，要使之向当前方向运动。

考虑到导数的性质：导数为正数时，函数增大；导数为负数时，函数减小。

那么将参数减去导数，即可以使误差函数向变小的方向移动。

标签：误差,导数,迭代,回归,方向,神经网络,参数,线性,函数
来源： https://www.cnblogs.com/railgunRG/p/16590960.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。