标签：拉格朗 回归 支持 损失 训练样本 SVR 向量 式子

对于一般的回归问题，给定训练样本D={(x₁,y₁),(x₂,y₂),...,(x_n,y_n)},y_i€R,我们希望学习到一个f（x）使得，其与y尽可能的接近，w，b是待确定的参数。在这个模型中，只有当发f(x)与y完全相同时，损失才为零，而支持向量回归假设我们能容忍的f(x)与之间最多有ε的偏差，当且仅当f(x)与y的差别绝对值大于ε时，才计算损失，此时相当于以f(x)为中心，构建一个宽度为2ε的间隔带，若训练样本落入此间隔带，则认为是被预测正确的。

因此SVR问题可转化为：

l_t 为损失函数

因此引入了松弛因子，从写第一个式子为：

最后引入拉格朗日乘子，可得拉格朗日函数：

对第四个遍历求偏导，令偏导数为零，可得

吧上边的式子带入，即可求得SVR的对偶问题

上边的过程需要满足KKT条件，即

最后，可得SVR的解为

其中b为

标签：拉格朗,回归,支持,损失,训练样本,SVR,向量,式子
来源： https://www.cnblogs.com/cmybky/p/11773000.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。