ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

线性分类器

2022-01-09 22:35:34  阅读:171  来源: 互联网

标签:函数 argmax 模型 分类 分类器 线性 回归


1.种类

感知器
Logistic回归
Softmax回归
交叉熵和对数似然
支持向量机

Softmax回归是多分类,其他都是二分类

2.线性回归模型

\(f(x;w,b)=w^Tx +b ,y\in R\)

3.线性分类模型

\(g(f(x;w))=\begin{cases} 1 & if\ f(x;w)>0\\ 0& if\ f(x;w)<0\\ \end{cases}\)

4.二分类问题Binary Classification

训练集

\(\{(x^{(n)}),y^{(n)}\}_{n=1}^{N}\)

二分类问题

\(x^{(n)}\in \mathbb{R}^D\)
\(y^{(n)}\in\{0,1\}\)

模型

\(g(f(x;w))=\begin{cases} 1 & if\ f(x;w)>0\\ 0& if\ f(x;w)<0\\ \end{cases}\)

损失函数

\(0-1函数:\mathcal{L}_{01}(y,g(f(x;w)))=I(y\ne g(f(x;w)))- 不可求导\)

5.多分类问题Mult-class Classification

训练集

\(\{(x^{(n)}),y^{(n)}\}_{n=1}^{N}\)

二分类问题

\(x^{(n)}\in \mathbb{R}^D\)
\(y^{(n)}\in\{1,2,...,C\},C>2\)

模型

损失函数

\(0-1函数:\mathcal{L}_{01}(y,g(f(x;w)))=I(y\ne g(f(x;w)))- 不可求导\)

5.argmax方式

\(一种改进的"一对其余"方式,共需要C个判别函数\)
\(f_c(x;w_c)=w_c^T+b_c,c\in {1,2,...,C}\)
\("argmax"方式的预测函数定义为\)
\(y=argmax_{c=1}^C\ f_c(x;w_c)\)

标签:函数,argmax,模型,分类,分类器,线性,回归
来源: https://www.cnblogs.com/boyknight/p/15782525.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有