标签：技巧 卷积 smooth label hot Inception 一些 concat
Inception
每层设置不同的paddingSAME,多尺度并行特征提取，concat
1×1卷积：可用于升维或降维，联通等作用
one hot --->label smooth
正
确
（
1
，
0
，
0
）
−
−
−
>
(
1
−
ε
，
ε
k
−
1
，
ε
k
−
1
)
当
前
k
=
3
o
n
e
h
o
t
会
使
正
确
类
别
输
出
值
趋
于
+
∞
,
而
l
a
b
e
l
s
m
o
o
t
h
会
趋
于
有
界
正确（1，0，0）--->(1-ε，\frac{ε}{k-1}，\frac{ε}{k-1}) \ \ 当前 k=3 \\ one \ hot会使正确类别输出值趋于+\infty ,而label \ smooth会趋于有界
正确（1，0，0）−−−>(1−ε，k−1ε，k−1ε) 当前k=3one hot会使正确类别输出值趋于+∞,而label smooth会趋于有界
3.用2个3×3代替一个5×5，能减少参数量，计算量，增加非线性性
4.不对称卷积（卷积分解）：N×N分解为1×N和N×1前后两个卷积，能减少参数量，计算量，增加非线性性
5.下采样模块：
传统下采样，先卷积再池化（计算量大）或步长为2的卷积（损失信息）
现在：分为两路，然后堆叠通道
6.深度可分离卷积：先depthwise,再pointwise（且中间无激活函数，效果最好）
每层卷积后结果不相加，直接concat，然后再通过一个1×1卷积，得到与原来卷积一样大小的结果
能够减少参数量，运算量，再Xinception中就是先通过1×1卷积，然后对每个通道都有一个卷积核然后再concat,与可分离卷积操作相反，但作用相似。
标签：技巧,卷积,smooth,label,hot,Inception,一些,concat 来源： https://blog.csdn.net/ResumeProject/article/details/120533013
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。