标签：预测 方差 BN fuse eval model

问题描述:

在学习yolov5过程中，我们可以通过如下代码进行模型导入，为什么要使用fuse() 和 eval() ?

def get_model(weights):
    # fuse conv_bn and repvgg
    # only fuse conv_bn
    model = torch.load(weights, map_location=device)['model'].float().fuse()
    return model.eval()

问题分析：

fuse()是用来进行conv和bn层合并，为了提速模型推理速度。
eval()是模型进行预测推理时关闭BN（预测数据均值方差计算）和Dropout以免影响预测结果。具体如下：

1. 训练过程中BN的变化
   在训练过程中BN会不断计算均值和方差，训练结束后会得到最终的均值和方差，可以记作mean_train, variance_train。
2. 预测过程中的BN的变化
   如果预测过程中不适用model.eval(),BN 层还是会根据输入的数据继续计算均值和方差，相比于训练过程中的均值和方差发生了变化因此会导致预测结果发生变化。
3. 训练过程中Dropout变化
   训练过程中会依据设置的dropout比例会使一部分的网络连接不进行计算，
4. 预测过程中的Dropout变化
   使用model.eval()会使所有网络连接参与计算，显然预测时都参与计算结果会更准确。

标签：预测,方差,BN,fuse,eval,model
来源： https://www.cnblogs.com/chentiao/p/16656918.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。