皮皮网

1.caffe 中为什么bn层要和scale层一起使用
2.YOLOv1详解
3.github上都有哪些值得关注学习的r开源项目?

caffe 中为什么bn层要和scale层一起使用

       1) 输入归一化 x_norm = (x-u)/std, 其中u和std是个累计计算的均值和方差。

       2）y=alpha×x_norm + beta，对归一化后的x进行比例缩放和位移。其中alpha和beta是通过迭代学习的。

       é‚£ä¹ˆcaffe中的bn层其实只做了第一件事，scale层做了第二件事，所以两者要一起使用。

       ä¸€ï¼Œåœ¨Caffe中使用Batch Normalization需要注意以下两点：

       1. 要配合Scale层一起使用。

       2. è®­ç»ƒçš„时候，将BN层的use_global_stats设置为false，然后测试的时候将use_global_stats设置为true。

       äºŒï¼ŒåŸºæœ¬å…¬å¼æ¢³ç†ï¼š

       Scale层主要完成 top=alpha∗bottom+betatop=alpha∗bottom+beta的过程，则层中主要有两个参数alphaalpha与betabeta,

       æ±‚导会比较简单。∂y∂x=alpha;∂y∂alpha=x;∂y∂beta=1。 需要注意的是alphaalpha与betabeta均为向量，针对输入的channelschannels进行的处理，因此不能简单的认定为一个floatfloat的实数。

       ä¸‰ï¼Œå…·ä½“实现该部分将结合源码实现解析scalescale层:

       åœ¨Caffe proto中ScaleParameter中对Scale有如下几个参数：

       1，基本成员变量，基本成员变量主要包含了Bias层的参数以及Scale层完成对应通道的标注工作。

       2，基本成员函数，主要包含了LayerSetup,Reshape ,Forward和Backward ，内部调用的时候bias_term为true的时候会调用biasLayer的相关函数。

       3，Reshape 调整输入输出与中间变量，Reshape层完成许多中间变量的size初始化。

       4，Forward 前向计算，前向计算，在BN中国紧跟着BN的归一化输出，完成乘以alpha与+bias的操作，由于alpha与bias均为C的向量，因此需要先进行广播。

       5，Backward 反向计算，主要求解三个梯度，对alpha 、beta和输入的bottom(此处的temp)。

YOLOv1详解

            从目标检测任务（Object Detection Task）发展来看，主要有两类方法。一类是R-CNN系列及其类似算法，称为two-stage，将目标检测任务分为边界框回归和物体分类两个模块。虽然模型前面大量的提取特征以及候选框的选取都是单个网络完成，但回归和分类任务毕竟还是分开的，分开训练造成网络较难收敛，且预测时速度慢，但准确度较高。另一类是本文描述以及后面会更新换代的YOLO算法，称为one-stage，将目标检测任务单纯看做回归任务。YOLOv1使用端到端的网络训练模型，速度快，但准确度相对低些，主要用于实时检测，例如视频目标检测。

             由于YOLOv1是端到端进行训练，因此YOLOv1只有一条单一的网络分支。YOLOv1输入为 的图像，经过一个修改的GoogLeNet网络（网络到底什么样的其实不用管，只要知道是一堆卷积和池化的堆叠即可），后面接一些全连接层（同样无所谓接什么全连接层，看下参数或者源码就直接懂了），最后接到一个 的全连接层，直接reshape为 （这里reshape成这样是有意图的，具体参见下面部分）。

            YOLOv1将一张图像（例如 ）划分为 个网格（YOLOv1中 ，如下图所示），一共 个网格。

            损失函数有多个部分，我们现在把它们分开来说，后面直接挨个加起来即可。

             第一部分如下所示，计算预测边界框和GT框中心点之间的差距。其中 表示第 个网格的第 个边界框是否负责一个物体，是为1，不是为0。

             第二部分类似第一部分，主要计算预测宽高和GT宽高损失。这里加上根号表示大边界框小偏差应该比小边界框小偏差更重要。

             第三部分计算对于每个边界框的置信度分数与预测的置信度分数之间差距。 表示置信度分数， 表示预测的边界框和对应GT框的IoU。

             最后一部分计算类概率损失， 表示当网格中没有物体时不惩罚。

        其中， ， 。

        论文原文： /hackernoon/understanding-yolo-f5abbc

        NMS参考： /presentation/d/1aeRvtKGKHdD5lg6Hgyhx5rPq_ZOsGjG5rJ1HP7BbA/pub?start=false&loop=false&delayms=#slide=id.p

github上都有哪些值得关注学习的r开源项目?

       探索GitHub上R语言的精彩开源项目，首先，不得不提到Hadley Wickham这位R语言界的大佬。他的GitHub上不仅有ggplot2、dplyr、string jdk源码解析reshape、博雅源码下载码stringr等明星包的源码，还有其他丰富资源。

       如果你对R语言可视化感兴趣，不妨深入学习Hadley Wickham的书籍和项目。在GitHub上，你不仅能获取源码，还能学习到背后的java开发程序源码逻辑与实践。

       此外，关注Pythonic生物人，你将发现一系列与R语言相关的高质量文章和项目。从免费在线资源到深度学习工具，广州狼人杀源码应有尽有。

       以下是一些推荐的资源：

       免费在线资源：探索7个免费在线资源，助你学习R语言可视化。

       Pythonic生物人系列：涵盖Python可视化、php多轨软件源码高效渲染、丰富武器库、NumPy教程、Dashboard APP开发、数据处理、机器学习工具、Python学习途径、快速上手Python技巧等内容。

       如果你对R语言的学习有疑问或寻求更多资源，欢迎关注@pythonic生物人，获取更多有价值的信息与资源。