皮皮网

1.（论文加源码）基于连续卷积神经网络（CNN）（SVM）（MLP）提取脑电微分熵特征的源码DEAP脑电情绪识别
2.DenseNet源码解读（pytorch官方）
3.VGGish源码学习
4.FCOS：论文与源码解读
5.很多C语言开源软件的源代码很难懂，要快速理解有什么技巧吗？
6.深度语义匹配模型DSSM及其变体CNN-DSSM,基础加卷积层 LSTM-DSSM

（论文加源码）基于连续卷积神经网络（CNN）（SVM）（MLP）提取脑电微分熵特征的DEAP脑电情绪识别

       在本文中，我们采用连续卷积神经网络（CNN）对DEAP数据集进行脑电情绪识别。上增主要内容是源码将脑电信号在频域分段后提取其微分熵特征，构建三维脑电特征输入到CNN中。基础加卷积层实验结果表明，上增ckmov授权源码该方法在情感识别任务上取得了.%的源码准确率。

       首先，基础加卷积层我们采用5种频率带对脑电信号进行特化处理，上增然后将其转换为**的源码格式。接着，基础加卷积层我们提取了每个脑电分段的上增微分熵特征，并对其进行了归一化处理，源码将数据转换为*N*4*的基础加卷积层格式。在这一过程中，上增我们利用了国际-系统，将一维的DE特征变换为二维平面，再将其堆叠成三维特征输入。

       在构建连续卷积神经网络（CNN）模型时，我们使用了一个包含四个卷积层的网络，每个卷积层后面都添加了一个具有退出操作的全连接层用于特征融合，并在最后使用了softmax层进行分类预测。模型设计时考虑了零填充以防止立方体边缘信息丢失。实验结果表明，这种方法在情感识别任务上表现良好，准确率为.%。

       为了对比，我们还编写了支持向量机（SVM）和多层感知器（MLP）的代码，结果分别为.%和.%的准确率。实验结果表明，连续卷积神经网络模型在DEAP数据集上表现最好。

       总的来说，通过结合不同频率带的信号特征，同时保持通道间的空间信息，我们的三维脑电特征提取方法在连续卷积神经网络模型上的实验结果显示出高效性。与其他相关方法相比，该方法在唤醒和价分类任务上的平均准确率分别达到了.%和.%，取得了最佳效果。

       完整代码和论文资源可以在此获取。

DenseNet源码解读（pytorch官方）

       DenseNet源码解析：一个基于PyTorch实现的深度密集连接网络模型，提供了一系列预训练模型选项。首先，我们引入必要的库，如ReLU、卷积层、批量归一化和函数模块。DenseNet的websocketserver源码核心是通过`_bn_function_factory`函数拼接前一层的特征，然后通过一系列的卷积块进行特征提取，包括1x1卷积、ReLU激活和3x3卷积，形成了密集层 `_DenseLayer`。该层可以设置内存高效模式以节省内存。在 `_DenseBlock` 中，通过循环堆叠指定数量的密集层，并在每个块之间插入降采样层 `_Transition` 以控制通道数量的增长。模型类 `DenseNet` 建立了整套网络结构，包括初始卷积层、多个密集块、过渡层以及最终的全局平均池化和全连接层。提供了针对不同配置（如densenet、densenet等）的预训练模型加载方法 `_densenet`，用户可以根据需求选择并加载预训练权重。

       每个模型函数，如`densenet`，接受参数如预训练状态、进度条显示等，允许用户根据需要定制网络行为。总的来说，DenseNet的设计旨在通过密集连接和递增特征组合来提升模型性能，适用于图像识别等计算机视觉任务。

VGGish源码学习

       深入研究VGGish源码，该模型在模态视频分析领域颇为流行，尤其在生成语音部分的embedding特征向量方面。本文旨在基于官方源码进行学习。

       VGGish的代码库结构简洁，仅包含几个.py文件。文件大体功能明确，下文将结合具体代码进行详述。在开始之前，需要预先下载两个预训练文件，与.py文件放在同一目录。

       VGGish的环境安装过程简便，对依赖包的版本要求宽松。只需依次执行安装命令，确保环境配置无误。运行vggish_smoke_test.py脚本，如显示"Looks Good To Me"则表明环境已搭建完成。

       着手VGGish模型的拆解，以vggish_inference_demo.py中的main函数为起点，分为两大部分：数据准备与前向推理获得Embedding特征及特征后处理。

       在数据准备阶段，首先确认输入是否为.wav文件，若非则自行生成。unrar 源码接着，使用vggish_input.py模块将输入数据调整为适用于模型的batch格式。假设输入音频长1分秒，采样频率为.1kHz，读取的wav_data为（，）的一维数组（若为双声道，则调整为单声道）。

       进入前向推理阶段，初始化特征处理对象pproc及记录器对象writer。通过vggish_slim.py模块构建VGG模型，并加载预训练权重。前向推理生成维的embedding特征向量。值得注意的是，输入数据为[num_samples, , ]的三维数据，在推理过程中会增加一维[num_samples，num_frames，num_bins，1]，最终经过卷积层提取特征，FC层压缩，得到的embedding_batch为[num_samples，]。

       后处理环节中，应用PCA（主成分分析）对embedding特征进行调整。这一步骤旨在与YouTube-8M项目兼容，后者已发布用于数百万YouTube视频的PCA/whitened/quantized格式的音频和视觉嵌入。不过，若无需使用官方发布的AudioSet嵌入，则可直接使用网络输出的原始嵌入，无需进行PCA操作。

       本文旨在为读者提供深入理解VGGish源码的路径，通过详述模型的构建、安装与应用过程，旨在促进对模态视频分析技术的深入学习与应用。

FCOS：论文与源码解读

       FCOS：全称为全卷积单阶段目标检测，它在锚框自由领域中占有重要地位，与RetinaNet在锚框基础领域中地位相似。它沿用ResNet+FPN架构，通过实验证明，在相同backbone和neck层下，锚框自由方法可以取得比锚框基础方法更好的效果。

       FCOS借鉴了语义分割的思想，成功地去除了锚框先验，实现了逐点的目标检测，是全卷积网在目标检测领域的延伸。代码比锚框基础类简单，daseygenius源码非常适合入门。

       1. 动机

       锚框基础类目标检测方法存在多处缺点，FCOS通过去除锚框，提出了简单、温柔且有力的目标检测模型。

       2. 创新点

       FCOS借鉴了语义分割的思想，实现了去除锚框、逐点的目标检测。以年提出的全卷积网（FCN）为例，FCOS借鉴了FCN的思想，将其应用于目标检测，主要步骤包括生成先验、分配正负样本和设计bbox assigner。

       3. 模型整体结构与流程

       训练时，包括生成先验和正负样本分配。FCOS的先验是将特征图上的每一点映射回原始图像，形成逐点对应关系。分配正负样本时，正样本表示预测目标，负样本表示背景。

       3.1 训练时

       在训练阶段，先通过prior generate生成先验，然后进行bbox assign。在分配过程中，FCOS利用了FPN层解决ambigous点的问题，通过多尺度特征融合和逐层分配目标来解决。

       3.1.1 prior generate

       FCOS通过映射特征图上的每一点回原始图像，形成点对点对应关系，生成先验。通过公式计算映射关系，其中s表示步长。

       3.1.2 bbox assigne

       分配正负样本时，FCOS借鉴了anchor base方法的正负样本分配机制，通过设计bbox assigner解决ambigous点问题。分配流程包括计算输出值、对输出进行exp操作和引入可学习参数scale，以及使用FPN层分而治之，进一步解决ambigous问题。

       3.1.3 centerness

       FCOS额外预测了centerness分支，以过滤远离目标中心的点，提高检测质量。centerness值范围为0~1，越靠近中心，值越大。测试时，最终score=cls_score*centerness。openkm 源码

       3.1.4 loss

       损失函数包括focal loss、IoU loss和交叉熵损失，用于训练分类、定位和centerness分支。

       3.2 模型结构

       模型继续沿用ResNet和FPN层，进行公平比较。FPN输出的特征层与RetinaNet类似，但FCOS在FPN输出的最后一层特征层上进行额外卷积，与RetinaNet在输入特征层上进行额外卷积不同。在推理阶段，注意centerness与分类分数的乘积作为最终得分，且需要进行NMS操作。

       4. 总结与未来方向

       FCOS是一个简单、温柔、有力量的锚框自由方法，地位重要，思想借鉴于语义分割，流程类似传统目标检测，包括生成先验、正负样本匹配、bbox编码和NMS等，额外加入centerness分支以提升检测质量。

       未来，FCOS的研究方向可能包括更深入的理论分析、模型优化和跨领域应用探索。

       5. 源码

       mmdetection提供了FCOS的配置文件和代码实现，包括多个版本和改进。了解这些细节有助于深入理解FCOS的实现和优化策略。

很多C语言开源软件的源代码很难懂，要快速理解有什么技巧吗？

       阅读代码是一项重要的能力。

       你觉得技术比你弱的人拿的工资比你高，他有一项很重要的能力就是阅读代码。

       开源代码在变量命名上，注释上一定做得比较好了，你所看不懂的地方只有2种可能。

       1，编程技巧。这种比较容易弄懂，如果你对编程语言熟悉的话，一步一步展开来就知道作者想表达的意思了。（这个就像小时候学语文的语法，“把”字句改成“被”字句，意思没变，写法变了）

       2，算法。这个就算你一步一步展开都不一定能看懂，这个要有一定的数学知识，比如向量积，线性回归，微分方程，卷积等。如果是很专业的产品，还要涉及到物理，化学，电气，概率论等等。（这个就像阅读文言文，没学过就看不懂，还可能会理解错误）

       所以看不懂代码就只有提升自己的知识水平，没有捷径可走。但你可以针对性的去训练上述2条中的弱项，语言是基础，算法是核心。

       记得我第一份工作是做单片机产品维护，平时工作就是在现有的产品上改改功能代码，增加新功能。那个时候没做过什么产品，虽然也会C语言，但是看别人代码就像看天书一样，主要是技术不到家，还遇到过一些让人吐血的代码，可能是公司得罪了那个工程师，代码里没一个注释，而且变量名全是k，kk，tt这种不好理解的，简直让我想把那个工程师罚站马路中间半个小时，感觉还不如自己重写快一点，后面慢慢的积累了一些经验才发现自己当时看代码的方式和思维不对。一个源码，如果你用通过代码去理解产品功能那你一定会看到心肌梗塞都吃不透，正确的应该是先把产品功能吃透，然后把功能分模块进行分析，如果是我，我会怎么用代码去实现它？最好自己写代码做一遍，在写的过程中你一定会碰到棘手的技术点不知道该怎么去实现它，这个时候最好自己努力思考一下，最后不管你有没想出来，你再去看别人的代码是如何实现的，这样你就能一步步吃透别人的代码，至少程序架构的核心部分知道怎么处理了，剩下的细节实现其实已经无关紧要了，这是一个循环渐进的过程，也是提升自己水平很好的方法，过程越痛苦你的提升就越大。

深度语义匹配模型DSSM及其变体CNN-DSSM, LSTM-DSSM

       在研究推荐和排序算法的过程中，DSSM（深度结构语义模型）是不可或缺的一部分。本文将详细介绍DSSM及其变体CNN-DSSM和LSTM-DSSM。

       论文链接：microsoft.com/en-us/res...

       源码：github.com/baharefatemi...

       简介

       现代搜索引擎在检索文章时，通常将文章中的关键字与query中的内容进行比较。然而，这种做法存在一个问题，即文字具有多义性，同样的含义可以用多种表达方式进行表达。因此，我们需要对query和document进行语义上的相似度匹配。

       通常，我们会使用隐语义模型LSA、LDA来衡量Query和Document之间的相似性。然而，由于LSA、LDA是无监督学习的模型，这些模型的效果并不符合预期。基于隐语义模型，有两种扩展：第一种是使用BLTM结合DPM来拟合query和document之间的关系，另一种方法是采用深度模型对query和document进行自编码，但这两种方法都是无监督的方法。

       本文针对搜索场景，提出了一系列深度网络语义模型（Deep Structured Semantic Models），模型的核心思想是：首先将query和document映射到同一个低维语义空间，然后通过cosine来计算query和document之间的距离。与之前的无监督学习模型不同，DSSM使用document的点击量进行训练，因此DSSM的效果要优于其他无监督模型。

       接下来，我们来看看DSSM是如何对query和document进行处理的。

       DSSM的结构采用DNN结构，将输入的query和document转换到低维的语义空间，然后计算他们的cosine相似度。

       语义特征计算部分，首先使用DNN网络将query和document从高维的空间转换到低维的空间。对输入的query和document假设他们是x，经过转换的向量为y，[公式]表示隐藏层，[公式]分别表示隐藏层的参数和偏置。

       最后一层采用tanh函数作为激活函数。最后将query和document映射到低维向量之后，我们采用cosine计算他们的相似度。

       为了解决query和document在第一层维度非常大的问题，本文提出了word hashing的方法，来对文本进行降维。做法就是使用n-gram来表示一个词语，例如good，我们把它拆分成trigram：go goo ood od。

       为了训练DSSM，我们需要得到query和他们对应的点击的document。作者假设如果用户点击了某个document，那么这个query和document就是相关的。因此，作者认为DSSM的目标是最大化给定query所对应的document的条件似然函数。条件似然函数的计算方式为：[公式]。其中，[公式]是平滑参数，D是针对query的所有可能相关的document集合，[公式]表示和query有关的且用户点击的document。

       有了以上的介绍，我们所要最大化的条件似然函数就是[公式]。因此，loss函数就是：[公式]。文中作者采用梯度下降法来最大化loss函数。

       作者收集了现实生活中用户搜索的日志作为实验的数据集，这份数据包含条用户query，平均每条query包含条url。每一个(query, document)的相关性分为5档，分别是0~4分，得分是人工评价的。模型的排序效果通过NDCG来衡量，这是推荐系统常见的评价指标，具体就是评价推荐给用户的内容是否是用户感兴趣的，而用户的阅读习惯一般是从上到下，所以我们希望将最相关的内容排在前面，然后以此类推。

       实验效果如下，其中：首先我们可以看出DSSM的效果优于其他模型，并且L-WH DNN的效果是最好的。

       DSSM是搜索里非常经典的一个算法，在工业界也广泛被使用。而且，根据应用场景的不同，对特征处理也会有一些区别。例如，在推荐召回模块的应用中，我们的输入可能就不再是query和doc的word embedding，而是用户和推荐的物品（例如**，商品）的特征。

       本文依然是由DSSM的作者提出，在语义特征计算部分采用CNN网络，网络结构如上图所示。在词向量的表达上依然采用了word hash（不知道为啥作者对word hash这么执着）。

       不过，trigram表示不能忽略了文本的上下文信息，因此作者在word trigram的基础上增加了letter trigram。在一定的窗口大小内，对该窗口内的word进行拼接就是letter trigram，例如I have an apple，可以被拼接为 # I have, I have an, ... 以此类推。

       然后以上表示经过卷积层，max-pooling，和全连接之后得到query和doc的低维向量。最后计算相似度的时候还是cosine距离。

       本文针对CNN-DSSM无法捕捉长文本的上下文信息的缺点，引入了LSTM。同时在LSTM的cell中加入了peehole，LSTM的cell结构如上图所示。

       与传统的LSTM不同，作者在遗忘门、输入门、输出门中都考虑了[公式]，总体来说考虑的信息更丰富。

stable-diffusion-webui源码分析（）-unet网络结构

       stable-diffusion-webui的源码分析深入探讨了unet网络结构在AI绘图中的关键作用。unet在去噪过程中起着核心作用，它接收prompt特征、latent特征和时间步特征，通过下采样和上采样过程生成新的特征。稳定扩散模型的unet结构基于原始unet，并进行了定制以嵌入文本信息。在webui的实现中，关键代码位于openaimodel.py，其中包含大量的初始化参数和组件，如ResnetBlock、SpatialTransformer和DownSample等。

       模型的构建通过__init__方法进行，参数丰富，配置文件v1-inference.yaml定义了这些参数。初始化代码中，会检查输入参数的有效性，并设置一些变量。时间编码（time_embed）是一个维度的向量，通过多个MLP层生成。input_blocks部分的conv_nd是卷积层，其参数根据配置进行设置，TimestepEmbedSequential则负责传递时间信息给各个模块。

       unet的结构复杂，包括内嵌的ResBlock和SpatialTransformer模块，以及通过循环进行的下采样和上采样。每层模块的添加和参数设置都有特定条件，如基于分辨率的注意力机制。通过分析，我们看到模型如何整合时间步和文本信息，通过ResBlock处理隐变量，通过SpatialTransformer实现注意力机制。

       最后，DownSample和UpSample模块用于调整特征的空间分辨率。总的来说，unet网络结构是stable-diffusion-webui中AI绘图背后的重要技术基础，深入理解其细节对于掌握AI创作过程至关重要。

3d稀疏卷积——spconv源码剖析（五）

       介绍在构建的Rulebook指导下执行特定的稀疏卷积计算，关注于类SparseConvolution，其代码位于spconv/conv.py。

       Fsp.indice_subm_conv和Fsp.indice_conv经过spconv/functional.py中的SubMConvFunction和SparseConvFunction对象转换，最终会调用spconv/ops.py模块中的indice_conv等函数。

       专注于子流线卷积接口：indice_subm_conv，其代码位于spconv/functional.py。

       通过Python接口调用底层C++函数可能不够直观，因此使用torch.autograd.Function封装算子底层调用，该类表示PyTorch中的可导函数，具备前向推理和反向传播实现时，即可作为普通PyTorch函数使用。

       值得注意的是，Function类在模型部署中具有优势，若定义了symbolic静态方法，此Function在执行torch.onnx.export()时，可依据symbolic定义规则转换为ONNX算子。

       apply方法是torch.autograd.Function的一部分，此方法负责在前向推理或反向传播时的调度工作。通过将indice_subm_conv = SubMConvFunction.apply简化为indice_subm_conv接口，简化了算子使用，屏蔽了SubMConvFunction的具体实现。

       SubMConvFunction的前向传播方法forward调用spconv/ops.py的indice_conv函数。在src/spconv/all.cc文件中，通过PyTorch提供的OP Register对底层C++API进行注册。

       通过torch.ops.load_library加载.so文件，使用torch.ops.spconv.indice_conv调用src/spconv/spconv_ops.cc文件中的indiceConv函数。

       深入探索src/spconv/spconv_ops.cc文件中的indiceConv函数。

       代写部分代码内容...