本文介绍了基于Haar小波的下采样（HWD）模块与YOLO26的结合，以解决语义分割任务中池化特征导致重要空间信息丧失的问题。HWD模块由无损特征编码模块和特征表示学习模块组成，通过Haar小波变换降低特征图空间分辨率并保留信息。我们将HWD代码集成进YOLO26， 实验显示，结合HWD的YOLO26在不同模态图像数据集上或能提高分割性能，减少信息不确定性。

文章目录： YOLO26改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

专栏链接: YOLO26改进专栏

介绍

摘要

下采样操作，如最大池化或步幅卷积，被广泛应用于卷积神经网络（CNN）中，用于聚合局部特征、扩大感受野和最小化计算开销。然而，对于语义分割任务，在局部邻域内进行池化特征可能会导致重要空间信息的丧失，而这些信息对于逐像素的预测是有帮助的。为了解决这个问题，我们引入了一种简单但有效的池化操作，称为基于Haar小波的下采样（HWD）模块。该模块可以轻松集成到CNN中，以提高语义分割模型的性能。HWD的核心思想是应用Haar小波变换来降低特征图的空间分辨率，同时尽可能保留信息。此外，为了研究HWD的优点，我们提出了一种新颖的度量标准，称为特征熵指数（FEI），用于衡量CNN下采样后的信息不确定程度。具体而言，FEI可以用来指示下采样方法在语义分割中保留关键信息的能力。我们的综合实验表明，提出的HWD模块可以（1）在不同模态图像数据集和各种CNN架构上有效提高分割性能，且（2）相比传统下采样方法，能有效减少信息不确定性。我们的实现可在https://github.com/apple1986/HWD获取。

文章链接

论文地址：论文地址

代码地址：代码地址

基本原理

Haar小波

Haar小波是一种最简单的正交小波，其基本函数由两个函数构成：尺度函数 ϕ和小波函数 ψ。具体定义如下：

1. 尺度函数ϕ0(x): $$ ϕ0(x) = \begin{cases} 1 & \text{if } 0 \leq x < 1 \ 0 & \text{otherwise} \end{cases} $$

2. 一维Haar变换的尺度函数ϕ1(x)和小波函数ψ1(x): $$ ϕ1(x) = \frac{1}{\sqrt{2}}(ϕ0(2x) + ϕ0(2x - 1)) $$ $$ ψ1(x) = \frac{1}{\sqrt{2}}(ϕ0(2x) - ϕ0(2x - 1)) $$

通过这些函数，Haar变换可以将信号分解成低频（尺度函数）和高频（小波函数）成分。对于二维信号，如灰度图像，Haar小波变换会产生四个分量：低频分量（A），以及水平（H）、垂直（V）和对角线（D）方向的高频分量 。

Haar小波降采样（HWD）

Haar小波降采样（HWD）是一种用于语义分割的降采样模块，旨在通过Haar小波变换减少特征图的空间分辨率，同时尽量保留信息。HWD模块主要由两个部分组成：

1. 无损特征编码模块：利用Haar小波变换来降低特征图的空间分辨率，同时保持所有信息。Haar小波变换是一种紧凑、二进制、正交的小波变换，广泛应用于图像编码、边缘提取和二进制逻辑设计 。

2. 特征表示学习模块：由标准的1×1卷积层、批归一化层和ReLU激活函数组成，用于提取辨别性特征。此模块调整特征图的通道数，以适应后续层，并过滤冗余信息 。

核心代码

import torch
import torch.nn as nn
from pytorch_wavelets import DWTForward

class Down_wt(nn.Module):
    def __init__(self, in_ch, out_ch):
        super(Down_wt, self).__init__()
        # 定义离散小波变换 (DWT) 前向操作
        self.wt = DWTForward(J=1, mode='zero', wave='haar')
        # 定义卷积、批归一化和ReLU的组合
        self.conv_bn_relu = nn.Sequential(
            nn.Conv2d(in_ch * 4, out_ch, kernel_size=1, stride=1),  # 1x1卷积层，输入通道数为in_ch*4，输出通道数为out_ch
            nn.BatchNorm2d(out_ch),  # 批归一化层
            nn.ReLU(inplace=True),  # ReLU激活函数
        )

    def forward(self, x):
        # 对输入进行小波变换
        yL, yH = self.wt(x)  # yL是低频分量，yH是高频分量
        y_HL = yH[0][:, :, 0, ::]  # 获取高频分量中的水平细节分量
        y_LH = yH[0][:, :, 1, ::]  # 获取高频分量中的垂直细节分量
        y_HH = yH[0][:, :, 2, ::]  # 获取高频分量中的对角细节分量
        # 将低频分量和所有高频分量在通道维度上拼接
        x = torch.cat([yL, y_HL, y_LH, y_HH], dim=1)  
        # 通过卷积、批归一化和ReLU组合
        x = self.conv_bn_relu(x)

        return x  # 返回处理后的输出

实验

脚本

import warnings
warnings.filterwarnings('ignore')
from ultralytics import YOLO

if __name__ == '__main__':
#     修改为自己的配置文件地址
    model = YOLO('./ultralytics/cfg/models/26/yolo26-HWD.yaml')
#     修改为自己的数据集地址
    model.train(data='./ultralytics/cfg/datasets/coco8.yaml',
                cache=False,
                imgsz=640,
                epochs=10,
                single_cls=False,  # 是否是单类别检测
                batch=8,
                close_mosaic=10,
                workers=0,
                optimizer='MuSGD',  
                # optimizer='SGD',
                amp=False,
                project='runs/train',
                name='yolo26-HWD',
                )

结果