深度可分离卷积：走向网络轻量化-FlyAI

深度可分离卷积：走向网络轻量化

深度学习机器学习 PyTorch

最后更新 2021-07-06 13:47 阅读 9186

最后更新 2021-07-06 13:47

阅读 9186

深度学习机器学习 PyTorch

# 分组卷积(Group Convolution)
分组卷积将输入特征图进行分组，分别对每组的特征图进行卷积操作，得到输出的特征图，最后再将每组卷积后得到的特征图拼接在一起，就完成了整个卷积操作。

在PyTorch中，输入特征图个数与输出特征图个数需要能够被分组数整除。因为输出特征图个数需要均摊给每一组。比如输入特征图个数为X，输出特征图个数为Y，分组数为g，且g可整除X和Y，那么每一组的输入特征图个数为X/g，输出特征图个数为Y/g，总的输出特征图个数为(Y/g)\*g=Y

假设输入特征图个数为6，卷积核尺寸为3\*3，输出特征图个数为10，不考虑偏置项。以下操作基于本例：

### 普通卷积：
当分组数为1时，就是普通的卷积
```python
import torch
import torch.nn as  nn
from torchsummary import summary
class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv=nn.Conv2d(in_channels=6,out_channels=10,kernel_size=3,groups=1,bias=False)
    def forward(self,x):
        return self.conv(x)
model=Model()
```
查看参数量：
![](https://files.mdnice.com/user/9784/168cad32-84aa-4619-bbd3-2c7182068f42.png)

参数量计算方法：
```
1*(3*3*(6/1))*(10/1)=540
1是分组数
3*3是卷积核尺寸
6是输入特征图个数
10是输出特征图个数
```

### 分组卷积：
当分组数不为1时，就是分组卷积
```python
import torch
import torch.nn as  nn
from torchsummary import summary
class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv=nn.Conv2d(in_channels=6,out_channels=10,kernel_size=3,groups=2,bias=False)
    def forward(self,x):
        return self.conv(x)
model=Model()
```
查看参数量：
![](https://files.mdnice.com/user/9784/956c81b9-cbee-439e-9f21-6fef347cf9e0.png)

参数量计算方法：
```
2 * ((3*3*(6/2))*((10/2)))=270
2是分组数
3*3是卷积核尺寸
6是输入特征图个数
10是输出特征图个数
```

可以看到，我们分了两组，参数量也减半。

# 深度可分离卷积(Depthwise Separable Convolution)
深度可分离卷积包含两个步骤：**逐通道卷积**和**逐点卷积**。

假设输入特征图个数为6，卷积核尺寸为3*3，输出特征图个数为12，不考虑偏置项。以下操作基于本例：

### 逐通道卷积(Depthwise Convolution)
当分组卷积的分组数=输入特征图个数=输出特征图个数时，就得到了逐通道卷积：
```python
import torch
import torch.nn as  nn
from torchsummary import summary
class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv=nn.Conv2d(in_channels=6,out_channels=6,kernel_size=3,groups=6,bias=False)
    def forward(self,x):
        return self.conv(x)
model=Model()
```
查看参数量：
![](https://files.mdnice.com/user/9784/41f791a2-a267-41e6-99e4-f093238e86d1.png)

参数量计算方法：
```
6 * ((3*3*(6/6))*((6/6)))=54
6是分组数，等于输入特征图个数
3*3是卷积核尺寸
6是输入特征图个数,也是输出特征图个数
```

### 逐点卷积(Pointwise Convolution)
逐点卷积就是普通的1\*1卷积（分组数为1）
```python
import torch
import torch.nn as  nn
from torchsummary import summary
class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv=nn.Conv2d(in_channels=6,out_channels=12,kernel_size=1,groups=1,bias=False)
    def forward(self,x):
        return self.conv(x)
model=Model()
```
查看参数量：
![](https://files.mdnice.com/user/9784/6b803149-a06f-4d81-877c-9a8e4d245b34.png)

参数量计算方法：
```
1 * ((1*1*(6/1))*((12/1)))=72
1是分组数，等于输入特征图个数
1*1是卷积核尺寸
6是输入特征图个数
12是输出特征图个数
```
至此，逐通道卷积与逐点卷积的参数量之和为：54+72=126

深度可分离卷积可以描述为：
```python
import torch
import torch.nn as  nn
from torchsummary import summary
class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.depthwise_conv=nn.Conv2d(in_channels=6,out_channels=6,kernel_size=3,groups=6,bias=False)#groups=in_channels=out_channels
        self.pointwise_conv=nn.Conv2d(in_channels=6,out_channels=12,kernel_size=1,groups=1,bias=False)
    def forward(self,x):
        return self.pointwise_conv(self.depthwise_conv(x))
model=Model()
```
查看参数量：
![](https://files.mdnice.com/user/9784/5ba173ec-7b67-4c32-8e9b-77bdf59e1ce2.png)

参数量也是54+72=126

由此可见，深度可分离卷积正是逐通道卷积与逐点卷积的叠加。

### 普通卷积
```python
import torch
import torch.nn as  nn
from torchsummary import summary
class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv=nn.Conv2d(in_channels=6,out_channels=12,kernel_size=3,groups=1,bias=False)
    def forward(self,x):
        return self.conv(x)
model=Model()
```
查看参数量：
![](https://files.mdnice.com/user/9784/2e08ac27-8cb6-4b39-828b-37a592b4fc76.png)

参数量计算方法：
```
1 * ((3*3*(6/1))*((12/1)))=648
1是分组数
3*3是卷积核尺寸
6是输入特征图个数
12是输出特征图个数
```
看，输出特征图个数一样的前提下，普通卷积的参数量远多于深度可分离卷积。

正因为深度可分离卷积的参数量较少，使得它在轻量化网络中得到了广泛应用，有时间可以盘点下这些轻量化网络。

参考：
- [1] https://zhuanlan.zhihu.com/p/92134485
- [2] https://pytorch.org/docs/stable/generated/torch.nn.Conv2d.html

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可，转载请附上原文出处链接和本声明。
本文链接地址：https://flyai.com/article/947

讨论

500字

表情

发送

删除确认

是否删除该条评论？

取消删除