膨胀卷积 / 空洞卷积(Dilated convolution)
视频学习链接:[]
1. 认识膨胀卷积
r 为间隙,r = 1 时,就是普通卷积
2. 为什么要使用空洞卷积
提出原因:
(1)maxpooling层,会降低特征层的高度和宽度,同时会导致丢失细节信息以及较小目标,丢失的信息和目标无法通过上采样操作进行还原。
(2)如果将maxpooling层去掉,会导致得到的特征图所对应原图的感受野变小
此时选用膨胀卷积,能够:
(1)增大感受野
(2)保持原输入特征图的高度和宽度
3. gridding effect 问题
(1)方法一 ---- 都使用膨胀率 r = 2
layer2 能利用layer1 的像素数量
数字代表像素点被利用的次数
(2)方法二 ---- 膨胀率依次使用 r = 1 , r = 2 , r = 3
感受野为 13 x 13
(3)方法三 ---- 三层都使用普通卷积
感受野为 7x7
(4)结论
偏向于使用方法二,来解决gridding effect 问题
4. HDC ---- 使用多个膨胀卷积时,设计膨胀率 r 的方法
设计原则为最后一位 Mn =rn ,设计原则是 M2 <= K
如
(1)卷积核大小为 3 *3 , 膨胀率为【1,2,5】
则:M3 = r3 = 5 , K = 3
计算:M2 = max【 M3 - 2r2 ,M3 - 2(M3 - r2),r2】= max 【1,-1,2】 = 2
(M2=2) <= (K=3) ,即膨胀率设计合理
(2)卷积核大小为 3 *3 , 膨胀率为【1,2,9】
则:M3 = r3 = 9 , K = 3
计算:M2 = max【 M3 - 2r2 ,M3 - 2(M3 - r2),r2】= max 【5,-5,2】 = 5
(M2=5) > (K=3) ,即膨胀率设计不合理
注意:
r1 = 1,都为从 1 开始的
原因:高层特征图利用底层特征图所有区域的像素特征,需要 M1 = 1,则必须取 r = 1
5. HDC ---- 使用多个膨胀卷积时:
①锯齿结构
②公约数不大于1
6. HDC ---- 效果展示:
膨胀卷积 / 空洞卷积(Dilated convolution)
视频学习链接:[]
1. 认识膨胀卷积
r 为间隙,r = 1 时,就是普通卷积
2. 为什么要使用空洞卷积
提出原因:
(1)maxpooling层,会降低特征层的高度和宽度,同时会导致丢失细节信息以及较小目标,丢失的信息和目标无法通过上采样操作进行还原。
(2)如果将maxpooling层去掉,会导致得到的特征图所对应原图的感受野变小
此时选用膨胀卷积,能够:
(1)增大感受野
(2)保持原输入特征图的高度和宽度
3. gridding effect 问题
(1)方法一 ---- 都使用膨胀率 r = 2
layer2 能利用layer1 的像素数量
数字代表像素点被利用的次数
(2)方法二 ---- 膨胀率依次使用 r = 1 , r = 2 , r = 3
感受野为 13 x 13
(3)方法三 ---- 三层都使用普通卷积
感受野为 7x7
(4)结论
偏向于使用方法二,来解决gridding effect 问题
4. HDC ---- 使用多个膨胀卷积时,设计膨胀率 r 的方法
设计原则为最后一位 Mn =rn ,设计原则是 M2 <= K
如
(1)卷积核大小为 3 *3 , 膨胀率为【1,2,5】
则:M3 = r3 = 5 , K = 3
计算:M2 = max【 M3 - 2r2 ,M3 - 2(M3 - r2),r2】= max 【1,-1,2】 = 2
(M2=2) <= (K=3) ,即膨胀率设计合理
(2)卷积核大小为 3 *3 , 膨胀率为【1,2,9】
则:M3 = r3 = 9 , K = 3
计算:M2 = max【 M3 - 2r2 ,M3 - 2(M3 - r2),r2】= max 【5,-5,2】 = 5
(M2=5) > (K=3) ,即膨胀率设计不合理
注意:
r1 = 1,都为从 1 开始的
原因:高层特征图利用底层特征图所有区域的像素特征,需要 M1 = 1,则必须取 r = 1
5. HDC ---- 使用多个膨胀卷积时:
①锯齿结构
②公约数不大于1