U-Net++

U-Net++是亚利桑那州立大学在读博士生周纵苇于2018年发表的论文,是以U-Net为基础进行魔改的网络结构,结构相当之有趣。

为了减少语义差别,U-Net++在U-Net的直接连接的基础之上增加了类似于Dense结构的卷积层,并融合了下一阶段卷积的特征。

在每个阶段都应用于上述策略,则可以得到完整的U-Net++结构。

多分支网络,每个分支都有其对应的loss函数,然后全局的loss由分支的损失函数加权累加而成。

U-Net++让应用者在网络的速度和精度进行权衡。

怎么进行速度和精度进行权衡呢?答案就是:剪枝

而完整的U-Net++网络中的loss就是将以上四个小网络的loss进行叠加。这样等同于同时训练四个网络。

  • 要提升分割速度,只需要把L4、L3、L2网络逐个剪枝就行了。
  • 要提升精度的话,只需要选用适当深度的U-Net++网络即可。

研习U-Net - 知乎Author:Zongwei Zhou | 周纵苇Weibo:@MrGiovanniEmail:[email protected] paper (发表于DLMIA):UNet++: A Nested U-Net Architecture for Medical Image SegmentationJournal paper (发表于IEEE TMI)…https://zhuanlan.zhihu.com/p/44958351

  •  U-Net++的嵌套结构就相当对应小学(L1)、初中(L2)、高中(L3)、大学(L4)学的数学知识。每个结构都包含了更小的结构,比如大学(L4)包含了高中(L3),其实也包含了初中(L2)和小学(L1)
  • “剪枝”那部分,对于U-Net++训练中的反向传播,相当于你学到后面的知识会影响你前面学过的知识,比如在大学(L4)学的线性代数,会帮助你理解初中(L2)学了但是没学好的方程组;而当U-Net++进行测试的时候(即只有前向传播),因为L2和L4的精度差不多,但L4会花更多的时间,所以用L2就能解决问题。对应到前面的例子中就是对于求解多个未知数,可以只用 初中的方程组就能搞定,无需用上大学线代中的矩阵知识了。所以,训练的时候不能剪枝,但预测的时候可以剪枝!
  • 4层不一定是最好的;将浅层特征和深层特征联系起来;剪枝;

猜你喜欢

转载自blog.csdn.net/weixin_46720482/article/details/125253585