频域变换与卷积网络结合

之所以寻找相关文章是因为Drop an Octave:...(即提出Octave)这篇文章提出它的Octave这个方法提高准确度原理是提取高低频后压缩冗余的低频信息(这篇文章很多人diss),导师看到这个后想到用频域变换的方法提取高低频,再与神经网络结合.

首先想到的是小波变换,有https://www.researchgate.net/publication/325311622_Wavelet_Convolutional_Neural_Networks此文章,目前2019年8月27日10:12:01是preprint状态,作者是东京大学的,

提出CNN是低配版的多分辨率分析(multiresolution analysis),并证明了为什么是低配版的,然后将小波变换与CNN相结合,并在纹理分类和image annotation任务上分别做了实验

网络结构图,在小波变换与神经网络连接中模仿denseNet的连接,并使用了projection shortcuts(出处为Resnet原文)

作者阐述了传统特征的一个好处:可控性强,而CNN性能很强缺更多像一个黑箱;作者证明convolution是limited form of multiresolution analysis,证明了CNN是没有characteristic hierarchical decomposition的滤波器,具体见原文;且不能训练CNN去拟合wavlet transform运算,因为CNN难以从数据里近似学习到小波变换里的滤波器不变的参数

用频域分析的方法结合CNN对比CNN能减少参数且提高准确率

===================================================

另外wavlet transform结合CNN的还有中科大的wavelet-SRNet,用于人脸超分辨率重建,好像是来源于某个人脸超分辨率重建比赛的(或者是有个比赛也有类似算法),http://openaccess.thecvf.com/content_ICCV_2017/papers/Huang_Wavelet-SRNet_A_Wavelet-Based_ICCV_2017_paper.pdf

还有这篇:https://arxiv.org/abs/1805.07071用于去噪

另外河海大学的https://ieeexplore.ieee.org/document/8601192 部件缺陷检测和中科大的http://ieeexplore.ieee.org/document/8547082偏应用点,其他应用的论文诸如此类

其他文章所用的频域分析方法也从contourlet到wavlet transform 不等,它们与CNN结合的方式也大同小异.

另外谷歌的 A Fourier Perspective on Model Robustness in Computer Vision强烈建议阅读,在频域分析的角度上看待不同图像变换方式对算法的影响

至此

猜你喜欢

转载自blog.csdn.net/ptgood/article/details/100092825