基于深度学习的图像压缩感知算法综述

聂冠雄，周亚建**

（北京邮电大学网络空间安全学院，北京，100876）

2.02.02.02.02.0School of Cyberspace Security,Beijing University of Posts and Telecommunications,Beijing,100876；School of Cyberspace Security,Beijing University of Posts and Telecommunications,Beijing,100876北京邮电大学网络空间安全学院，北京，100876;北京邮电大学网络空间安全学院，北京，100876100876;10087618811749186;1391168528518811749186;13911685285北京市海淀区西土城路10号 北京邮电大学;北京市海淀区西土城路10号 北京邮电大学ngx@bupt.edu.cn; yajianzhou@163.com聂冠雄（1996-），男，主要研究方向：大数据与智能信息处理;周亚建（1971-），男，副教授，主要研究方向：移动通信和网络安全聂冠雄;周亚建Nie Guanxiong;Zhou Yajian周亚建 2.02.02.02.02.02.02.02.02.02.02.02.02.02.02.01*|*期刊*|*D.L. Donoho, Compressed sensing[J]. IEEE Transactions on Information Theory,2006,52(4):1289-1306.<CR>2*|*期刊*|*Y. Tsaig and D.L. Donoho, Extensions of compressed sensing[J]. Signal Processing.2006,86(3):553-548.<CR>3*|*期刊*|*Candes E. Compressive sampling[C]//Proc of the Int Congress of Mathematicians. Madrid,2006,3:1433-1452.<CR>4*|*期刊*|*E. J. Candes, M. B. Wakin. An introduction to compressive sampling[J]. IEEE Signal Processing Magazine, 2008,25(2): 21-30<CR>5*|*期刊*|*Chen S, Donoho D. Basis pursuit[C]//Proceedings of 1994 28th Asilomar Conference on Signals, Systems and Computers. IEEE, 1994, 1: 41-44.<CR>6*|*期刊*|*Chen S S, Donoho D L, Saunders M A. Atomic decomposition by basis pursuit[J]. SIAM review, 2001, 43(1): 129-159.<CR>7*|*期刊*|*Figueiredo M A T, Nowak R D, Wright S J. Gradient projection for sparse reconstruction: Application to compressed sensing and other inverse problems[J]. IEEE Journal of selected topics in signal processing, 2007, 1(4): 586-597.<CR>8*|*期刊*|*Daubechies I, Defrise M, De Mol C. An iterative thresholding algorithm for linear inverse problems with a sparsity constraint[J]. Communications on Pure and Applied Mathematics: A Journal Issued by the Courant Institute of Mathematical Sciences, 2004, 57(11): 1413-1457.<CR>9*|*期刊*|*Do T T, Gan L, Nguyen N, et al. Sparsity adaptive matching pursuit algorithm for practical compressed sensing[C]//2008 42nd Asilomar Conference on Signals, Systems and Computers. IEEE, 2008: 581-587.<CR>10*|*期刊*|*Tropp J A, Gilbert A C. Signal recovery from random measurements via orthogonal matching pursuit[J]. IEEE Transactions on information theory, 2007, 53(12): 4655-4666.<CR>11*|*期刊*|*Donoho D L, Tsaig Y, Drori I, et al. Sparse solution of underdetermined systems of linear equations by stagewise orthogonal matching pursuit[J]. IEEE transactions on Information Theory, 2012, 58(2): 1094-1121.<CR>12*|*期刊*|*Mousavi A, Patel A B, Baraniuk R G. A deep learning approach to structured signal recovery[C]//2015 53rd annual allerton conference on communication, control, and computing (Allerton). IEEE, 2015: 1336-1343.<CR>13*|*期刊*|*Candes E J. The restricted isometry property and its implications for compressed sensing[J]. Comptes rendus mathematique, 2008, 346(9-10): 589-592.<CR>14*|*期刊*|*Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[J]. Communications of the ACM, 2017, 60(6): 84-90.<CR>15*|*期刊*|*He K, Gkioxari G, Dollár P, et al. Mask r-cnn[C]//Proceedings of the IEEE international conference on computer vision. 2017: 2961-2969.<CR>16*|*期刊*|*Ren S, He K, Girshick R, et al. Faster r-cnn: Towards real-time object detection with region proposal networks[J]. IEEE transactions on pattern analysis and machine intelligence, 2016, 39(6): 1137-1149.<CR>17*|*期刊*|*Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. arXiv preprint arXiv:1409.1556, 2014.<CR>18*|*期刊*|*Kulkarni K, Lohit S, Turaga P, et al. Reconnet: Non-iterative reconstruction of images from compressively sensed measurements[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2016: 449-458.<CR>19*|*期刊*|*Danielyan A, Katkovnik V, Egiazarian K. BM3D frames and variational image deblurring[J]. IEEE Transactions on Image Processing, 2011, 21(4): 1715-1728.<CR>20*|*期刊*|*Lyu M, Wang W, Wang H, et al. Deep-learning-based ghost imaging[J]. Scientific reports, 2017, 7(1): 1-6.<CR>21*|*期刊*|*Mousavi A, Baraniuk R G. Learning to invert: Signal recovery via deep convolutional networks[C]//2017 IEEE international conference on acoustics, speech and signal processing (ICASSP). IEEE, 2017: 2272-2276.<CR>22*|*期刊*|*He K, Zhang X, Ren S, et al. Deep residual learning for image recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2016: 770-778.<CR>23*|*期刊*|*Yao H, Dai F, Zhang S, et al. Dr2-net: Deep residual reconstruction network for image compressive sensing[J]. Neurocomputing, 2019, 359: 483-493.<CR>24*|*期刊*|*Shi W, Jiang F, Liu S, et al. Image compressed sensing using convolutional neural network[J]. IEEE Transactions on Image Processing, 2019, 29: 375-388.<CR>25*|*期刊*|*Courbariaux M, Hubara I, Soudry D, et al. Binarized neural networks: Training deep neural networks with weights and activations constrained to+ 1 or-1[J]. arXiv preprint arXiv:1602.02830, 2016.<CR>26*|*期刊*|*Iliadis M, Spinoulas L, Katsaggelos A K. Deepbinarymask: Learning a binary mask for video compressive sensing[J]. arXiv preprint arXiv:1607.03343, 2016.<CR>27*|*期刊*|*Sun B, Feng H, Chen K, et al. A deep learning framework of quantized compressed sensing for wireless neural recording[J]. IEEE Access, 2016, 4: 5169-5178.<CR>28*|*期刊*|*Nguyen D M, Tsiligianni E, Deligiannis N. Deep learning sparse ternary projections for compressed sensing of images[C]//2017 IEEE Global Conference on Signal and Information Processing (GlobalSIP). IEEE, 2017: 1125-1129.基于深度学习的图像压缩感知算法综述|Summary of Image Compressed Sensing Algorithms Based on Deep Learning||1|聂冠雄|Nie Guanxiong|北京邮电大学网络空间安全学院，北京，100876|School of Cyberspace Security,Beijing University of Posts and Telecommunications,Beijing,100876|聂冠雄（1996-），男，主要研究方向：大数据与智能信息处理|北京市海淀区西土城路10号 北京邮电大学|100876|ngx@bupt.edu.cn|18811749186|18811749186<CR>*|2|周亚建|Zhou Yajian|北京邮电大学网络空间安全学院，北京，100876|School of Cyberspace Security,Beijing University of Posts and Telecommunications,Beijing,100876|周亚建（1971-），男，副教授，主要研究方向：移动通信和网络安全|北京市海淀区西土城路10号 北京邮电大学|100876| yajianzhou@163.com|13911685285|13911685285

摘要：近年来，压缩感知理论突破了Nyquist采样频率的限制，为信号处理领域带来了革命性的变化。随着各领域数据的海量增长，压缩感知理论可以极大程度上缓解大量图像数据的获取与传输带来的硬件压力，因此，探索压缩感知的概念及其在图像处理领域中的应用非常重要且必要。本文讨论了压缩感知的基本概念以及在压缩感知中结合深度学习方法算法的优势，介绍了典型模型的网络结构与特点，并介绍了提高方法硬件适用性的离散化采样矩阵压缩感知方法研究进展。最后分析与总结了基于深度学的图像压缩感知算法领域的研究趋势。

关键词：压缩感知；深度学习；采样矩阵；重建算法；

中图分类号：G623.58

Summary of Image Compressed Sensing Algorithms Based on Deep Learning

Nie Guanxiong, Zhou Yajian

(School of Cyberspace Security,Beijing University of Posts and Telecommunications,Beijing,100876)

Abstract: In recent years, compressed sensing theory has broken through the limitation of Nyquist sampling frequency and brought revolutionary changes to the field of signal processing. With the massive growth of data in various fields, compressed sensing theory can greatly ease the hardware pressure caused by the acquisition and transmission of large amounts of image data. Therefore, it is very important to explore the concept of compressed sensing and its application in the field of image processing. necessary. This article discusses the basic concepts of compressed sensing and the advantages of combining deep learning algorithms in compressed sensing, introduces the network structure and characteristics of typical models, and introduces the research progress of discrete sampling matrix compressed sensing methods to improve the applicability of the method hardware. Finally, it analyzes and summarizes the research trends in the field of image compression sensing algorithms based on depth science.

Key words: compressed sensing; deep learning; sampling matrix; reconstruction algorithm;

引言

随着数字媒体时代和社交网络时代的到来，以数字信号为代表的各类信息激增。而从现实世界的模拟信号到数字信号的转变过程称之为数字信号采样。根据奈奎斯特采样定理：为了不失真的恢复模拟信号，采样频率应该不低于模拟信号频谱中最高频率的两倍。为解决这种高频率、高维度数据带来的挑战，压缩感知理论应运而生。

2006年E.J.Candes、J.Romberg、T.Tao和D.L.Donoho等科学家提出的压缩感知理论（Compressive Sensing，CS）[1-3]，该理论可以在信号是稀疏的或在某些变化域是稀疏的，便可以通过一个与稀疏基不相关的采样矩阵将信号从高维空间投影到低维空间，进而实现远低于奈奎斯特采样频率对信号采样。并且可以高概率完全重建原信号。该技术改变传统先采样再压缩的方式，在采样的同时完成对数据的“压缩”，既降低对传感器的高频技术要求、又能节约数据存储资源和传输带宽，为信号处理领域带来革命性变化[4]。

近年来，深度学习技术在各个领域都取得了突破性的进展。特别地，许多基于深度学习的工作在多种图像复原问题上均以较低的计算复杂度获得比传统方法更好的图像或视频重建质量。同样的，SDA第一次将深度学习也被引入了图像压缩感知算法中，并取得了令人振奋的效果，开启了新的方向。

基于深度学习的压缩感知方法，可以通过数据驱动的方式学习图像的深层结构特征，并且放宽了原始图像或信号的稀疏性先验假设。通过梯度下降的方法自适应的调整网络权重，调高压缩感知效果，可以在低采样比（高压缩率）的条件下，显著地提升恢复质量。

本文在结合传统的图像压缩感知算法的基础上，介绍了3种主要的基于深度学习的图像压缩感知算法得最新研究进展，并对基于深度学习的图像压缩感知算法在编码端的硬件友好性与如何在解码端更好地恢复图像的研究进展及趋势进行了总结。

压缩感知基本理论

经典压缩感知理论的基础是图像信号是否在某个变化域是稀疏的。如果一个信号在某一变化域中是稀疏的，那么它可以通过线性的方式进行采样将原始图像信号投影到某个低维空间，并通过一个非线性的恢复过程从较少的采样数据中以高概率精确地重建原始图像信号。其中，线性测量值的获取过程可以表示为：

（1）

其中，是原始的输入信号，是采样矩阵，其中，是我们得到的观测向量，因此压缩率。由于将信号投影到低维空间会损失信息，而损失过多的信息将导致信号无法被重建。因此，采样矩阵往往需要满足有限等距性质（Restricted Isometry Property, RIP）的约束，使其投影时能包含足够的信息进行重建。

另外，x的物理意义是自然图像，但是稀疏的自然图像则代表大部分的值为0，其物理表现为图像整体是黑色的，因此自然图像本身一般并不是稀疏的。而自然图像往往具有大量的冗余信息，因此自然图像能够在某个变换域内被稀疏表示。为能够准确地从测量值y中重建原信号，需首先对图像信号x投影到某个域内使其稀疏，即：

（2）

其中如果有K个非零系数，我们称为K阶稀疏的，而为稀疏表示矩阵。而常见的稀疏变化方式有DCT变化、傅里叶变换、小波变化等。

对于非线性的恢复过程，基于原始图像信号可以被稀疏表示的先验，其数学模型可以表示为：

（3）

通过观测值y与两个已知的矩阵，求解公式（3），我们可以获得到原始图像信号的稀疏表示值。最后，通过公式（2）获取重建的图像信号x。但是由于且，此方程有无数个解，0范数的优化又是NP-hard问题，因此求解公式（3）也是个NP-hard的欠定问题。

求解这个NP-hard的欠定问题传统常见的方法通过将NP-hard的范数最小优化问题松弛转化为凸优化的范数最小优化问题；或使用贪婪策略通过迭代的方式每次选择能使结果最稀疏的贪心迭代方法。

传统压缩感知方法

凸松弛求解方法

其中基追踪算法（basis pursuit, BP）[5-6]是压缩感知重建算法中最常用的凸松弛优化方法。松弛求解方法是将公式（3）中的范数最小优化问题松弛转化为凸优化的范数最小优化问题以获取一个近似解。其具体是通过将公式（3）转化为：

（4）

虽然将问题转化为了凸优化问题，但是BP算法具有很高的计算复杂度。为降低其计算复杂度，也有多种其他比较具有代表性的凸松弛求解方法被提出，如梯度投影稀疏重建法（Gradient Projection for Sparse Reconstruction, GPSR）[7]以及迭代阈值法（Iterative Soft Thresholding Algorithm, ISTA）[8]。

然而凸松弛求解方法依旧被计算复杂度高而困扰。为进一步降低计算复杂度，一些属于贪婪迭代方式的压缩感知重建算法也被提出。

匹配追踪算法

贪婪求解的压缩感知重建算法是以匹配追踪算法（Matching Pursuit, MP）[9]为代表的。匹配追踪算法是使用贪心策略，在每次迭代时通过计算当前目标与原子的内积，选择能使原子个数尽可能少，重构误差尽可能小的原子，逐步逼近原始信号。类似的方法还有正交匹配追踪（Orthogonal Matching Pursuit, OMP）[10]、分段正交匹配追踪（Stagewise Orthogonal Matching Pursuit，StOMP）[11]等。此类算法也都是在匹配追踪算法基础上进行改进。正交匹配追踪算法对原子进行正交化处理，提高收敛速度；分段正交匹配追踪则每次可以选择多个原子。这类方法与凸松弛求解方法相比虽然很大程度上降低了算法的复杂性提高了重建效率，但是却牺牲了重建质量。

基于深度学习的压缩感知方法

近年来，深度学习在学术界与工业界都取得了令人瞩目的成果。随着计算能力和其处理复杂任务能力的提高，深度学习的方法也被应用于压缩感知之中。深度学习采用数据驱动的方法，通过自适应调整网络权重来学习信号的特征和实际信号的具体结构。在GPU硬件的并行计算技术支持下，基于深度学习的压缩感知重建算法可以仅通过正向传播的方式减少了传统算法的多次迭代过程，可以实现图像压缩感知的实时处理。

基于全连接的压缩感知方法

在2015年，Mousavi等人首次将深度学习与压缩感知相结合，提出了一种基于自编码器的堆叠去噪自编码器（Stacked Denoising Autoencoder, SDA)[12]用于捕获特定信号不同元素之间的统计相关性，从而提高重建信号的质量。该框架包含两种模型，以是否支持线性采样相区别。

在图1 a中，首先对原始的输入信号x采用满足有限等距性质（Restricted Isometry Property, RIP）[13]的传统采样矩阵进行采样，再将采样后的结果输入到由三层降噪自编码器堆叠组成的解码端进行重建。采用非线性采样SDA的网络结构如图1 b，非线性采样的方式采用了端到端的方式构建了4层的SDA网络。与线性测量不同的是，该网络没有将压缩采样后的信号作为输入，而是直接将原始图像信号作为输入，采用一个全连接的隐藏层完成信号采样。在解码端采用了与图1 a相同的结构。

图1 线性与非线性采样SDA

Fig. 1 Linear and non-linear sampling SDA

使用SDA进行压缩感知重建不仅重建效果已经能达到传统优秀压缩感知算法的水平，而且在重建所需消耗的时间上也显示出非常明显的优势。但是其仍然存在一些问题，由于网络采用全连接层作为基本模块，带来了过多的冗余连接。这导致了网络非常容易过拟合，并且当输入的图像信号维度较高时，采样模块将占用大量的内存空间，不利于采样矩阵的硬件实现。

基于卷积与残差连接的压缩感知方法

相对于全连接网络，卷积神经网络（Convolutional Neural Network, CNN）[14]通过参数共享机制与局部特征融合等机制，在降低了参数数量的同时又增强了模型的表达能力。因此CNN在过去几年在图像分割[15]、目标检测[16]和目标分类[17]等领域获得了广泛的研究与应用。

Kuldeep Kulkarni等人首次将压缩感知与CNN结合，提出了基于卷积神经网络的非迭代分块压缩感知重建网络ReconNet [18]，并在文中提出ReconNet的目标在于实现一个非迭代的、快速的压缩感知重建算法，因此ReconNet本身并不包含采样模块，而是先采用随机高斯矩阵对图像信号进行分块压缩采样；然后将测量值输入到一个由全连接层构成的上采样模块将输入升维到，最后通过由多个卷积层堆叠构成的图像增强模块。以此获得每个图像块的重建，然后将各个图像块拼接，得到重建结果。由于分块压缩与重建，重建图像会出现很强的块效应，即块与块之间有明显的边缘效应。为降低块效应，ReconNet会对重建图像额外使用一个去噪器降低块效应，原文中使用的是BM3D[19]算法。借此实现重建图像质量的进一步提升。

自ReconNet被提出以来，吸引了大量学者的目光。为进一步优化网络的结构，提升压缩感知的重建质量。Lyu Meng等人在2017年将深度学习和鬼成像重建算法结合，构建了深度神经网络模型，有效的提高重建图像的质量[20]。同在2017年，Mousavi等人提出了Deeplnverse[21]网络，旨在解决数据在固定的变化基下不完全稀疏和传统重建精度高的算法收敛慢的问题。Yao等人为进一步提升ReconNet，将ReconNet与ResNet[22]的残差思想相结合，提出了Dr2-Net[23]。Shi W等人提出CSNet[24]，CSNet采用深度残差卷积神经网络对图像进行采样与重建，构建了具有压缩采样、初始重建、深度重建的三段式网络结构。如图2所示CSNet提供了端到端（end-to-end）的网络结构，可以将采样网络与重建网络联合的优化。CSNet的压缩采样模块可以自适应的从图像信号的训练集中学习到采样矩阵，自适应的学习可以使通过该采样矩阵获得的测量值保留更多的图像结构化信息，进而更好地完成图像信号的重建工作。与SDA不同的是，使用了卷积层作为采样模块而不是全连接层，并为能够兼容传统压缩感知的线性采样，没有添加偏置单元（Bias Unit）与激活函数。

图2 CSNet网络结构示意图

Fig. 2 CSNet network structure diagram

CSNet的解码端由初始重建模块与深度重建模块联合组成。初始重建模块负责将由分块采样获得的测量值初始恢复为图像块并重新拼接为初始恢复。深度重建模块将初始恢复作为输入，由多个基于残差连接与卷积层的基本块堆叠构成。通过此CSNet提供了领先的图像重建质量，同时能够实现快速运行。

采样矩阵离散化的压缩感知方法

压缩感知的一个重要应用是压缩成像，其需要在硬件上实现利用采样矩阵进行压缩采样。而压缩感知系统可以抽象为编码端与解码端两个部分。编码端常应用在计算资源与存储资源甚至电力资源都受限的传感器中；解码端一般处于硬件资源与能源丰富的数据中心。因此，这就要求采样矩阵是一个易于硬件实现和存储的可以降低运算压力的硬件友好型矩阵。

为了实现采样矩阵的高效存储与快速编码，M. Iliadis等人将模型压缩领域的二值化神经网络（Binary Neural Network, BNN）[25]与压缩感知相结合，提出DeepBinary-Mask[26]。DeepBInary-Mask将需32bit存储的浮点数转化为仅需符号位与数值位的2bit二值化数大大降低了矩阵的物理大小，另外由于+1与-1的特殊性，也将浮点数乘法转化为了加法与减法，降低了计算难度。Sun B等人提出BW-NQ-DNN[27]，BW-NQ-DNN由一个二进制测量矩阵、一个非均匀量化器和一个非迭代恢复解算器组成。CSNet[24]也提出在训练过程中将权值二值化，提出分别由{0,1}与{-1, +1}组成的两种二值化矩阵，其中由{0,1}组成的矩阵可以仅用1bit进行存储，进一步降低了存储压力。

其中，将由{0,1}组成的二值化函数定义为：

（5）

由{-1,+1}组成的二值化函数定义为：

（6）

同时二值化带来的精度损失是巨大的，为在精度与硬件适用性间取得平衡，Nguyen D M等人[28]提出由{-1,0,+1}组成的三值化网络，即在二值化网络的基础上，对网络权重进行稀疏化。0的加入可以进一步将乘法消除，在不显著影响矩阵存储大小的基础上进一步降低了计算复杂度，并提升了表达能力。

总结与展望

本文主要介绍了压缩感知的概念、传统基于迭代的重建方法与基于深度学习的压缩感知方法。传统压缩感知方法采样矩阵往往需要人工设计，而重建方法时间复杂度高，不能适用于实时性较强的应用。基于深度学习的压缩感知方法，由数据驱动，在编码端可以自适应的获取采样矩阵，在解码端具有准实时性，重建效果好的优点，已经成为了压缩感知领域火热的研究方向。

本文认为基于深度学习的压缩感知方法的研究趋势主要有以下几个方面：

采样矩阵的硬件适用性。针对编码端往往是存储空间、计算资源与电力能源受限的硬件设备。应降低采样矩阵的存储大小与采样复杂度的基础上，获取与全精度采样矩阵有竞争力的重建结果。

块压缩感知重建后的块效应。块压缩感知方法虽然提高编码端的了采样效率，但是分块采样会给重建结果带来明显的边缘效应，进而给解码端带来压力，解码端需降低块效应，进一步提高重建质量。

基于深度学习的压缩感知模型泛化性问题。深度学习的模型往往存在某种程度的过拟合问题。因此往往在自然图像领域重建效果较好的模型，在卡通图像数据集上的重建效果会大打折扣，如何提高深度压缩感知模型的泛化性是趋于解决的问题。

[参考文献] (References)

[1] D.L. Donoho, Compressed sensing[J]. IEEE Transactions on Information Theory,2006,52(4):1289-1306.
[2] Y. Tsaig and D.L. Donoho, Extensions of compressed sensing[J]. Signal Processing.2006,86(3):553-548.
[3] Candes E. Compressive sampling[C]//Proc of the Int Congress of Mathematicians. Madrid,2006,3:1433-1452.
[4] E. J. Candes, M. B. Wakin. An introduction to compressive sampling[J]. IEEE Signal Processing Magazine, 2008,25(2): 21-30
[5] Chen S, Donoho D. Basis pursuit[C]//Proceedings of 1994 28th Asilomar Conference on Signals, Systems and Computers. IEEE, 1994, 1: 41-44.
[6] Chen S S, Donoho D L, Saunders M A. Atomic decomposition by basis pursuit[J]. SIAM review, 2001, 43(1): 129-159.
[7] Figueiredo M A T, Nowak R D, Wright S J. Gradient projection for sparse reconstruction: Application to compressed sensing and other inverse problems[J]. IEEE Journal of selected topics in signal processing, 2007, 1(4): 586-597.
[8] Daubechies I, Defrise M, De Mol C. An iterative thresholding algorithm for linear inverse problems with a sparsity constraint[J]. Communications on Pure and Applied Mathematics: A Journal Issued by the Courant Institute of Mathematical Sciences, 2004, 57(11): 1413-1457.
[9] Do T T, Gan L, Nguyen N, et al. Sparsity adaptive matching pursuit algorithm for practical compressed sensing[C]//2008 42nd Asilomar Conference on Signals, Systems and Computers. IEEE, 2008: 581-587.
[10] Tropp J A, Gilbert A C. Signal recovery from random measurements via orthogonal matching pursuit[J]. IEEE Transactions on information theory, 2007, 53(12): 4655-4666.
[11] Donoho D L, Tsaig Y, Drori I, et al. Sparse solution of underdetermined systems of linear equations by stagewise orthogonal matching pursuit[J]. IEEE transactions on Information Theory, 2012, 58(2): 1094-1121.
[12] Mousavi A, Patel A B, Baraniuk R G. A deep learning approach to structured signal recovery[C]//2015 53rd annual allerton conference on communication, control, and computing (Allerton). IEEE, 2015: 1336-1343.
[13] Candes E J. The restricted isometry property and its implications for compressed sensing[J]. Comptes rendus mathematique, 2008, 346(9-10): 589-592.
[14] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[J]. Communications of the ACM, 2017, 60(6): 84-90.
[15] He K, Gkioxari G, Dollár P, et al. Mask r-cnn[C]//Proceedings of the IEEE international conference on computer vision. 2017: 2961-2969.
[16] Ren S, He K, Girshick R, et al. Faster r-cnn: Towards real-time object detection with region proposal networks[J]. IEEE transactions on pattern analysis and machine intelligence, 2016, 39(6): 1137-1149.
[17] Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. arXiv preprint arXiv:1409.1556, 2014.
[18] Kulkarni K, Lohit S, Turaga P, et al. Reconnet: Non-iterative reconstruction of images from compressively sensed measurements[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2016: 449-458.
[19] Danielyan A, Katkovnik V, Egiazarian K. BM3D frames and variational image deblurring[J]. IEEE Transactions on Image Processing, 2011, 21(4): 1715-1728.
[20] Lyu M, Wang W, Wang H, et al. Deep-learning-based ghost imaging[J]. Scientific reports, 2017, 7(1): 1-6.
[21] Mousavi A, Baraniuk R G. Learning to invert: Signal recovery via deep convolutional networks[C]//2017 IEEE international conference on acoustics, speech and signal processing (ICASSP). IEEE, 2017: 2272-2276.
[22] He K, Zhang X, Ren S, et al. Deep residual learning for image recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2016: 770-778.
[23] Yao H, Dai F, Zhang S, et al. Dr2-net: Deep residual reconstruction network for image compressive sensing[J]. Neurocomputing, 2019, 359: 483-493.
[24] Shi W, Jiang F, Liu S, et al. Image compressed sensing using convolutional neural network[J]. IEEE Transactions on Image Processing, 2019, 29: 375-388.
[25] Courbariaux M, Hubara I, Soudry D, et al. Binarized neural networks: Training deep neural networks with weights and activations constrained to+ 1 or-1[J]. arXiv preprint arXiv:1602.02830, 2016.
[26] Iliadis M, Spinoulas L, Katsaggelos A K. Deepbinarymask: Learning a binary mask for video compressive sensing[J]. arXiv preprint arXiv:1607.03343, 2016.
[27] Sun B, Feng H, Chen K, et al. A deep learning framework of quantized compressed sensing for wireless neural recording[J]. IEEE Access, 2016, 4: 5169-5178.
[28] Nguyen D M, Tsiligianni E, Deligiannis N. Deep learning sparse ternary projections for compressed sensing of images[C]//2017 IEEE Global Conference on Signal and Information Processing (GlobalSIP). IEEE, 2017: 1125-1129.

作者简介：聂冠雄（1996-），男，主要研究方向：大数据与智能信息处理

通信联系人：周亚建（1971-），男，副教授，主要研究方向：移动通信和网络安全. E-mail: yajianzhou@163.com