图像信号本质上可以看作是关于一组基向量的稀疏表示，而稀疏表示是获得、表示和压缩图像信号的一种强有力的工具。从稀疏约束的角度来划分，可以将稀疏表示分为五类，分别为（1）基于最小化L0范数的稀疏表示，（2）基于最小化Lp（0＜p＜1）范数的稀疏表示，（3）基于最小化L1范数的稀疏表示，（4）基于最小化L2,1范数的稀疏表示，也交组稀疏表示和5）基于最小化L2范数的稀疏表示。在本书中，全面分析了每一种稀疏表示形式的目标函数和优化算法，并综合分析了最新的基于稀疏表示理论的应用。 本书可以作为研究稀疏表示和图像处理方面的工具书，包括了详尽的理论介绍和多方面的实际应用，全面分析了稀疏表示理论中的两个关键问题，即字典学习和正则化方法，同时，全面介绍了稀疏表示在图像处理，图像分类和追踪，图像复原等实际应用中的最新方法。

前 言 信号和信息处理一直是学术界研究的一个重要领域。从信号的采集到信号的表示以及应用，处理方法层出不穷。其中，关于信号稀疏性的研究一直受到研究人员的关注。稀疏表示理论以其简洁的描述和扎实的数学理论基础，在图像处理等领域中成为研究热点。 全书主要分为两大部分，一部分是稀疏表示的理论介绍（第1章—第5章），另一部分是稀疏表示在图像处理领域中的应用（第6章—第12章）。除1章引言外，其余部分的章节安排如下。 第2章从压缩感知理论入手，介绍了稀疏表示理论的背景知识和数学描述，总结了常用的稀疏约束表示形式以及每种约束形式的特点，为后面章节的介绍奠定了理论基础。 第3章主要介绍了求解稀疏表示优化算法中的贪心算法。重点介绍了基于匹配追踪的优化方法以及其改进方法正交匹配追踪算法。 第4章主要介绍了求解稀疏表示优化算法中的约束优化方法。具体包括梯度投影算法，内点法以及交替方向法。 第5章主要介绍了稀疏表示理论中的关键问题之一，字典学习问题。从字典学习问题的数学描述着手，介绍了常用的非监督字典学习方法以及不同学习方法的优缺点和应用领域。 第6章主要介绍了稀疏表示理论在图像分类中的应用问题。从图像分类的实际问题出发，解释了如何将稀疏表示理论用于解决分类问题，以及其中面临的关键问题，具体包括字典的构造问题和正则化项的设计问题。 第7章介绍了一种用于稀疏表示分类模型的自适应正则化参数学习方法。重点分析了正则化参数的设置对于分类模型的影响，从而提出了一种基于重构误差的自适应参数学习方法，并通过实验结果对算法的性能进行了验证。 第8章介绍了一种结合聚类分析和Fisher判别准则的有监督字典学习方法，用于稀疏表示分类模型的字典构造。该算法充分的考虑了样本的类别信息，保证了不同类别样本在字典上的线性表示系数具有最小类内散度和最大类间散度，增强了线性系数的判别能力。 第9章介绍了组稀疏表示分类模型的数学描述，并在此基础上提出了一种基于核空间的加权组稀疏表示分类方法。该方法利用核函数可以作为核空间中两个样本的相似性度量的原理，将原始特征空间的样本做了特征变换，并且依据样本的相似程度自适应地确定字典和分组的情况。通过一系列的实验分析验证了算法的性能。 第10章主要介绍了一种重叠子字典的稀疏表示分类方法，提出了一种新的稀疏约束的表示形式，综合分析了分类问题和稀疏约束形式之间的关系，通过对重构误差的稀疏性进行约束间接的达到了对系数向量进行稀疏性约束的作用，从而使得基于稀疏表示的分类模型取得了更高的分类正确率。 第11章介绍了稀疏表示理论在图像复原中的应用问题。图像复原问题是一类典型的不适定问题，而稀疏表示理论以其在图像信号表示中的良好性质，使其能够成功应用于解决图像复原问题。 第12章主要介绍了稀疏表示理论与当前研究热点深度学习之间的关系和结合方法，重点介绍了深度学习方法在特征学习上的成功应用，可以将其用于稀疏表示分类模型中，以得到表示能力和抽象能力更强的字典原子。 在本书的撰写过程中，得到了北京市自然科学基金项目（No. 4184088和No.4162027）和北京市教育委员会一般项目“智能交通感知中运动模糊图像复原方法研究”对本书的资助，在此一并感谢。 作者编写本书的目的是希望和同领域的研究学者分享研究成果，作者自觉才疏学浅，书中一定会有不严谨、不准确甚至谬误之处，敬请读者不吝指教。

目 录 第1章 引言 7 1.1 背景与意义 7 1.2 线性表示 7 1.3 欠定线性表示 8 1.4 正则化技术 8 1.4.1 不适定问题 8 1.4.2 正则化技术的引入 9 1.4.3 正则化参数 10 1.5 稀疏线性表示 10 1.6 本书的内容和结构安排 11 参考文献 12 第2章 稀疏表示理论 13 2.1 压缩感知 13 2.2 稀疏表示 14 2.2.1 问题描述 14 2.2.2 稀疏信号的重构 15 2.2.2 稀疏表示形式 16 2.2.3 向量的稀疏性与l1范数 21 2.3 本章小结 23 参考文献 23 第3章 稀疏表示优化算法——贪心算法 25 3.1 匹配追踪算法 26 3.2 正交匹配追踪算法 28 参考文献 29 第4章 稀疏表示优化算法——约束优化 31 4.1 梯度投影算法 31 4.2 内点法 35 4.3 交替方向法 39 参考文献 41 第5章 稀疏表示中的字典学习 43 5.1 字典学习的数学描述 43 5.2 无监督字典学习 45 5.2.1 最优方向算法（Method of Optimal Directions，MOD） 45 5.2.2 K-SVD 46 5.2.3在线字典学习 48 5.2.4带有约束条件的无监督字典学习算法 49 5.3 有监督字典学习 50 5.4 本章小结 50 参考文献 50 第6章 稀疏表示在图像分类中的应用 52 6.1 线性表示分类方法 53 6.2稀疏表示分类 54 6.2.1问题描述 55 6.2.2分类准则 57 6.3稀疏表示分类的关键问题 58 6.3.1 面向分类问题的字典学习 58 6.3.2 正则化项 64 6.3.3正则化参数的选择 65 6.4本章小结 66 参考文献 66 第7章 自适应正则化参数学习 72 7.1正则化参数的重要性 72 7.2正则化参数与测试样本的关系 75 7.3基于重构误差的自适应参数学习算法 77 7.4实验与分析 80 7.4.1 EYB 数据集 82 7.4.2 AR数据集 84 7.4.3 性能分析 85 7.4.4分析讨论 86 7.5本章小结 87 参考文献 87 第8章 结合聚类分析的有监督字典学习 89 8.1 特征提取 90 8.1.1 SIFT特征提取 90 8.1.2 特征编码 91 8.2 构造字典 93 8.2.1 基于k-means的无监督字典学习 93 8.2.2基于仿射传播聚类的有监督学习 94 8.2.3基于Fisher判别准则的学习 95 8.3 实验与分析 97 8.3.1十五类场景数据集 98 8.3.2 CalTech101数据集 99 8.4 本章小结 101 参考文献 101 第9章 基于核空间的加权组稀疏表示 104 9.1 组稀疏表示分类 105 9.2 核方法理论 105 9.3基于核的加权组稀疏表示分类 107 9.3.1基于核函数的特征变换方法 107 9.3.2自适应的字典选择 108 9.3.3加权组稀疏分类算法 109 9.4 实验与分析 111 9.4.1实验数据 111 9.4.2 对比方法 114 9.4.3 实验结果 114 9.5 本章小结 116 参考文献 116 第10章 重叠子字典的稀疏表示分类方法 118 10.1 引言 118 10.2基于重叠子字典的稀疏表示方法 120 10.2.1重叠子字典的构造 121 10.2.2测试样本与子字典的关系 123 10.2.3基于重叠子字典的稀疏表示分类 125 10.3实验与分析 127 10.3.1实验数据 127 10.3.2实验结果 127 10.4本章小结 129 参考文献 130 第11章 稀疏表示在图像复原中的应用 132 11.1 图像复原问题 132 11.2 基于KSVD的图像去噪 133 11.2.1用于图像去噪的稀疏模型构建 133 11.2.2 字典学习和模型优化 134 11.2.3 基于KSVD的图像去噪算法 135 11.2.4 实验结果 136 11.3 BM3D图像去噪方法 138 11.3.1 相关概念 138 11.3.2 BM3D 图像去噪算法框架 143 11.3.3 BM3D 图像去噪算法实现流程 143 11.3.4 实验结果 148 11.4 基于混合矩阵正态分布的复原方法与稀疏模型的关系 149 11.4.1相关概念 150 11.4.2基于混合矩阵正态分布的图像复原算法 153 11.4.3实验结果和讨论 160 11.5本章小结 168 参考文献 168 第12章 稀疏表示与深度学习 173 12.1 基于深度神经网络的特征学习 173 12.2 自动编码器 175 12.3 稀疏自动编码器 177 12.4 深度字典学习方法 178 12.5 本章小结 179 参考文献 180