本书作为深度学习方面的入门书籍，目的是使读者通过学习，理解和掌握深度学习背后的数学原理和计算方法，并将其用于指导理论分析和实践开发。全书共8章。第1、2章主要介绍了深度学习的相关概念、发展简史、主要进展，以及典型的深度学习平台（MATLAB和TensorFlow）、数据增广技术和相关数学基础；第3~5章详细阐述了深度学习的典型网络模型，包括卷积神经网络、循环神经网络、自编码器、生成对抗网络及深度Q-学习等模型，重点介绍了这些模型背后的数学原理；第6章重点介绍了胶囊网络与流形学习；第7章介绍了玻尔兹曼机及其变体，包括受限玻尔兹曼机、深度玻尔兹曼机及概率图模型；第8章介绍了迁移学习、孪生网络、集成学习及深度学习方面的重要工作。

前言 本书是根据我近期在新西兰奥克兰理工大学为研究生开设的讲座和研讨会的基础而著的。我整合了深度学习、机器学习及人工神经网络的相关资料，并进行内容完善后出版该书，以便让更多的研究生能够从我们团队的研究和教学工作中有所收获。 在本书中，我们站在数学的角度，由易到难编排内容框架、阐述相关知识，并且从机器智能的视角遴选相关内容。首先从神经元的设计和激活函数的特性着手理解人工神经网络，然后利用高等数学知识来阐释深度学习背后的运行机制。在各章的结尾，我们突出强调了如何基于Python软件和最新的MATLAB工具箱来实现深度学习算法，还罗列了需要读者进一步思考和讨论的问题。 在阅读本书之前，强烈建议读者学习研究生数学知识，特别是数学分析、线性代数、最优化、计算方法、微分几何、流形、信息论及基础代数、泛函分析、图模型等相关内容。计算机方面的知识储备不仅有助于读者理解这本书，而且能够帮助读者理解深度学习领域的相关期刊文章和会议论文。 本书主要是为对深度学习计算方法中的理论分析和实践开发感兴趣的研究生和工程师及计算机科学家而著的。除此之外，本书也适合对机器智能、模式分析、计算机视觉、自然语言处理及机器人感兴趣的研究人员参考。 Auckland, New Zealand September 2020 Wei Qi Yan

第1章 概述 1 1.1 引言 1 1.2 深度学习简介 4 1.3 深度学习发展简史 7 1.4 深度学习典型应用 15 1.5 深度学习获奖论文 17 1.6 思考题 19 参考文献 19 第2章 深度学习平台 29 2.1 引言 29 2.2 基于MATLAB的深度学习 31 2.3 基于TensorFlow的深度学习 35 2.4 数据增广 41 2.5 数学基础 42 2.6 思考题 48 参考文献 48 第3章 卷积神经网络和循环神经网络 51 3.1 卷积神经网络 51 3.1.1 R-CNN 53 3.1.2 Mask R-CNN 54 3.1.3 YOLO 55 3.1.4 SSD 57 3.1.5 DenseNet和ResNet 57 3.2 循环神经网络和时间序列分析 58 3.2.1 循环神经网络 59 3.2.2 时间序列分析 63 3.3 隐马尔可夫模型 68 3.4 函数空间 70 3.5 向量空间 72 3.5.1 赋范空间 74 3.5.2 希尔伯特空间 75 3.6 思考题 79 参考文献 79 第4章 自编码器和生成对抗网络 87 4.1 自编码器 87 4.2 正则自编码器 88 4.3 生成对抗网络 91 4.4 信息论 95 4.5 思考题 100 参考文献 101 第5章 强化学习 103 5.1 引言 103 5.2 贝尔曼方程 104 5.3 深度Q-学习 107 5.4 优化 111 5.5 数据拟合 112 5.6 思考题 116 参考文献 116 第6章 胶囊网络与流形学习 119 6.1 胶囊网络 119 6.2 流形学习 123 6.3 思考题 128 参考文献 129 第7章 玻尔兹曼机 131 7.1 玻尔兹曼机概述 131 7.2 受限玻尔兹曼机 132 7.3 深度玻尔兹曼机 134 7.4 概率图模型 136 7.5 思考题 142 参考文献 142 第8章 迁移学习与集成学习 145 8.1 迁移学习 145 8.1.1 迁移学习的定义 145 8.1.2 Taskonomy 147 8.2 孪生网络 148 8.3 集成学习 149 8.4 深度学习的重要工作 162 8.5 思考题 163 参考文献 163 附录A 术语 165

http://www.hxedu.com.cn/hxedu/fg/book/bookinfo.html?code=G0421380