
《企业级AI技术内幕:深度学习框架开发+机器学习案例实战+Alluxio解密》分为盘古人工智能框架开发专题篇、机器学习案例实战篇、分布式内存管理Alluxio解密篇,分别对人工智能开发框架、机器学习案例及Alluxio系统进行透彻解析。
盘古人工智能框架开发专题篇,通过代码讲解多层次神经网络、前向传播算法、反向传播算法、损失度计算及可视化、自适应学习和特征归一化等内容。
机器学习案例实战篇,选取机器学习中最具代表性的经典案例,透彻讲解机器学习数据预处理、简单线性回归、多元线性回归、多项式回归、支持向量回归、决策树回归、随机森林回归等回归算法,逻辑回归、k近邻算法、支持向量机、朴素贝叶斯、决策树分类、随机森林分类等分类算法、k均值聚类、层次聚类等聚类算法,以及关联分析算法,并对回归模型、分类模型进行性能评估。
分布式内存管理Alluxio解密篇,详细讲解Alluxio架构、部署、底层存储及计算应用、基本用法、运行维护等内容。
盘古人工智能框架开发专题篇
第1章导论:为什么人工智能是必然的未来???????????????????????????????????????????????????????????????????????????3
1.1为什么一定需要人工智能???????????????????????????????????????????????????????????????????????????????????????????????3
1.2人工智能为何如此强大???????????????????????????????????????????????????????????????????????????????????????????????????4
1.3学习人工智能的正道??????????????????????????????????????????????????????????????????????????????????????????????????????6
1.4人工智能、机器学习、深度学习三者之间的关系????????????????????????????????????????????????????????6
1.5人工智能的十大经典应用场景???????????????????????????????????????????????????????????????????????????????????????7
1.6人工智能在海量数据处理中不可替代的原因????????????????????????????????????????????????????????????????9
1.7本书开发环境的安装????????????????????????????????????????????????????????????????????????????????????????????????????10
第2章盘古人工智能框架多层次神经网络的实现?????????????????????????????????????????????????????????????????12
2.1盘古人工智能框架????????????????????????????????????????????????????????????????????????????????????????????????????????12
2.2实现神经网络的节点结构?????????????????????????????????????????????????????????????????????????????????????????????17
2.3实现神经网络层之间节点的连接?????????????????????????????????????????????????????????????????????????????????25
2.4如何初始化神经网络的权重?????????????????????????????????????????????????????????????????????????????????????????29
2.5实现多个隐藏层????????????????????????????????????????????????????????????????????????????????????????????????????????????30
第3章盘古人工智能框架的前向传播功能?????????????????????????????????????????????????????????????????????????????35
3.1前向传播功能????????????????????????????????????????????????????????????????????????????????????????????????????????????????35
3.1.1从TensorFlow的可视化运行过程理解前向传播功能?????????????????????????????????????35
3.1.2从架构层面理解前向传播功能?????????????????????????????????????????????????????????????????????????37
3.1.3理解前向传播原理?????????????????????????????????????????????????????????????????????????????????????????????37
3.2在每个节点上增加数据的输入和计算结果?????????????????????????????????????????????????????????????????39
3.3实现前向传播算法????????????????????????????????????????????????????????????????????????????????????????????????????????45
3.4使用Sigmoid函数作为激活函数?????????????????????????????????????????????????????????????????????????????????49
3.5测试前向传播算法并分析计算结果?????????????????????????????????????????????????????????????????????????????51
第4章盘古人工智能框架的反向传播功能?????????????????????????????????????????????????????????????????????????????54
4.1深度学习是如何学习的?????????????????????????????????????????????????????????????????????????????????????????????????54
4.2实现反向传播算法????????????????????????????????????????????????????????????????????????????????????????????????????????60
4.3反向传播算法测试及分析计算结果?????????????????????????????????????????????????????????????????????????????67
第5章盘古人工智能框架的损失度计算及其可视化?????????????????????????????????????????????????????????????71
5.1关于损失度的思考——所有人工智能框架终身的魔咒??????????????????????????????????????????????71
5.2编码实现损失度并进行测试?????????????????????????????????????????????????????????????????????????????????????????74
5.3损失度可视化运行结果?????????????????????????????????????????????????????????????????????????????????????????????????77
第6章通过特征归一化和自适应学习优化盘古人工智能框架?????????????????????????????????????????????81
6.1盘古人工智能框架性能测试及问题剖析?????????????????????????????????????????????????????????????????????81
6.2使用特征归一化进行性能优化?????????????????????????????????????????????????????????????????????????????????????87
6.3使用自适应学习进行性能优化?????????????????????????????????????????????????????????????????????????????????????91
第7章盘古人工智能框架实现方法大总结?????????????????????????????????????????????????????????????????????????????96
7.1盘古人工智能框架性能测试?????????????????????????????????????????????????????????????????????????????????????????96
7.2神经网络实现及和TensorFlow的对比????????????????????????????????????????????????????????????????????????97
7.3前向传播算法实现及其和TensorFlow的算法对比?????????????????????????????????????????????????????98
7.4反向传播算法实现及与TensorFlow的对比????????????????????????????????????????????????????????????????99
7.5损失度计算实现与TensorFlow的对比??????????????????????????????????????????????????????????????????????100
7.6人工智能盘古框架源代码???????????????????????????????????????????????????????????????????????????????????????????103
第8章使用矩阵的方式编写人工智能框架???????????????????????????????????????????????????????????????????????????115
8.1使用矩阵编写人工智能框架???????????????????????????????????????????????????????????????????????????????????????115
8.2测试及分析计算结果??????????????????????????????????????????????????????????????????????????????????????????????????121
8.3对使用矩阵方式编写的人工智能框架进行优化????????????????????????????????????????????????????????125
第9章使用四种性能优化矩阵编写人工智能框架???????????????????????????????????????????????????????????????129
9.1梯度下降陷阱??????????????????????????????????????????????????????????????????????????????????????????????????????????????130
9.2增加和调整alpha参数????????????????????????????????????????????????????????????????????????????????????????????????131
9.3人工智能框架的改进优化???????????????????????????????????????????????????????????????????????????????????????????137
第10章人工智能及感知元解密????????????????????????????????????????????????????????????????????????????????????????????146
10.1人工智能是什么,怎么做,前景为什么好??????????????????????????????????????????????????????????????146
10.2计算机视觉面临的困境及突破?????????????????????????????????????????????????????????????????????????????????148
10.3感知器解密????????????????????????????????????????????????????????????????????????????????????????????????????????????????149
10.4计算机图像识别????????????????????????????????????????????????????????????????????????????????????????????????????????151
第11章神经网络结构及Sigmoid函数????????????????????????????????????????????????????????????????????????????????159
11.1神经网络实现与非门?????????????????????????????????????????????????????????????????????????????????????????????????159
11.2神经网络为什么能够完成各类计算?????????????????????????????????????????????????????????????????????????160
11.3神经网络的结构解密?????????????????????????????????????????????????????????????????????????????????????????????????162
11.4Sigmoid函数背后的设计和实现密码???????????????????????????????????????????????????????????????????????163
11.5Sigmoid函数的弱点及改进??????????????????????????????????????????????????????????????????????????????????????166
第12章用神经网络识别手写数字????????????????????????????????????????????????????????????????????????????????????????173
12.1神经网络识别手写数字的原理?????????????????????????????????????????????????????????????????????????????????173
12.2为何识别数字的三层神经网络输出层为10个神经元????????????????????????????????????????????175
?IV?
12.3MINST数据集图片库解析???????????????????????????????????????????????????????????????????????????????????????176
12.4使用PyTorch框架编码实现MNIST手写数字识别程序????????????????????????????????????????178
第13章人工智能框架编写中关于损失度及梯度下降的设计与实现??????????????????????????????????187
13.1损失函数的本质剖析????????????????????????????????????????????????????????????????????????????????????????????????187
13.2梯度下降的本质????????????????????????????????????????????????????????????????????????????????????????????????????????187
13.3随机梯度下降法的设计和实现?????????????????????????????????????????????????????????????????????????????????189
13.4通过一个简单示例理解梯度下降?????????????????????????????????????????????????????????????????????????????191
第14章MNIST数字识别??????????????????????????????????????????????????????????????????????????????????????????????????????194
14.1MNIST数据的加载???????????????????????????????????????????????????????????????????????????????????????????????????194
14.2神经网络的初始化????????????????????????????????????????????????????????????????????????????????????????????????????199
14.3前向传播和反向传播函数?????????????????????????????????????????????????????????????????????????????????????????201
14.4小批量随机梯度下降????????????????????????????????????????????????????????????????????????????????????????????????204
14.5损失函数及评估函数????????????????????????????????????????????????????????????????????????????????????????????????205
14.6超参数调优????????????????????????????????????????????????????????????????????????????????????????????????????????????????206
第15章从矩阵视角剖析神经网络的运行过程?????????????????????????????????????????????????????????????????????211
15.1点积和外积的本质????????????????????????????????????????????????????????????????????????????????????????????????????211
15.2从矩阵的视角剖析神经网络的计算过程?????????????????????????????????????????????????????????????????213
15.3神经网络中的损失函数?????????????????????????????????????????????????????????????????????????????????????????????215
15.4人工智能框架神经网络四个核心数学公式??????????????????????????????????????????????????????????????216
第16章Spark+PyTorch开发应用???????????????????????????????????????????????????????????????????????????????????????221
16.1PyTorch深度学习框架案例??????????????????????????????????????????????????????????????????????????????????????221
16.1.1案例的应用场景解析???????????????????????????????????????????????????????????????????????????????????221
16.1.2案例的数据分析及预处理???????????????????????????????????????????????????????????????????????????221
16.1.3PyTorch深度学习案例实战????????????????????????????????????????????????????????????????????????226
16.1.4PyTorch预训练BERT模型解读????????????????????????????????????????????????????????????????249
16.2Spark+Alluxio+PyTorch综合开发案例????????????????????????????????????????????????????????????????????258
全代码讲解深度学习框架开发,
案例式讲解机器学习案例,
透彻剖析开源AI和大数据存储编排平台Alluxio
王家林,ApacheSpark执牛耳者,现工作于硅谷顶级的AI实验室,专注于NLP框架,超过20本Spark,AI,Andriod书籍作者。
段智华
就职于中国电信股份有限公司上海分公司,系统架构师,CSDN博客专家。专注于Spark大数据技术研发及推广,跟随Spark核心源码技术的发展,深入研究Spark 2.1.1版本及Spark 2.2.0版本的源码优化,对Spark大数据处理、机器学习等技术领域有丰富的实战经验和浓厚兴趣。