本书以掌握Python语言基础为前提，由浅入深、全面系统地讲解了机器学习的相关知识及技能，内容注重实用性和可操作性，在介绍机器学习理论知识的基础上，结合具体的实战实例，给出了详细的代码及实现步骤。全书共9个项目，分别介绍了数据分析基础、机器学习项目实战流程、探索性数据分析与特征工程、常见机器学习算法及框架、交叉验证与超参数调优，并结合主流机器学习技术框架Scikit-learn，展开了信用违约分类预测、社交媒体评论分类预测、共享单车用量需求回归预测、信用卡客户忠诚度回归预测的项目实战。

随着新一代信息技术的蓬勃发展，开始出现以机器学习为基础的人工智能、数据分析技术。机器学习作为一门交叉学科，涉及概率论、统计学、凸优化等多个学科或分支，其发展过程还受到了生物学、经济学的启发，这些特性决定了机器学习的广阔发展前景。目前，机器学习在诸多领域中得到了广泛的应用，如计算机视觉、自然语言处理、推荐系统、医学诊断、信用风控、证券市场建模等。2020 年，高职院校获批开设人工智能技术服务专业，根据教育部发布的《高等学校人工智能创新行动计划》，推进“新工科”建设，完善人工智能基础理论、机器学习、计算机视觉与模式识别、自然语言处理等核心专业课程。但目前针对高职院校学生的授课，普遍存在以理论知识授课为主、学生缺乏动手实践、教学案例与实际问题脱节等问题。 本书围绕教育部发布的《高等学校人工智能创新行动计划》，深入浅出地介绍了机器学习理论知识，注重理论与实践的结合，培养学生的动手能力。本书面向高职学生，从Python机器学习的基础知识入手，结合了大量的机器学习项目，带领学生快速掌握机器学习的相关知识，提高学生解决实际问题的能力。 本书的编写特色如下。 （1）内容设置：本书涵盖了机器学习领域必须掌握的知识，在内容结构上非常注重知识的实用性和可操作性。按照机器学习项目实战的方法论，逐步完成项目流程。本书将一个项目分为基础和优化两个过程进行讲解，确保学生在完成基本机器学习项目的基础上，能够理解模型优化的思路并实现模型优化。 （2）模块划分：本书以项目为导向，倡导运用所学知识解决实际问题。从学生兴趣及实际案例中提取、设置任务，将理论与实践有机结合。本书主要选取了结构化数据、文本数据相关的机器学习项目进行内容设计，使用Scikit-learn、XGBoost、LightGBM等主流机器学习技术框架开展实战。 （3）内容编排：本书在内容结构上覆盖项目引导、任务目标、知识准备、设计实践、拓展训练等环节，分为基础理论、编程实现和拓展训练三个部分，可以满足高校开展人工智能算法与Python编程等基础实践的需求，也可以指导学生进行模型训练、创新实践等扩展学习。 （4）实战资源：本书以 Jupyter Notebook 的形式提供实战资源，并根据高职学生的学习特点，在实战代码中将关键代码隐藏，帮助学生强化练习，书中还配有答案供师生参考。 本书由浙江金融职业学院的王志博士、陶再平博士担任主编，王雪、邬贤达等人工智能技术应用专业教师及企业专家牟宏伟参与编写，获得了北京数联众创科技有限公司、北京猎豹移动科技有限公司的大力支持。我们将不断加强与同行的交流合作，继续推出人工智能工程技术系列教材，共同探索高职院校人工智能专业领域的教学创新。 为便于学习，本书配备了电子课件、练习素材等教学资源，学生可以在华信教育资源网（www.hxedu.com.cn）注册后下载。如有其他问题，可在网站留言板留言或与电子工业出版社（E-mail：hxedu@phei.com.cn）联系。 由于时间仓促，以及编者的学识和水平有限，书中难免存在不足之处，敬请广大读者指正。 编 者

项目1 数据分析基础 1 任务1 开发环境的搭建 1 1.1.1 数据分析相关库 1 1.1.2 Anaconda的安装和使用 2 1.1.3 Jupyter Notebook的使用 3 任务2 NumPy的应用 4 1.2.1 数组对象的创建 4 1.2.2 数组的索引和切片 10 任务3 Pandas的应用 14 1.3.1 Series对象的创建 14 1.3.2 Series对象的索引和切片 15 1.3.3 Series对象的常用属性 17 任务4 数据可视化 17 1.4.1 安装和导入 18 1.4.2 绘图的流程 18 任务5 Pandas、NumPy库的数据操作 18 1.5.1 数据读入 18 1.5.2 数据选择 19 1.5.3 缺失值填充 20 1.5.4 数据透视表绘制 21 1.5.5 数据集合并 21 1.5.6 独热编码 23 项目2 机器学习项目实战流程 25 任务1 知识准备 26 2.1.1 问题定义 26 2.1.2 数据准备 27 2.1.3 模型训练 30 2.1.4 模型评估 34 2.1.5 模型部署 38 2.1.6 模型监控与更新 39 2.1.7 小结 40 任务2 使用Scikit-learn框架完成基本的机器学习项目 40 2.2.1 Estimator 40 2.2.2 Metrics 41 2.2.3 小结 41 任务3 实战：泰坦尼克号事件生存预测 42 2.3.1 问题定义 42 2.3.2 数据准备 42 2.3.3 模型训练 45 2.3.4 模型评估 46 2.3.5 小结 47 项目3 探索性数据分析与特征工程 48 任务1 知识准备 49 3.1.1 探索性数据分析 49 3.1.2 特征工程 56 3.1.3 特征抽取 58 3.1.4 特征转换 61 3.1.5 特征选择 67 3.1.6 小结 67 任务2 实战：基于决策树的泰坦尼克号事件生存预测 68 3.2.1 问题定义 68 3.2.2 数据准备 68 3.2.3 模型训练 77 3.2.4 模型评估 77 3.2.5 数据保存 78 3.2.6 小结 78 项目4 常见机器学习算法及框架 79 任务1 知识准备 79 4.1.1 损失函数、代价函数与目标函数 79 4.1.2 逻辑回归与神经网络 81 4.1.3 决策树与随机森林 84 任务2 基于集成学习思想的算法 85 任务3 Python环境下XGBoost的安装及使用 88 任务4 Python环境下LightGBM的安装及使用 89 项目5 交叉验证与超参数调优 91 任务1 知识准备 92 5.1.1 机器学习算法中的参数与超参数 92 5.1.2 超参数调优方法 92 5.1.3 GBM算法的超参数调优 97 任务2 随机森林超参数调优 99 5.2.1 RF框架的参数意义 99 5.2.2 RF决策树的参数含义 100 任务3 实战：GBM算法超参数调优 101 5.3.1 问题定义 101 5.3.2 数据准备 101 5.3.3 小结 107 项目6 信用违约分类预测 109 任务1 信用违约分类建模 109 6.1.1 问题定义 109 6.1.2 数据准备 110 6.1.3 模型训练 114 6.1.4 模型评估 115 6.1.5 小结 116 任务2 实战：处理不平衡样本来优化模型 116 6.2.1 数据准备 116 6.2.2 小结 119 项目7 社交媒体评论分类预测 120 任务1 社交媒体评论分类建模 120 7.1.1 问题定义 120 7.1.2 数据准备 121 7.1.3 模型训练 125 7.1.4 模型评估 126 7.1.5 小结 126 任务2 实战：使用不同文本特征提取方法来优化模型 127 7.2.1 问题定义 127 7.2.2 数据准备 127 7.2.3 基于TF-IDF特征的模型训练与评估 130 7.2.4 TSNE、LDA降维操作及TSNE可视化 131 7.2.5 基于LDA方法对TF-IDF特征降维处理后的模型训练与评估 132 7.2.6 基于词向量方法的模型训练与评估 133 7.2.7 小结 135 项目8 共享单车用量需求回归预测 136 任务1 共享单车用量需求回归建模 136 8.1.1 问题定义 136 8.1.2 数据准备 137 8.1.3 模型训练 143 8.1.4 模型评估 143 8.1.5 小结 144 任务2 实战：使用特征选择及离散化方法来优化模型 144 8.2.1 问题定义 144 8.2.2 数据准备 145 8.2.3 模型训练 148 8.2.4 模型评估 149 8.2.5 小结 149 项目9 信用卡客户忠诚度回归预测 150 任务1 信用卡客户忠诚度回归建模 150 9.1.1 问题定义 150 9.1.2 数据准备 151 9.1.3 模型训练 160 9.1.4 模型评估 160 9.1.5 小结 162 任务2 实战：增加数据源抽取特征来优化模型 162 9.2.1 问题定义 162 9.2.2 数据准备 162 9.2.3 模型训练 167 9.2.4 模型评估 167 9.2.5 小结 168 附录A 课后习题及参考答案 169 项目1 习题及参考答案 169 项目2 习题及参考答案 170 项目3 习题及参考答案 171 项目4 习题及参考答案 172 项目5 习题及参考答案 173 项目6 习题及参考答案 174 项目7 习题及参考答案 174 项目8 习题及参考答案 175 项目9 习题及参考答案 176