
本书主要介绍非平衡数据集的特点及针对非平衡数据集常用的预测方法,主要从数据层面、特征层面和算法层面对非平衡数据集分类预测方法进行详细说明。全书共11章。其中,第1章为绪论,第2章从数据层面介绍基于采样技术的非平衡数据集常用分析方法,第3章从特征层面介绍常用的非平衡数据集分析方法,第4~11章主要介绍算法层面的各种针对非平衡数据集的预测模型。本书可供电子信息工程、通信工程、电子科学与技术、计算机科学与技术、统计学、智能信息处理等相关专业高年级本科生、从事相关课题研究的硕士研究生与博士研究生及相关行业从事数据分析的科研人员研究参考。
近年来,随着计算机处理速度及存储能力的提高,各行业数据呈现快速增长趋势,且呈现非平衡数据集特性。采用数据挖掘方法及机器学习模型对数据进行分析处理是常用的策略,但是一般的机器学习模型通常适用于平衡数据集,也就是各类别数据量基本均衡的情况,对非平衡数据集通常导致少数类预测结果偏差的缺陷。针对非平衡数据集预测性能偏差问题,如何在保证模型整体预测性能较优的同时,有效提高少数类的预测性能是本书讨论的主要问题。 本书介绍非平衡数据集的特点、国内外研究现状及各种非平衡数据集处理方法的基本理论。针对已有的各种处理方法,提出了一些改进模型和实现思路,分别从数据层面、特征层面和算法层面对非平衡数据集分类预测方法进行详细阐述。 本书注重理论与实际结合,对部分算法提供了配套的源码。读者在阅读过程中可结合编程实践,进一步深入理解对应的理论部分内容。对其余内容,如果读者需要源码,也可联系本书作者(E-mail:lifenglian@tyut.edu.cn)。 本书作者所在课题组为太原理工大学数字音视频技术研究中心,研究中心负责人张雪英教授对本书的出版提供了大力的支持。近几年,作者所在课题组一直致力于非平衡数据集预测分析相关课题的研究,本书正是基于课题组近几年的研究成果总结提炼形成的。在此对曾经参与课题研究的硕士研究生杜春蕾、张翕茜、牛壮、张若禹、魏鑫、耿银凤、田豆,以及博士研究生焦江丽表示诚挚的感谢,同时感谢参与本书部分整理工作的硕士研究生王灿、樊宇宙、张龙、张岩及刘喜瑞;对为本书辛勤付出的其他相关人员同样表示诚挚的感谢! 同时,欢迎读者针对书中内容与作者进行广泛深入的讨论和交流。 由于书中所给出的各种改进模型皆为课题组近几年针对所研究课题对应数据的改进思路,是否针对其他数据集具有类似效果,有待验证。书中内容若有不妥之处,敬请谅解,并欢迎批评指正。 李凤莲 2021年12月
第1章 绪论 1.1非平衡数据集简介 1.2非平衡数据集的特点 1.3非平衡数据集研究现状 1.3.1基于数据层面的采样技术研究现状 1.3.2基于特征层面的分类模型研究现状 1.3.3基于算法层面的分类模型研究现状 1.4非平衡数据集分类预测模型构建难点 1.5非平衡数据集分类性能的评价准则 参考文献 第2章 基于采样技术的非平衡数据集分类预测方法 2.1常用采样技术 2.2基于欠采样方法的非平衡数据集预测 2.2.1基于聚类的欠采样方法 2.2.2去冗余欠采样方法 2.3基于聚类融合去冗余的改进欠采样方法 2.3.1相似度冗余系数 2.3.2聚类算法 2.3.3基于聚类融合去冗余的改进欠采样方法原理 2.4基于聚类融合去冗余的改进欠采样方法实现及性能分析 2.4.1算法实现 2.4.2基于聚类融合去冗余的改进欠采样方法性能分析 2.4.3实验结果与分析 2.5基于聚类融合去冗余的改进欠采样算法实现源码 2.6本章小结 参考文献 第3章 基于特征层面的非平衡数据集预测 3.1非平衡数据集的特征选择 3.1.1非平衡数据集下的综合概率比特征选择 3.1.2面向非平衡数据集的邻居词正负特征选择 3.2用于非平衡数据集的深度学习方法 3.2.1针对非平衡数据集的神经网络与最小最大概率机模型 3.2.2生成式对抗网络用于非平衡数据集分类问题 3.3本章小结 参考文献 第4章 决策树模型 4.1决策树基础知识 4.1.1基本概念 4.1.2建树过程 4.1.3规则提取 4.1.4剪枝技术 4.1.5信息熵 4.2已有单决策树简介 4.2.1决策树算法性能对比 4.2.2 ID3算法 4.2.3 C4.5算法 4.2.4 CART算法 4.2.5 SLIQ算法 4.2.6 SPRINT算法 4.3随机森林算法 4.3.1随机森林算法原理 4.3.2随机森林算法的实现 4.4决策树算法性能比较 4.4.1不同决策树算法节点分裂指标对比及分析 4.4.2决策树算法存在的问题 4.5基于混合策略的决策树预测模型 4.5.1混合属性选择策略 4.5.2混合属性选择策略分类性能分析 4.6基于混合策略的决策树预测模型代码实现 4.7本章小结 参考文献 第5章 基于代价敏感理论的决策树模型 5.1代价敏感理论 5.1.1代价敏感基本理论 5.1.2代价函数 5.2代价敏感理论优化的经典单决策树预测模型 5.2.1 CS-ID3决策树 5.2.2 IDX决策树 5.2.3 CS-C4.5决策树 5.3基于代价敏感的属性选择混合策略单决策树模型 5.3.1基于代价敏感理论的属性选择混合策略 5.3.2 CHDT算法性能验证 5.4基于不同根节点信息的代价敏感属性选择混合策略多决策树模型 5.4.1基于不同根节点信息的代价敏感属性选择混合策略多决策树 5.4.2 CHAIRF算法性能验证 5.5代价敏感混合属性选择策略单决策树模型在煤矿安全预警中的应用 5.5.1基于代价敏感混合属性选择策略单决策树CHDT模型构建 5.5.2 CHDT模型用于煤矿突水预测性能分析 5.6 CHAIRF多决策树模型的分布式实现 5.6.1 Hadoop环境配置及搭建 5.6.2决策树准确率与算法计算时间研究 5.6.3 CHAIRF算法分布式编程模型设计及实现 5.6.4多线程分布式CHAIRF算法 5.7本章小结 参考文献 第6章 强化学习奖惩机制优化的决策树模型 6.1强化学习理论基础 6.2基于强化学习的累积回报属性选择方法 6.2.1提出动机与基本思想 6.2.2属性选择策略 6.2.3实验及结果分析 6.3基于同分布随机采样的改进集成森林算法基本理论 6.3.1同分布随机采样法 6.3.2基于同分布随机采样的改进集成森林算法 6.3.3实验及结果分析 6.4基于强化学习累积回报机制的多决策树推荐模型 6.4.1决策树推荐模型构建 6.4.2实验及结果分析 6.5本章小结 参考文献 第7章 基于深度强化学习的脑卒中非平衡数据集分类预测模型 7.1深度强化学习 7.1.1深度强化学习研究进展综述 7.1.2深度Q网络基本理论 7.2面向非平衡数据集的深度强化学习分类预测模型构建 7.2.1非平衡数据集分类预测问题到马尔可夫决策过程的映射 7.2.2非平衡数据集分类预测问题DQN的训练 7.2.3非平衡数据集分类预测模型训练 7.3实验方案 7.4实验结果与分析 7.5本章小结 参考文献 第8章 非平衡模糊支持向量机分类预测模型 8.1模糊支持向量机相关理论 8.1.1统计学原理 8.1.2支持向量机理论 8.1.3模糊支持向量机 8.2一种改进的模糊隶属度函数确定方法 8.2.1模糊隶属度函数构造方法 8.2.2改进的模糊隶属度函数确定方法 8.3非平衡模糊支持向量机 8.3.1非平衡调节因子 8.3.2非平衡模糊支持向量机 8.3.3实验与结果分析 8.4模糊支持向量机在脑卒中TCD数据分类中的应用 8.4.1脑卒中TCD数据及特点分析 8.4.2基于非平衡模糊支持向量机的TCD数据分类 8.5本章小结 参考文献 第9章 基于极限学习机的非平衡数据集分类预测研究 9.1人工神经网络 9.1.1神经网络结构 9.1.2单隐含层前馈神经网络 9.2极限学习机 9.2.1极限学习机ELM基础理论 9.2.2加权极限学习机W-ELM 9.3蝙蝠算法优化的极限学习机模型 9.3.1蝙蝠算法原理 9.3.2 BA-ELM分类模型原理 9.3.3算法流程 9.3.4蝙蝠算法优化极限学习机的脑卒中TCD数据分类 9.4本章小结 参考文献 第10章 基于优化核极限学习机的非平衡数据集分类预测模型 10.1基于时变惯性权重的改进蝙蝠算法 10.1.1基于时变惯性权重的改进蝙蝠算法原理 10.1.2改进蝙蝠算法性能测试 10.2改进蝙蝠算法优化核极限学习机 10.2.1核极限学习机KELM 10.2.2改进蝙蝠算法优化参数流程 10.2.3 IBA-KELM模型运行流程 10.3优化核极限学习机性能验证 10.3.1基于公共数据集的IBA-KELM模型预测性能验证 10.3.2优化的核极限学习机用于脑卒中TCD数据分类 10.4最大化G-means的代价调整极限学习机模型 10.4.1基本原理 10.4.2 MG-CCR-ELM模型运行流程 10.5最大化G-means的代价调整极限学习机性能验证 10.5.1公共数据集测试 10.5.2脑卒中TCD数据分类预测 10.6本章小结 参考文献 第11章 聚类算法用于非平衡数据集分析 11.1聚类算法介绍 11.1.1聚类算法分类 11.1.2聚类算法研究现状 11.2 FCM及其改进算法简介 11.2.1 FCM算法 11.2.2 LFCM算法 11.2.3 EW-LFCM算法 11.3基于迭代信息熵权的改进LFCM算法 11.3.1 IEW-LFCM算法原理 11.3.2 IEW-LFCM算法流程 11.3.3实验及结果分析 11.3.4非平衡数据集聚类性能 11.4本章小结 参考文献 附录A 专业术语缩写英汉对照表