数据挖掘基础教程

出版者的话

译者序

前言

第1章数据挖掘

1.1引言

1.1.1数据挖掘与知识发现

1.1.2数据挖掘与数据分析

1.1.3数据挖掘与统计学

1.1.4数据挖掘与机器学习

1.2数据挖掘成功的例子

1.3数据挖掘研究发展的主要原因

1.4当前研究成果

1.5图形模型和层次概率表示

1.6新的应用

1.7影响数据挖掘的趋势

1.8研究挑战

1.9实验平台和基础设施

参考文献

第2章从商务角度看数据挖掘

2.1引言

2.2从数据挖掘工具到解决方案

2.3数据挖掘系统的演变

2.4知识发现过程

2.5数据挖掘支撑技术概述

2.5.1数据挖掘：验证与发现

2.5.2决策支持系统

2.5.3OLAP

2.5.4桌面DSS

2.5.5数据仓库

2.5.6数据挖掘过程

2.6数据挖掘技术

参考文献

第3章数据挖掘算法的数据类型、输入和输出

3.1引言

3.2实例和特征

3.3特征(数据)的不同类型

3.4概念学习与概念描述

3.5数据挖掘的输出知识表示

3.5.1分类学习算法的知识输出

3.5.2聚类学习算法的输出

3.5.3关联规则的输出

3.5.4用于数值预测的树的输出

3.5.5基于实例的学习和知识表示

参考文献

第4章决策树分类和回归树

4.1引言

4.2构造分类树

4.2.1用于标称属性的ID3算法

4.2.2信息论和信息熵

4.2.3构造树

4.2.4高分支属性

4.2.5从ID3到C4.5

4.2.6形象化地理解ID3和C4.5算法

4.3CHAID

4.3.1CHAID的数学工具

4.3.2CHAID变量的类型

4.3.3CHAID算法

4.3.4CHAID算法描述

4.3.5将CHAID用于气象数据

4.3.6单调变量的预测子级别合并

4.4CART(分类和回归树)

4.4.1CART使用的不纯性度量

4.4.2Gini指数

4.4.3使用Gini指数一个例子

4.4.4双化指数

4.4.5有序双化

4.4.6CAR了分析的步骤

4.5回归树

4.5.1回归树的一个例子

4.5.2基于树的回归

4.5.3最小二乘方回归树

4.5.4Ls回归树的有效生长

4.5.5连续变量上的划分

4.5.6离散变量上的划分

4.5.7模型树

4.6具有未知类值数据的类预测的一般问题

4.7剪枝导论

4.8模型评估

4.8.1交叉确认：保持方法

4.8.2模型比较

4.8.3代价敏感的学习

习题

参考文献

第5章数据挖掘的预处理和后处理

5.1引言

5.2数据预处理的步骤

5.3离散化

5.3.1人工方法

5.3.2分箱

5.3.3基于熵的离散化

5.3.4找出分割点的其他简单方法

5.4特征提取、选择和构造

5.4.1特征提取

5.4.2特征选择

5.4.3特征构造

5.5缺失数据及其处理方法和技术

5.5.1什么是缺失数据

5.5.2缺失数据的主要原因

5.5.3缺失数据的机制

5.5.4缺失数据的机制一个人工例子

5.6在决策树归纳中处理缺失数据的例子

5.7后处理

参考文献

第6章数据集

6.1引言

6.2隐形眼镜

6.3鸢尾属植物数据库

6.4乳腺癌数据库

6.5工资数据库

6.6信用卡数据库

6.7住宅数据库

6.81985年汽车进口数据库

6.9徽章问题

6.9.1问题描述

6.9.2部分数据

第7章关联规则挖掘

7.1引言

7.2事务数据库中关联规则的自动发现

7.3Apiiori算法

7.4缺点

习题

参考文献

第8章用开源和商业软件进行机器学习

8.1用Weka进行机器学习

8.1.1开始

8.1.2装人数据

8.1.3选择或过滤属性

8.1.4离散化

8.1.5关联规则挖掘

8.1.6分类

8.1.7聚类

8.2XLMINER

参考文献

第9章分类和回归算法

9.1引言

9.2朴素贝叶斯

9.2.1朴素贝叶斯的零频率问题

9.2.2缺失值和数值属性

9.3多元回归分析

9.3.1什么是回归分析

9.3.2简单和多元回归分析

9.3.3在市场营销中的应用

9.3.4方法

9.3.5使用Excel进行多元回归分析

9.3.6输人数据

9.3.7回归输出

9.4逻辑斯谛回归

9.5k-最近邻分类

9.5.1k-近邻预测

9.5.2k-NN算法的缺点

9.6GMDH

9.6.1引言

9.6.2数据处理群组方法的背景

9.6.3构建决策规则

9.6.4实验结果

9.6.5讨论和总结

9.7进化计算和遗传算法

9.7.1进化理论

9.7.2遗传算法

9.7.3使用遗传算法进行机器学习

习题

参考文献

第10章支持向量机

10.1引言

10.2线性支持向量机的基本思想

10.3软边缘SVM：线性核

10.3.1线性SVM的线性规划公式表示

10.3.2有训练误差的SVM：非线性核

10.4邻近支持向量机

10.5生成数据集

10.5.1螺旋数据生成器

10.5.2棋盘格数据集

10.5.3多元正态分布数据生成器

10.6问题及解答

习题

参考文献

第11章聚类分析

11.1引言

11.1.1相似性及其度量

11.1.2聚类的基本类型

11.2划分聚类

11.3k-中心点

11.4现代聚类方法

11.5BIRCH

11.6DBSCAN

11.6.1DBSCAN算法的概念

11.6.2DBSCAN的基本概念和算法

11.6.3算法

11.6.4DBSCAN算法的优点

11.7OPTICS

11.7.1引言

11.7.2OPTICS算法的动机

11.7.3OPTICS采用的概念

11.7.4OPTICS算法

11.7.5可达图

11.7.6优点

11.7.7缺点

11.8基于图划分的聚类

11.8.1加权图划分

11.8.2平衡图划分基本原则

11.8.3κ路划分

11.9CHAMELEON：两阶段聚类算法

11.9.1数据建模

11.9.2簇相似性建模

11.9.3CHAMELEON的两个阶段

11.9.4用例子说明CHAMELEON算法

11.10COBWEB概念聚类算法

11.10.1COBWEB算法

11.10.2COBWEB：一个简单例子

11.11GCLUTO：图形化聚类工具箱

11.11.1概述

11.11.2GCLUTO中的可用选项

11.11.3使用GCLUTO进行文本

挖掘

习题

参考文献

第12章多维数据可视化

12.1引言

12.2多维可视化的图表表示

12.2.1kiviat图

12.2.2平行坐标系

12.2.33D散点图

12.2.43D曲线图

12.2.5体积透视图

12.2.6房图

12.2.7Chemoff脸图

12.3可视化数据挖掘

参考文献

附录ASVM公式：完全可分的线性分类器

附录B图划分的矩阵形式

　　数据挖掘是一个新兴的多学科交叉领域，它基于人工智能、机器学习、模式识别、统计学、数据库、可视化等技术，能够从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息，目前已广泛应用于科学、工程、商业、医学等领域。本书旨在向读者介绍数据挖掘方法和算法，涵盖数据挖掘中数据的预处理、分类、预测、聚类、关联、支持向量机、多维数据可视化等内容，以及用于这些数据挖掘问题的典型算法。使读者能够应用这些方法解决现实世界中的问题。本书精心选择了在数据挖掘领域中广泛使用的大部分方法，并辅以简单的例子，因而是学习数据挖掘的理想教材。　　本书全面介绍数据挖掘的原理、方法和算法。主要内容包括数据挖掘的基本概念、数据挖掘算法的数据类型、输入和输出、决策树、数据挖掘的预处理和后处理、关联规则挖掘、分类和回归算法、支持向量机、聚类分析及多维数据可视化。　　本书讲解深入浅出，并辅以大量实例，随书光盘提供了大量数据集以及两种广泛使用的数据挖掘软件Weka和ExcelMiner，便于读者理解数据挖掘知识。　　本书适合作为高等院校计算机及相关专业数据挖掘课程的教材，也可供广大技术人员参考。