模式识别

第1章 绪论

1.1 模式识别概论

1.1.1 模式识别基本概念

1.1.2 模式识别系统的组成

1.1.3 模式识别方法

1.2 模式识别数学基础

1.2.1 随机向量

1.2.2 正态分布

第2章 判别函数方法

2.1 引言

2.2 线性判别函数

2.2.1 两类的线性判别

2.2.2 多类的线性判别

2.3 Fisher判别分析法

2.3.1 Fisher判别分析

2.3.2 多重判别分析

2.4 广义线性判别函数

2.4.1 一维的例子

2.4.2 多维的例子

2.5 感知准则函数和梯度下降法

2.5.1 基本概念

2.5.2 梯度下降法

2.5.3 感知器准則函数

2.6 最小平方误差准则函数

2.6.1 MSE准則函数及其伪逆解

2.6.2 伪逆法

2.6.3 梯度下降法

2.6.4 Widrow-Hoff算法

2.7 适合于多类直接分类的决策树方法

2.7.1 评价准则

2.7.2 基于信息熵的信息增益

2.7.3 ID3决策树算法的递归描述

2.7.4 ID3算法举例

习题

第3章 Bayes决策理论

3.1 最小错误率贝叶斯决策

3.2 最小风险的贝叶斯决策

3.3 正态分布的贝叶斯分类器

3.3.1 各类协方差都相等，且各分量相互独立情况

3.3.2 各类协方差都相等，但各分量不相互独立情况

3.3.3 一般情况

3.3.4 数字实例

3.4 纽曼一皮尔逊（Neyman-Pearson，NP）决策规则

3.5 最小最大决策

习题

第4章 错误率以及密度函数的估计

4.1 错误率

4.1.1 正态、等协方差情况下贝叶斯分类器错误率公式

4.1.2 错误率的上界

4.1.3 错误率的实验估计

4.2 密度函数估计——参数法

4.2.1 最大似然估计

4.2.2 逐次的贝叶斯估计和贝叶斯学习

习题

第5章 近邻分类法

5.1 单中心点情况

5.2 多中心点情况

5.3 最近邻法

5.4 K近邻法

5.5 最近邻法的缺点及改进方法

5.5.1 剪辑近邻法

5.5.2 凝聚法

习题

第6章 聚类分析

6.1 距离及相似性度量

6.2 聚类准则

6.2.1 离差平方和准则

6.2.2 离散度准則

6.3 系统聚类法

6.3.1 最短距离法

6.3.2 最长距离法和中间距离法

6.3.3 重心法、类平均和可变类平均法

6.3.4 离差平方和法

6.3.5 系统聚类法的性质

6.4 动态聚类法

6.4.1 K-meanS算法

6.4.2 ISODATA算法

习题

第7章 特征选择

7.1 维数问题和类内距离

7.1.1 维数问题

7.1.2 类內距离

7.2 集群变换

7.2.1 集群变换的基本思想

7.2.2 用集群变换进行特征选择

7.2.3 集群变换的例子

7.3 K-L变换

7.3.1 从表达模式看K-L变换

7.3.2 K-L变换举例

7.3.3 混合白化后抽取特征

7.3.4 混合白化后抽取特征的例子

7.4 分散度

7.4.1 分散度的概念

7.4.2 分散度用于特征选择

习题

第8章 支持向量机理论

8.1 引言

8.2 支持向量机理论的数学基础

8.2.1 无约束极值

8.2.2 等式约束下的条件极值与Lagrange函数法

8.2.3 不等式约束下的优化问题

8.3 最大间隔分类器

8.3.1 最大间隔线性分类器

8.3.2 广义最大间隔线性分类器

8.4 支持向量机

8.4.1 核函数与核技巧（Kernel Trick）

8.4.2 支持向量机

8.4.3 多类问题的支持向量机分类

8.4.4 支持向量机的实现方法和软件包

第9章 人工神经网络

9.1 人工神经网络概述

9.1.1 引言

9.1.2 人工神经网络基础

9.2 前馈神经网络及其主要算法

9.2.1 MP模型

9.2.2 感知器模型

9.2.3 前馈神经网络

9.2.4 反向传播算法（BP法）

9.2.5 径向基函数网络

9.3 反馈网络——Hopfield网络

9.3.1 Hopfield网络概述

9.3.2 离散Hopfield网络（DHNN）

9.3.3 联想存储器

9.3.4 优化计算

9.3.5 连续Hopfield网络（CHNN）

9.4 自适应共振理论神经网络

9.4.1 概述

9.4.2 ART网络的结构及原理

9.4.3 ART工网络算法步骤

9.5 自组织特征映射神经网络

9.5.1 概述

9.5.2 SOFM网络模型及功能

9.5.3 SOFM网络原理

第10章 基于隐马尔科夫模型的识别方法

10.1 一阶马尔科夫模型（MM）

10.2 一阶隐马尔科夫模型（HMM）

10.2.1 离散马尔科夫过程

10.2.2 隐马尔科夫模型的概念

10.2.3 隐马尔科夫模型的参数

10.2.4 隐马尔科夫模型的三个基本问题

参考文献

《模式识别/普通高等教育“十二五”重点规划教材·新核心理工基础教材》系统地论述了各类经典模式识别的基本概念、基本原理、典型方法、实用技术以及有关研究的新成果。
　　《模式识别/普通高等教育“十二五”重点规划教材·新核心理工基础教材》讨论的模式识别技术涵盖统计模式识别、支撑向量机理论、人工神经网络技术以及基于隐马尔科夫模型的识别方法等多个方面。全书共分10章。第1章为绪论；第2章至第7章系统地介绍统计模式识别的基本理论和基本方法，包括用似然函数做模式识别、用距离函数做模式识别，以及特征选择，具体为：判别函数方法、Bayes决策理论、错误率和密度函数估计、最近邻法、聚类分析以及特征选择；第8章论述支撑向量机理论；第9章介绍人工神经网络技术；第10章讨论基于隐马尔科夫模型的识别方法。
　　《模式识别/普通高等教育“十二五”重点规划教材·新核心理工基础教材》可供模式识别与智能系统、计算机科学与技术、控制科学与工程、生命科学与技术及其他领域的和有关专业的研究生、本科高年级学生作为关于信息分析、检测、识别的教材或教学参考书，也可以供相关专业的科研人员参考。