独立成分分析

第1章 引论

1.1 多元数据的线性表示

1.2 盲源分离

1.3 独立成分分析

1.4 ICA的历史

第一部分 数学预备知识

第2章 随机向量和独立性

2.1 概率分布和概率密度

2.2 期望和矩

2.3 不相关性和独立性

2.4 条件密度和贝叶斯法则

2.5 多元高斯密度

2.6 变换的密度

2.7 高阶统计量

2.8 随机过程

2.9 小结与文献引述

习题

计算机练习

第3章 梯度和最优化方法

3.1 向量和矩阵梯度

3.2 无约束优化和学习规则

3.3 约束优化的学习规则

3.4 小结与文献引述

习题

计算机练习

第4章 估计理论

4.1 基本概念

4.2 估计器的性质

4.3 矩方法

4.4 最小二乘估计

4.5 极大似然法

4.6 贝叶斯估计

4.7 小结与文献引述

习题

计算机练习

第5章 信息论

5.1 熵

5.2 互信息

5.3 极大熵

5.4 负熵

5.5 通过累积量逼近熵

5.6 用非多项式函数近似熵

5.7 小结与文献引述

习题

计算机练习

本章附录：有关证明

第6章 主成分分析和白化

6.1 主成分

6.2 在线学习的PCA

6.3 因子分析

6.4 白化

6.5 正交化

6.6 小结与文献引述

习题

第二部分 独立成分分析基本模型

第7章 什么是独立成分分析

7.1 动机

7.2 独立成分分析的定义

7.3 ICA的实例

7.4 ICA比白化更加强大

7.5 高斯变量为何不能适用

7.6 小结与文献引述

习题

计算机练习

第8章 极大化非高斯性的ICA估计方法

8.1 非高斯就是独立的

8.2 用峭度来度量非高斯性

8.3 用负熵度量非高斯性

8.4 估计多个独立成分

8.5 ICA与投影寻踪

8.6 小结与文献引述

习题

计算机练习

本章附录：有关证明

第9章 ICA的极大似然估计方法

9.1 ICA模型中的似然度

9.2 极大似然估计算法

9.3 信息极大原理

9.4 例子

9.5 小结与文献引述

习题

计算机练习

本章附录：有关证明

第10章 极小化互信息的ICA估计方法

10.1 用互信息定义ICA

10.2 互信息和非高斯性

10.3 互信息和似然估计

10.4 极小化互信息的算法

10.5 例子

10.6 小结与文献引述

习题

计算机练习

第11章 基于张量的ICA估计方法

11.1 累积张量的定义

11.2 由张量特征值得到独立成分

11.3 用幂法计算张量分解

11.4 特征矩阵的联合近似对角化

11.5 加权相关矩阵方法

11.6 小结与文献引述

习题

计算机练习

第12章 基于非线性去相关和非线性PCA的ICA估计方法

12.1 非线性相关和独立性

12.2 Hérault?Jutten算法

12.3 Cichocki?Unbenauen算法

12.4 估计函数方法

12.5 通过独立性的等变自适应分离

12.6 非线性主成分

12.7 非线性PCA指标和ICA

12.8 非线性PCA指标的学习规则

12.9 小结与文献引述

习题

第13章 实际的考虑

13.1 时间滤波作为预处理

13.2 用PCA进行预处理

13.3 应该估计多少个成分

13.4 算法选择

13.5 小结与文献引述

习题

计算机练习

第14章 基本ICA方法的综述和比较

14.1 目标函数和算法

14.2 ICA估计原理的联系

14.3 统计最优非线性函数

14.4 ICA算法的实验比较

14.5 参考文献

14.6 基本ICA方法小结

本章附录：有关证明

第三部分 ICA的扩展及其相关方法

第15章 有噪声的ICA模型

15.1 定义

15.2 传感器噪声和信号源噪声

15.3 噪声成分数目较少的情况

15.4 混合矩阵的估计

15.5 估计无噪声的独立成分

15.6 通过稀疏编码收缩而去噪

15.7 小结

第16章 具有超完备基的ICA模型

16.1 独立成分的估计

16.2 估计混合矩阵

16.3 小结

第17章 非线性ICA

17.1 非线性ICA与BSS

17.2 后非线性混合的分离

17.3 采用自组织映射的非线性BSS

17.4 非线性BSS的一种生成拓扑映射方法

17.5 非线性BSS的一种集成学习方法

17.6 其他方法

17.7 小结

第18章 使用时间结构的方法

18.1 通过自协方差实现分离

18.2 利用方差的非平稳性实现分离

18.3 统一的分离原理

18.4 小结

第19章 卷积性混合和盲去卷积

19.1 盲去卷积

19.2 卷积性混合的盲分离

19.3 小结

本章附录：离散时间滤波器和z变换

第20章 ICA的其他扩展

20.1 混合矩阵的先验信息

20.2 放宽独立性假设

20.3 复值数据的处理

20.4 小结

第四部分 ICA的应用

第21章 基于ICA的特征提取

21.1 线性表示

21.2 ICA和稀疏编码

21.3 从图像中估计ICA的基向量

21.4 压缩稀疏编码用于图像去噪

21.5 独立子空间和拓扑ICA

21.6 与神经生理学的联系

21.7 小结

第22章 ICA在脑成像中的应用

22.1 脑电图和脑磁图

22.2 EEG和MEG中的伪迹鉴别

22.3 诱发磁场分析

22.4 ICA使用于其他的测量技术中

22.5 小结

第23章 无线通信

23.1 多用户检测和CDMA通信

23.2 CDMA信号模型和ICA

23.3 衰落信道的估计

23.4 卷积CDMA信号的盲分离

23.5 采用复值ICA改进多用户检测

23.6 小结与文献引述

第24章 ICA的其他应用

24.1 金融方面的应用

24.2 音频分离

24.3 更多的应用领域

参考文献

中英文术语对照

独立成分分析(ICA）方面，国际认可的最全面的一本书，3位作者在该方向上的权威性也无人可比。所以虽是旧书，仍有参考价值。独立成分分析(ICA)已经成为神经网络、 高级统计学和信号处理等研究领域中的重要方向之一。本书是国际上一本ICA的综合性著作，其中包括理解和使用该技术的相应数学基础知识。本书不仅介绍ICA的基本知识与概况，给出了重要的求解过程及算法，还涵盖了图像处理、 无线通信、 音频信号处理及更多其他应用。全书分四个部分共24章，第一部分介绍本书所用到的主要数学知识，第二部分是本书的重点，详细讲述了基本ICA模型及其求解过程，第三部分讨论基本ICA模型的多种扩展形式，第四部分讨论ICA方法在不同领域的应用。【作者简介】Aapo Hyvarinen：博士，芬兰科学院高级会员，目前在芬兰赫尔辛基技术大学神经网络研究中心工作。 Juha Karhunen 和 Erkki Oja 均为芬兰赫尔辛基技术大学神经网络研究中心教授。