GPU高性能运算之CUDA

前言

第1章GPU通用计算

1.1多核计算的发展

1.1.1CPU多核并行

1.1.2超级计算机、集群与分布式计算

1.1.3CPU+GPU异构并行

1.2GPU发展简介

1.2.1GPU渲染流水线

1.2.2着色器模型

1.2.3NVIDIAGPU发展简介

1.3从GPGPU到CUDA

1.3.1传统GPGPU开发

1.3.2CUDA开发

第2章CUDA基础

2.1CUDA编程模型

2.1.1主机与设备

2.1.2Kernel函数的定义与调用

2.1.3线程结构

2.1.4硬件映射

2.1.5deviceQuery示例

2.1.6matrixAssign示例

2.2CUDA软件体系

2.2.1CUDAC语言

2.2.2nvcc编译器

2.2.3运行时APl与驱动APl

2.2.4CUDA函数库

2.3CUDA存储器模型

2.3.1寄存器

2.3.2局部存储器

2.3.3共享存储器

2.3.4全局存储器

2.35主机端内存

2.3.6主机端页锁定内存

2.3.7常数存储器

2.3.8纹理存储器

2.4CUDA通信机制

2.4.1同步函数

2.4.2Volatile关键字

2.4.3ATOM操作

2.4.4VOTE操作

2.5异步并行执行

2.5.1流

2.5.2事件

2.6CUDA与图形学APl互操作

2.6.1CUDA与OpenGL的互操作

2.6.2CUDA与Direct3D互操作

2.7多设备与设备集群

2.7.1CUDA设备控制

2.7.2CUDA与openMP

2.7.3CUDA与集群

第3章CUDA硬件架构

3.1NVIDIA显卡构造简介

3.1.1图形显卡概览

3.1.2PCIE总线

3.1.3显存

3.1.4GPU芯片

3.2Tesla图形与计算架构

3.2.1SPATPCSM

3.2.2主流GPU架构

3.3Tesla通用计算模型

3.3.1数据与指令的加载

3.3.2warp指令的发射与执行

3.3.3纹理、渲染和存储器流水线

第4章CUDA程序的优化

4.1CUDA程序优化概述

4.2测量程序运行时间

4.2.1设备端测时

4.2.2主机端测时

4.3任务划分

……

第5章综合应用

附录A安装、配置、编译及调试

附录B常见问题与解答

附录C技术规范

附录DC扩展

附录E数学函数

附录F纹理拾取

附录G着色器模型

　　本书是全国第一本全面介绍CUDA软硬件体系架构的书籍。全面介绍使用CUDA进行通用计算所需要的语法、硬件架构、程序优化技巧等知识，是进行GPU通用计算程序开发的入门教材和参考书。本书可作为CUDA的学习入门和编程参考书，主要面向从事高性能计算的程序员与工程师，使用GPU加速专业领域计算的科研人员，以及对GPU通用计算感兴趣的程序员。开设相关课程的高等院校与科研机构也可选用本书作为教材。　　本书是全国第一本全面介绍CUDA软硬件体系架构的书籍。全面介绍使用CUDA进行通用计算所需要的语法、硬件架构、程序优化技巧等知识，是进行GPU通用计算程序开发的入门教材和参考书。　　本书共分5章。第1章介绍GPU通用计算的发展历程，介绍并行计算的历史、现状以及面临的问题；第2章介绍CUDA的使用方法，帮助读者理解CUDA的编程模型、存储器模型和执行模型，掌握CUDA程序的编写方法；第3章探讨CUDA硬件架构，深入分析TeslaGPU架构与CUDA通用计算的相互作用：第4章总结CUDA的高级优化方法，对任务划分、存储器访问、指令流效率等课题进行探讨；第5章以丰富的实例展示如何使用CUDA的强大性能解决实际问题。　　本书可作为CUDA的学习入门和编程参考书，主要面向从事高性能计算的程序员与工程师，使用GPU加速专业领域计算的科研人员，以及对GPU通用计算感兴趣的程序员。开设相关课程的高等院校与科研机构也可选用本书作为教材。