\"算法引论（第二部分）\

一、本书的内容 目前，市面上有关计算机算法的书很多，有些叙述严谨但不全面，另外一些则是容量很大但不够严谨。本书将叙述的严谨性以及内容的深度和广度有机地结合了起来。第1版推出后，即在世界范围内受到了广泛的欢迎，被各高等院校用作多种课程的教材和业界的标准参考资料。它深入浅出地介绍了大量的算法及相关的数据结构，以及用于解决一些复杂计算问题的高级策略(如动态规划、贪心算法、平摊分析等)，重点在于算法的分析和设计。对于每一个专题，作者都试图提供目前最新的研究成果及样例解答，并通过清晰的图示来说明算法的执行过程。. 本书是原书的第2版，在第1版的基础之上增加了一些新的内容，涉及算法的作用、概率分析和随机化算法、线性规划，以及对第1版中详尽的、几乎涉及到每一小节的修订。这些修订看似细微，实际上非常重要。书中引入了“循环不变式”，并贯穿始终地用来证明算法的正确性。在不改动数学和分析重点的前提下，作者将第1版中的许多数学基础知识从第一部分移到了附录中。 二、本书的特点 本书在进行算法分析的过程中，保持了很好的数学严谨性。书中的分析和设计可以被具有各种水平的读者所理解。相对来说，每一章都可以作为一个相对独立的单元来教授或学习。书中的算法以英语加伪代码的形式给出，只要有一点程序设计经验的人都能读懂，并可以用任何计算机语言(如C／C++和Java等)方便地实现。在书中，作者将算法的讨论集中在一些比较现代的例子上，它们来自分子生物学(如人类基因项目)、商业和工程等领域。每一小节通常以对相关历史素材的讨论结束，讨论了在每一算法领域的原创研究。 本书的特点可以概括为以下几个方面： 1．概念清晰，广度、深度兼顾。 本书收集了现代计算机常用的数据结构和算法，并作了系统而深入的介绍。对涉及的概念和背景知识都作了清晰的阐述，有关的定理给出了完整的证明。 2．“五个一”的描述方法。 本书以相当的深度介绍了许多常用的数据结构和有效的算法。编写上采用了“五个一”，即一章介绍一个算法、一种设计技术、一个应用领域和一个相关话题。.. 3．图文并茂，可读性强。 书中的算法均以通俗易懂的语言进行说明，并采用了大量插图来说明算法是如何工作的，易于理解。 4．算法的“伪代码”形式简明实用。 书中的算法均以非常简明的“伪代码”形式来设计，可以很容易地把它转化为计算机程序，直接应用。 注重算法设计的效率，对所有的算法进行了仔细、精确的运行时间分析，有利于进一步改进算法。 三、本书的用法 本书对内容进行了精心的设计和安排，尽可能考虑到所有水平的读者。即使是初学计算机算法的人，也可以在本书中找到所需的材料。 每一章都是独立的，读者只需将注意力集中到最感兴趣的章节阅读。 1．适合作为教材或教学参考书。 本书兼顾通用性与系统性，覆盖了许多方面的内容。本书不但阐述通俗、严谨，而且提供了大量练习和思考题。针对每一节的内容，都给出了数量和难度不等的练习题。练习题用于考察对基本内容的掌握程度，思考题有一定的难度，需进行精心的研究，有时还通过思考题介绍一些新的知识。 前言回到顶部↑本书提供了对当代计算机算法研究的一个全面、综合性的介绍。书中给出了多个算法，并对它们进行了较为深入的分析，使得这些算法的设计和分析易于被各个层次的读者所理解。力求在不牺牲分析的深度和数学严密性的前提下，给出深入浅出的说明。. 书中每一章都给出了一个算法、一种算法设计技术、一个应用领域或一个相关的主题。算法是用英语和一种“伪代码”来描述的，任何有一点程序设计经验的人都能看得懂。书中给出了230多幅图，说明各个算法的工作过程。我们强调将算法的效率作为一种设计标准，对书中的所有算法，都给出了关于其运行时间的详细分析。 本书主要供本科生和研究生的算法或数据结构课程使用。因为书中讨论了算法设计中的工程问题及其数学性质，因此，本书也可以供专业技术人员自学之用。 本书是第2版。在这个版本里，我们对全书进行了更新。所做的改动从新增了若干章，到个别语句的改写。 致使用本书的教师 本书的设计目标是全面、适用于多种用途。它可用于若干课程，从本科生的数据结构课程到研究生的算法课程。由于书中给出的内容比较多，只讲一学期一般讲不完，因此，教师们应该将本书看成是一种“缓存区”或“瑞典式自助餐”，从中挑选出能最好地支持自己希望教授的课程的内容。 教师们会发现，要围绕自己所需的各个章节来组织课程是比较容易的。书中的各章都是相对独立的，因此，你不必担心意想不到的或不必要的各章之间的依赖关系。每一章都是以节为单位，内容由易到难。如果将本书用于本科生的课程，可以选用每一章的前面几节内容；在研究生课程中，则可以完整地讲授每一章。 全书包含920多个练习题和140多个思考题。每一节结束时给出练习题，每一章结束时给出一些思考题。练习一般比较短，用于检查学生对书中内容的基本掌握情况。有一些是简单的自查性思考题，另一些则要更充实，可以作为家庭作业布置给学生。每一章后的思考题都是些叙述较为详细的实例研究，它们常常会介绍一些新的知识。一般来说，这些思考题都会包含几个小问题，引导学生逐步得到问题的解。 在那些不太适合于本科生、更适合于研究生的章节和练习前面，都加上了星号(*)。带星号的章节也不一定就比不带星号的更难，但可能要求了解更多的数学知识。类似地，带星号的练习可能要求有更好的数学背景或创造力。 致使用本书的学生 希望本教材能为同学们提供关于算法这一领域的有趣介绍。我们力求使书中给出的每一个算法都易于理解和有趣。为了在同学们遇到不熟悉或比较困难的算法时提供帮助，我们逐个步骤地描述每一个算法。此外，为了便于大家理解书中对算法的分析，对于其中所需的数学知识，我们给出了详细的解释。如果对某一主题已经有所了解，会发现根据书中各章的编排顺序，可以跳过一些介绍性的小节，直接阅读更高级的内容。 本书是一本大部头著作，读者所修的课程可能只讲授其中的一部分。我们试图使它能成为一本现在对读者有用的教材，将来在读者的职业生涯中，也能成为一本案头的数学参考书或工程实践手册。 阅读本书需要哪些预备知识呢? ·读者需要有一些程序设计方面的经验，尤其需要理解递归过程和简单的数据结构，如数组和链表。 ·读者应该能较为熟练地利用数学归纳法进行证明。书中有一些内容要求读者具备初等微积分方面的知识。除此之外，本书的第一部分和第八部分将介绍读者需要用到的所有数学技巧。 致使用本书的专业技术人员 本书涉及的主题非常广泛，因而是一本很好的算法参考手册。因为每一章都是相对独立的，因而，读者可以重点查阅自己感兴趣的主题。 在我们所讨论的算法中，多数都有着极大的实用价值。因此，我们在书中涉及了算法实现方面的考虑和其他工程方面的问题。对于那些为数不多的、主要具有理论研究价值的算法，通常还给出其实用的替代算法。 如果希望实现这些算法中的任何一个，就会发现，将书中的伪代码翻译成读者熟悉的某种程序设计语言，是一件相当直接的事。伪代码被设计成能够清晰简明地描述每一个算法。因此，我们不考虑出错处理和其他需要对读者所用编程环境有特定假设的软件工程问题。我们力求简单而直接地给出每一个算法，而不会让某种特定程序设计语言的特殊性掩盖算法的本质内容。 致我们的同事 .我们在本书中给出了详尽的参考文献。每一章在结束时都给出了“本章注记”，介绍一些历史性的细节和参考文献。但是，各章的注记并没有提供整个算法领域的全部参考文献。有一点可能是让人难以置信的，就是在本书这样一本大部头中，由于篇幅的原因，很多有趣的算法都没能包括进来。.. 尽管学生们发来了大量的请求，希望我们提供思考题和练习的解答，但我们还是决定不提供思考题和练习的参考答案，以彻底打消学生们试图查阅答案、而不是自己动手得出答案的念头。 第2版中所做的修改 在本书的第1版和第2版之间有哪些变化呢?这些变化可以说不太大，也可以说很大，具体要看读者怎么看待这些变化了。 快速地浏览一遍目录，就会发现，第1版中的多数章节在第2版中都出现了。在第2版中，去掉了两章和一些节的内容，增加了三章新的内容。除了这三章新的内容外，还增加了四个新节。如果单从目录来判断第2版中改动的范围的话，得出的结论很可能是改动不大。 但实际上，第2版中的改动远不止目录中显示的那样。以下列出了第2版中所做的主要改动(没有经过特别的排序)： ·新增了Clifford Stein这位合著者。 ·修正了一些错误。有多少错误呢?可以说有几个吧。 ·增加了新的三章内容： ·第1章讨论了算法在计算中的作用。 ·第5章介绍了概率分析和随机算法。如第1版中一样，这些主题贯穿了整本书。 ·第29章专门讨论了线性规划。 ·在从第1版保留下来的各章中，增加了关于以下主题的新节： ·完全散列技术(perfect hashing)(第11．5节)。 ·动态规划的两个应用(第15．1节和第15．5节)。 ·利用随机化和线性规划技术的近似算法(第35．4节)。 ·为了使更多的算法可以更早地在书中出现，第1版中有关数学背景知识的三章内容从第一部分移到了附录中，即现在的第八部分。 ·新增了40多个思考题和超过185个练习题。 ·明确地使用循环不变式来证明算法的正确性。第一个循环不变式出现在第2章中；整本书中循环不变式共用到了数十次。 ·很多概率分析都进行了重新编写。特别地，我们在十多处用到了“指示器随机变量”(indicator random variable)技术，它简化了概率分析，在随机变量之间互相依赖的情况下，尤其如此。 ·扩展和更新了各章注记和参考文献。参考文献增加了50％以上，我们也提及了许多在第1版印刷之后，新出现的算法研究成果。 我们还进行了以下的改动： ·有关递归求解的那一章中，不再包含迭代方法了。在第4．2节中，我们将递归树“提升”为一种方法。我们发现，与对递归式进行迭代相比，画出递归树后出错的可能性小了。但是，我们也指出了递归树的最佳用途，即利用它来产生猜测，再利用替代方法对猜测进行验证。 ·快速排序(第7．1节)中用到的划分方法与期望线性时间顺序统计算法(expected linear-time order-statistic algorithm，第9．2节)有所变化。现在，我们采用了Lomuto提出的方法，并将该方法与指示器随机变量一起使用，从而可以使分析更为简单一些。第1版中采用的是Hoare提出的方法，它现在是作为第7章中的一个思考题出现的。 ·在第11．3．3节中，修改了对通用散列技术(universal hashing)的讨论，将其纳入到关于完美散列的讨论中。 ·在第12．4节中，对随机构造二叉查找树的高度，给出了一个简单得多的分析。 ·对动态规划元素的讨论(第15．3节)和对贪心算法元素的讨论(第16．2节)大大地扩展了。关于活动选择问题的解释在贪心算法一章中开始出现，有助于读者搞清楚动态规划与贪心算法之间的关系。 ·在第21．4节中，我们换掉了对不相交-集合-并(disjoint-set-union)数据结构运行时间的证明，代之以利用潜势方法(potential method)导出一个紧致界的证明。 ·在第22．5节中，对强连通子图算法正确性的证明更简单、清晰，也更直接了。 ·对讨论单源最短路径的第24章做了重新组织，把对基本性质的证明移到了各自的节中。这种新的结构使我们可以更早地将注意力放在算法上。 ·第34．5节给出了对NP完全问题的一个有所扩展的综述，并新增了对哈密顿回路(hamiltonian-cycle)与子集和(subset-sum)问题的NP完全性的证明。 对书中的每一节，几乎都做了重新编辑，修正了说明和证明中的错误，使之更简单明了。... 目录回到顶部↑出版者的话 专家指导委员会 译者序. 前言 第一部分 基础知识 引言 第1章 算法在计算中的作用 1．1 算法 1．2 作为一种技术的算法 第2章 算法入门 2．1 插入排序 2．2 算法分析 2．3 算法设计 2．3．1 分治法 2．3．2 分治法分析 第3章 函数的增长 3．1 渐近记号 3．2 标准记号和常用函数 第4章 递归式 4．1 代换法 .4．2 递归树方法 4．3 主方法 *4．4 主定理的证明 4．4．1 取正合幂时的证明 4．4．2 上取整函数和下取整函数 第5章 概率分析和随机算法 5．1 雇用问题 5．2 指示器随机变量 5．3 随机算法 *5．4 概率分析和指示器随机变量的进一步使用 5．4．1 生日悖论 5．4．2 球与盒子 5．4．3 序列 5．4．4 在线雇用问题 第二部分 排序和顺序统计学 引言 第6章 堆排序 6．1 堆 6．2 保持堆的性质 6．3 建堆 6．4 堆排序算法 6．5 优先级队列 第7章 快速排序 7．1 快速排序的描述 7．2 快速排序的性能 7．3 快速排序的随机化版本 7．4 快速排序分析 7．4．1 最坏情况分析 7．4．2 期望的运行时间 第8章 线性时间排序 8．1 排序算法时间的下界 8．2 计数排序 8．3 基数排序 8．4 桶排序 第9章 中位数和顺序统计学 9．1 最小值和最大值 9．2 以期望线性时间做选择 9．3 最坏情况线性时间的选择 第三部分 数据结构 引言 第10章 基本数据结构 10．1 栈和队列 10．2 链表 10．3 指针和对象的实现 10．4 有根树的表示 第11章 散列表 11．1 直接寻址表 11．2 散列表 11．3 散列函数 11．3．1 除法散列法 11．3．2 乘法散列法 *11．3．3 全域散列 11．4 开放寻址法 *11．5 完全散列 第12章 二叉查找树 12．1 二叉查找树 12．2 查询二叉查找树 12．3 插入和删除 *12．4 随机构造的二叉查找树 第13章 红黑树 13．1 红黑树的性质 13．2 旋转 13．3 插入 13．4 删除 第14章 数据结构的扩张 14．1 动态顺序统计 14．2 如何扩张数据结构 14．3 区间树 第四部分 高级设计和分析技术 导论 第15章 动态规划 15．1 装配线调度 15．2 矩阵链乘法 15．3 动态规划基础 15．4 最长公共子序列 15．5 最优二叉查找树 第16章 贪心算法 16．1 活动选择问题 16．2 贪心策略的基本内容 16．3 赫夫曼编码 *16．4 贪心法的理论基础 *16．5 一个任务调度问题 第17章 平摊分析 17．1 聚集分析 17．2 记账方法 17．3 势能方法 17．4 动态表.. 17．4．1 表扩张 17．4．2 表扩张和收缩 第五部分 高级数据结构 概述 第18章 B树 18．1 B树的定义 18．2 对B树的基本操作 18．3 从B树中删除关键字 第19章 二项堆 19．1 二项树与二项堆 19．1．1 二项树 19．1．2 二项堆 19．2 对二项堆的操作 第20章 斐波那契堆 20．1 斐波那契堆的结构 20．2 可合并堆的操作 20．3 减小一个关键字与删除一个结点 20．4 最大度数的界 第21章 用于不相交集合的数据结构 21．1 不相交集合上的操作 21．2 不相交集合的链表表示 21．3 不相交集合森林 *21．4 带路径压缩的按秩合并的分析 第六部分 图 算 法 引言 第22章 图的基本算法 22．1 图的表示 22．2 广度优先搜索 22．3 深度优先搜索 22．4 拓扑排序 22．5 强连通分支 第23章 最小生成树 23．1 最小生成树的形成 23．2 Kruskal算法和Prim算法 第24章 单源最短路径 24．1 Bellman-Ford算法 24．2 有向无回路图中的单源最短路径 24．3 Dijkstra算法 24．4 差分约束与最短路径 24．5 最短路径性质的证明 第25章 每对顶点间的最短路径 25．1 最短路径与矩阵乘法 25．2 Floyd-Warshall算法 25．3 稀疏图上的Johnson算法 第26章 最大流 26．1 流网络 26．2 Ford-Fulkerson方法 26．3 最大二分匹配 *26．4 压入与重标记算法 *26．5 重标记与前移算法 第七部分 算法研究问题选编 引言 第27章 排序网络 27．1 比较网络 27．2 0-1原理 27．3 双调排序网络 27．4 合并网络 27．5 排序网络 第28章 矩阵运算 28．1 矩阵的性质 28．2 矩阵乘法的Strassen算法 28．3 求解线性方程组 28．4 矩阵求逆 28．5 对称正定矩阵与最小二乘逼近 第29章 线性规划 29．1 标准型和松弛型 29．2 将问题表达为线性规划 29．3 单纯形算法 29．4 对偶性 29．5 初始基本可行解 第30章 多项式与快速傅里叶变换 30．1 多项式的表示 30．2 DFT与FFT 30．3 有效的FFT实现 第31章 有关数论的算法 31．1 初等数论概念 31．2 最大公约数 31．3 模运算 31．4 求解模线性方程 31．5 中国余数定理 31．6 元素的幂 31．7 RSA公钥加密系统 *31．8 素数的测试 *31．9 整数的因子分解 第32章 字符串匹配 32．1 朴素的字符串匹配算法 32．2 Rabin-Karp算法 32．3 利用有限自动机进行字符串匹配 *32．4 Knuth-Morris-Pratt算法 第33章 计算几何学 33．1 线段的性质 33．2 确定任意一对线段是否相交 33．3 寻找凸包 33．4 寻找最近点对 第34章 NP完全性 34．1 多项式时间 34．2 多项式时间的验证 34．3 NP完全性与可归约性 34．4 NP完全性的证明 34．5 NP完全问题 34．5．1 团问题 34．5．2 顶点覆盖问题 34．5．3 哈密顿回路问题 34．5．4 旅行商问题 34．5．5 子集和问题 第35章 近似算法 35．1 顶点覆盖问题 35．2 旅行商问题 35．2．1 满足三角不等式的旅行商问题 35．2．2 一般旅行商问题 35．3 集合覆盖问题 35．4 随机化和线性规划 35．5 子集和问题 第八部分 附录：数学基础知识 引言 A 求和 A．1 求和公式及其性质 A．2 确定求和时间的界 B 集合等离散数学结构 B．1 集合 B．2 关系 B．3 函数 B．4 图 B．5 树 B．5．1 *树 B．5．2 有根树和有序树 B．5．3 二叉树与位置树 C 计数和概率 C．1 计数 C．2 概率 C．3 离散随机变量 C．4 几何分布与二项分布 C．5 二项分布的尾 参考文献 索引...