可计算性和计算复杂性-朱一清.docx-道客多多

资源描述

1、可计算性和计算复杂性朱一清编著赵致琢审校内容简介本书深入浅出地介绍了研究可计算性的四个主要模型以及四个模型彼此之间的关系；介绍了计算复杂性的基本概念和重要的研究方法与一些研究成果。内容涉及递归函数、图灵机、演算、马尔可夫算法、计算复杂度的分类、完全理论、非一致复杂性等。分述于十章，书中附有习题。本书可作为

2、广大有志于突破计算复杂性研究僵局 “ ？ ”的科技工作者，计算机科学和元计算机科学工作者，数学和元数学工作者以及大专院校的教师和学生的入门书、教材和参考书，亦可作为计算机基础理论的参考书。图书在版编目（）数据可计算性和计算复杂性朱一清编著北京：国防工业出版社，可朱可计算性高等学校教材计算复杂性高等学校教材中国

3、版本图书馆数据核字（）第号（北京市海淀区紫竹院南路号邮政编码）北京奥鑫印刷厂印刷新华书店经售开本印张字数千字年月第版第次印刷印数册定价元（本书如有印装错误，我社负责调换）国防书店：（）发行邮购：（）发行传真：（）发行业务：（）前言世纪年代，有关数字计算机的研究逐渐形成了一门独立的理论计算机科学理论，为研

4、究这门理论又同时诞生了它的元理论元计算机科学。计算机科学，如大家所见到的，它研究怎样去 “做 ”计算机，研究计算机能够 “做什么 ”；元计算机科学则研究计算机科学本身，研究计算机科学这门理论的局限性，研究计算机 “不能做什么 ”。本书阐述的 “可计算性和计算复杂性 ”理论从内容来看，它不研究怎样进行计算（这由算法设计、程序设计

5、等课程去解决），而研究计算机在资源受限时，计算机充其量能做什么，换句话说，超过某个界限，计算机 “无法做了 ”。因此 “可计算性和计算复杂性 ”是关于计算理论的元理论。当然， “元理论 ”包含 “理论 ”，甚至元理论和理论使用同样的语言，讨论 “相同 ”的问题，以致人们 “无法 ”区分它们了。但只要注意到它们研究的层次是不同的就容易知道

6、你的研究是关于理论的还是元理论的了。例如，冯诺伊曼（）机是计算机科学家和工程师工作的对象，而图灵（）机是元计算机科学家使用的工具。“可计算性和计算复杂性 ”理论要说明的问题涉及计算机的硬件和软件的数学特征，因此该理论本质是数学的，也就是说它可用纸笔写下的符号和式子来表达，偶尔借助于实验。伽利略（）说过，宇宙

7、是用数学这支笔写就的，也许这也是我们的课程离不开数学的原因。数学是一个为攀登各种山峰而安扎的大本营，每个有志于攀登险峰的青年要在这个大本营里多多练习，多做准备。本书的写作自始至终得到厦门大学计算机系教授赵致琢博士的关心，并由他审阅全书。该书的大部分内容在暑假全国计算机科学与技术高级研讨班二期和三期介绍

8、过，并得到贵州大学计算机系陈孝威教授和陈笑蓉教授的指教，许多章节在贵州大学完成，最后由国防工业出版社出版。对所有帮助我写作和出版的同仁表示衷心的感谢。朱一清目录一章概论第一节相关定义第二节可计算性第三节计算复杂性第四节对可计算性定义的质疑练习题第一节初始函数第二节合成法生成新函数第三节算子法构造函数练习题

9、第第二章一般递归函数第三章图灵机第一节图灵机的基本模型第二节图灵机基本模型的功能第三节图灵机基本模型的修改第四节图灵机和判定问题第五节图灵机和递归函数练习题第四章演算第一节演算的语法第二节三个重要的组合算子第三节演算系统的扩充第四节归约第五节其他重要的组合算子第六节可定义的函数和递归函数练习题第五章马

10、尔可夫算法第一节演算和算法第二节马尔可夫算法第一节函数的计算复杂性第二节图灵机的计算复杂性第三节可构造的函数练习题第一节多项式可计算的函数第二节多项式时间的多一化归和完全集第三节多项式同构和第四节稀疏的完全集和第五节多项式时间图灵化归和练习题第三节图灵可计算的函数第四节图灵机和马尔可夫算法第五节马尔

11、可夫算法和递归函数练习题第六章计算复杂性第七章计算复杂性的分类第一节时间复杂类和空间复杂类第二节三个问题练习题第八章完全理论第九章非一致复杂性第一节第二节第三节第四节练习题布尔代数和布尔线路布尔线路和图灵机多项式超前函数布尔单行函数第十章谓词的可计算性第一节第二节第三节第四节参考文献一阶语言的语法和语义

12、一阶谓词演算系统数论谓词的判定性摹状词和摹状算子第一章概论可计算性和计算复杂性是两个紧密联系着的研究课题，可以作为一个独立的整体在计算机领域中被研究，也可分为两个专题研究。人们提出各种要计算的问题总是会问：该问题可计算吗？如果可计算，则它是容易被计算的还是较难被计算的？前一个问题由那些从事可计算性研究

13、的人们试图解决；而后一个则由专门研究计算复杂性的人来回答。由此产生一个更为基础的问题： “某问题可计算 ”其确切含意是什么？亦即， “可计算性 ”定义是什么？从资料可以看到，至少从年开始，数学家和逻辑学家就尝试给 “可计算性 ”下定义了。年，图灵（）和丘奇（）同时发表了他们推荐的定义。今天，这两个定义皆作为正确的定义被

14、接受下来了。随着研究的展开，许多分属数学、元数学、计算机科学、元计算科学及利用各种不同模型的种种定义出现了。后来证明有关可计算性的若干定义彼此是等价的。本章第一节和第二节中介绍可计算性的各种定义以及与可计算性的定义有关的概念。第一节相关定义数字计算机所解决的 “问题 ”指那种具有共性的 “单个问题 ”的集合，并假定

15、由图灵机或冯诺伊曼机来处理的那种 “问题 ”可由固定的方法转化为对数论函数的计算。在这样的前提下我们仅讨论数论函数。定义设，是自然数集合的子集，是函数，：，则称是一个数论函数。常见的数论函数有下面三种。（）：，；：，，，，。（）：，，；可计算性和计算复杂性：，，，，，。（）：，，，即真值函数；：，，，。这种函数

16、推广到谓词时得到数论谓词。关于谓词我们明确它的定义。，，）是元谓词，其中设（，，是个体域，如，，）或（，，）（即：，其中，，，；，分别表示 “真 ”和 “假 ”，则是数论谓词。定义谓词是以下（），（），（），（），（），（）的总称。（）谓词刻画个体、命题所具有的性质和关系的词，称为谓词。（）谓词变元以谓词为其值的变

17、元。（）谓词简空式当明确表示谓词联系的个体或命题的数目及位置时，用表示该谓词的符号，辅以括号、逗号和空位得到的式子，称为谓词简空式，记为（，，）或（）。，，），，，表示个空位（（）谓词命名式在谓词简空式的空位处填上个体变元或命题变元的填充式，称为谓词命名式。（）谓词填式指在谓词简空式的空位处填上个体或命

18、题的填充式。（）元谓词有个个体变元的谓词命名式，称为元谓词。本书还涉及到量词、算子和摹状词。定义（）量词所谓量词是指把谓词变成另一个谓词的约束词。常见的量词：存在量词、全称量词、唯一性量词。（）算子指把函数变成另一个函数的约束词。（）摹状词将谓词变成函数的约束词，称为摹状词。常见的摹状词：求最小根、求最

19、大根、求唯一根。总结一下上面的定义。函数：数数；算子：函数函数；量词：谓词谓词；第一章概论摹状词：谓词函数；数论函数：自然数自然数；数论谓词：自然数真，假。尚未见到讨论 “函数谓词 ”的文章。第二节可计算性可计算性的最初定义由图灵和丘奇给出。定义（图灵论点）可计算的函数和可用图灵机计算的函数等同。图灵提出这个

20、论点是说，人们说的可计算函数恰好是可用一种图灵机的抽象机所计算的函数。这种抽象机是图灵在年的一篇论文中设计的，现在人们简称为图灵机，简记为。该装置极其简单，功能却很强大，它基本上模拟了人的学习过程读和写。他在这篇论文中的原话是： “通常称作算法的过程，恰好可在抽象机上进行。 ”关于，当时人们意见不一。因为这

21、个论点既不能证明，也不能否定。大部分人认为这个论点本身体现了计算机科学的一条原理。反对意见之一：系统不够丰富，太简单。反对意见之二：系统过于丰富，存在着理论上可计算的函数，而不是实际上可计算的函数。这个意见后来成为研究计算复杂性的一个推动力。不久，克林（）证明图灵可计算的函数是一般递归函数。定义（丘奇论点）凡

22、可计算的函数和可定义的函数相同。丘奇提出的这个论点与图灵论点有异曲同工之妙。丘奇借助于一个语法极其简单功能却很强大的莱姆德（）系统（用希腊字母表示），让表达式来写可计算的函数。在这个演算系统中没有特殊的函数符号，例如槡，等，用 “”这个希腊字作为所有可计算函数的标准省缺名，所有特殊的函数符号仅为简记而引入

23、。这个系统中仅有两种运算，它们互为逆运算，一种是 “抽象 ”运算，用符号表示，另一种是 “作用 ”运算，未引进任何符号来表示。丘奇的意思是，凡可计算的函数，均可用冠以的表达式写出来。最近的研究又发现，演算的语法和语义可以看成范例型的程序设计语言。受演算理论的启发，定理、递归定理等得到证明。丘奇和克林相继完成了可定义

24、的函数也是一般递归函数的证明。这样，可计算的函数集与可定义的函数集是同一个函数集。人们常将丘奇和图灵的论点合为一个丘奇图灵论点：可计算函数是一般递归函数。定义（马尔可夫论点）一切可计算的函数都有算法可计算之，且这些算可计算性和计算复杂性法均可化为正规算法。这个论点与上述两个论点等价。该定义中的 “算法 ”应为

25、 “演算 ”，因为算法描述的过程一定会终止，而演算描述过程未必会终止。定义（）函数是可计算的，指当自变元的值给定以后，如（）有定义，则可在有限步内得出该函数的值；此外，当（）无定义时，亦能在有限步内判知，则说是完全可计算的，如不能在有限步内判知，则说是半可计算的。（）谓词是可判定的，指当自变元的值给定以后，

26、如（）有定义且为真，则可在有限步内判知，当（）无定义时或（）有定义且为假时，亦能在有限步内判知，则说谓词是完全可判定的。注： “可计算函数 ”是广义概念，实际上指半可计算更合适。因为相应的不终止或演算过程不终止时，此可计算函数实为半可计算函数。定义取自莫绍揆教授写的 “递归论 ”。定义（）一个函数有定义且有计算它

27、的程序，则该函数是可计算的。（）递归函数是可计算的。（）可由（）程序计算的函数是可计算的。程序指在机器的存储带上有一个序列，它记录函数（）的计算过程，，（）。机的计算是局部的：程序在一条线性带上操作，带是双向无穷的，在计算的任意步，带上是 “ ”和 “ ”的序列；机器读头读带上一个符号；读头动作：左移、右移、写

28、、抹，指令相应有：左移、右移、写 “ ”、写 “ ”。定义来自戴维斯（）的可计算性和不可解性一书。定义一个求解的问题可化为布尔线路的图、函数，则这个问题是可计算的（可解的），并能计算它的复杂度。定义由萨维奇（）给出。定义的计算模型与上述种不一样，称为非一致计算模型。只要把求解的问题转化成逻辑电路，那么这类问题是可

29、计算的。因此，凡能由谓词公式来表达的也是可计算的。例如，一个个节点的无向完全图与逻辑电路无关，但若用一定的方法转化成一个逻辑电路，则可讨论它的可计算性和计算复杂性了。，，，，，。例设，，，，，，第一章概论中有个三角形：，，，。成立当且仅当，，存在当且仅当当且仅当将理解为 “合取 ”，或 “与门 ”；边的存在理解为。因

30、此，三条边组成一个三角形化归为一个二元树表达，其节点是 “与门 ”，对应逻辑乘（合取）；若干个对应三角形用逻辑加（析取）表示。只要约定：对应对应* ，对应便行。，变为下述逻辑电路。实际上，图论中不少问题都是借助非一致计算模型来研究的。定义元数论谓词是可计算的指它的特征函数是可计算的。可计算性和计算复杂性这个定义将

31、谓词的计算性化归为函数的计算性。由丘奇等人的努力，计算函数的算法和程序的存在性进一步转化为函数的递归性。对不可计算的函数相应也有下面几种说法。（）函数不是递归的（这等于说是不可计算的）。（）某问题是不可判定的（若将该问题转化为函数，则化归出的函数不是递归的。这问题有点类似于证明题，它无程序或算法可用）

32、。（）某问题是不可解的（这问题相当于求作题，求解该问题的程序和算法不可能有）。事实上存在不可计算的问题。著名的有的停机问题，问题的解等。有人把哥德巴赫（）猜想也归入不可解类，但我们不知道这对不对。曾经把费马（）定理（，当时无整数解）归入这一类，现在看来这是错了。年，美国的安德罗怀尔斯教授在他的一个学生帮

33、助下，证出了这个定理。我读到机械工业出版社的计算理论导引一书的前言，说到自然数的素因子分解问题。赛普塞（）悲观地写道： “一个大的自然数，譬如说有位，，现今还没有人知道怎样才能在宇宙毁灭之前做完这件事（指分解成素数的乘积）！ ” 这也是一个不可解的问题？但在此书中译本印刷（年月）不久，于年月日，印度数学家马宁

34、德拉阿格拉沃夫与两个大学生合作找到一个巧妙的算法，确定一个数是否是素数，而不管这个数有多大。但人们似乎并不介意这个算法，全球狂热地寻找新素数的人越来越多。除美国克雷研究所外，全球约有部计算机加入这个寻找世界上最新素数的 “游戏 ”，而无一例外地还用类似于年法国人梅森（）的方法。他们日夜兼程，志愿加入 “互联网梅

35、森素数搜索计划 ”（），做这种从前只有数论专家做的事。成千上万台计算机马不停蹄地一路狂跑。年月，在美国密歇根大学研究生薛佛的计算上找到迄今最大的素数且为梅森数，长达位。记得年克雷研究所得到当时世界上最大的梅森，即素数是，有位，是第个梅森素数。年，找到的次最大的梅森素数有多万位。看来把某一个问题归入不可解类

36、，其本身也许是一个难解型的问题。第三节计算复杂性上一节我们介绍了几种可计算性的定义，由克林、图灵、丘奇等人的努力，证烅第一章概论明了可计算函数是一般递归函数，在后面的有关章节我们将提供这种证明。但定义、定义和定义，即图灵论点、丘奇论点和马尔可夫论点都是非形式概念，其本身的正确性我们苦于无法提供证明，只能给

37、出 “合理的证明 ”，只能由 “迄今为止未有反例 ”来作证。可计算的概念直觉上等同于一般递归的概念，其实我们真的不知道一般递归函数是否包括所有的可计算函数。我们只能知道（只能证明），我们所知道的（我们能够证明的）。在下一节我们将会总结一下人们对可计算性概念的几个反面的看法。有一点肯定的是，可计算的函数至少有可数无

38、穷那么多，甚至不可数无穷之多。结论可计算的函数集至少是可数无穷集。证明假定依戴维斯的定义（第二节定义），对于每个可计算的函数都存在一个计算它的程序或算法，又假定每一个计算机程序或算法都能有穷地表示。因此，计算机程序的集合与某个有穷字母表上的全体有穷长的符号串的集合等势。因而，所有计算机程序的集合是可数无

39、穷的，可计算的函数集至少是可数无穷集。结论可计算的函数集有不可数无穷之多。证明假定可计算函数组成一个可数无穷集。考虑将整数映射到，的数论函数，：，，：，，中每个均与的元素一一对应，即时，均有编号，，。与可计算函数集等势。构造函数，：，烄（）如（）设，烆（）否则如果可计算，则亦可计算：（），（）（），，（

40、）（）所以否则，设（）（）（）则可计算性和计算复杂性（）与（）（）矛盾。因此不是可数无穷集，可计算函数集（）不是可数无穷集。在这么多的可计算函数里，这些函数被计算时，它们的难度相当吗？答案是否定的。研究可计算函数的计算难度就是被称为计算复杂性理论的内容。问题的难度分为两大类，顽型和易型。定义（顽型问题（

41、））指用抽象作模型时需要比较多的时间和空间资源，它超出了多项式复杂性的范围。也就是说，解此类问题时，找不到多项式复杂性的算法。举一个几乎每本书都举的经典例子。设有两个算法，一个是耗时（耗空间）；另一个是，当时，用百万次计算机解，前者要，后者只要。可见多项式算法才是现实所要的算法。定义（易型问题）指用抽

42、象作模型时，该问题有多项式复杂性时间和空间的算法。计算复杂性理论就是研究和断定一个问题是否是顽型问题的理论。研究时通常利用时间复杂性函数（）和空间复杂性函数（），考虑当增大时，（）和（）的极限情形，称作渐近时间复杂性和渐近空间复杂性。对算法的复杂性大多只给出它们关于问题大小的数量级。例如对某个常数，一个算法在时间内处理完大小为的输入，就说这个算法的时间复杂度为（），读作大喔，或说的平方级。另外还有（），读作小喔，等等。现约定如下（以下记号在本文中用到）。（）（）（（））若（），（）是数论函数，当充

展开阅读全文