人工智能的逻辑极限

来源:哲学园        发布时间:2019-11-04

老蝉按:今日一篇文章《丘奇—图灵论点与人类认知能力和极限》与刘晓力老师的文章观点不同,本人在《丘奇...》文中有点评。欢迎阅读。

 

人工智能的逻辑极限

 

刘晓力

 

作者简介:北京师范大学哲学系,北京 100875

人大复印:《逻辑》2002 年 02 期

原发期刊:《哲学动态》2001 年第 .增刊 期 第 22-25 页

关键词: 人工智能的极限/ 哥德尔定理/ 认知可计算主义/ 认知的算法不可完全性/

摘要:“人的智能和人工智能的极限”已列入21世纪需要解决的重大数学问题清单,本文试图从 逻辑的角度对人工智能的极限问题进行探讨,特别指出哥德尔定理与人工智能极限之间的关 系,并对人工智能的“认知可计算主义”研究纲领提出质疑。

1.斯梅尔第十八数学问题

 

过去几十年计算机技术的巨大成就正在向人类智能发起挑战。“电脑能否代替人脑”,“ 人类心智是否会永远胜过计算机”,“哥德尔不完全性定理是否设定了人工智能不可克服的 逻辑极限”?这是哲学家和人工智能专家及其反对者们激烈争论的话题。

 

哥德尔不完全性定理是为了解决1900年希尔伯特提出的20世纪需要解决的23个数学问题之 一所得的数学结果。事隔100年,曾任美国数学会主席的斯梅尔又向全世界数学家提出了21 世纪需要解决的24个数学问题,其中的第18个问题是,“人类智能的极限和人工智能的极限 是什么”?并且指出,这个问题与哥德尔不完全性定理有关。

 

哥德尔定理告诉我们:在任何包含初等数论的形式系统中,都必定存在不可判定命题。有 了图灵机概念之后,它的一个等价命题是,任何定理证明机器都至少会遗漏一个真的数学命 题不能证,这就是数学的算法不可穷尽性。这一性质被许多人用来作为“在机器模拟人的智 能方面必定存在着某种不能超越的逻辑极限”的论据。

 

那么,哥德尔定理与人工智能的极限之间究竟有什么关系?哥德尔本人对此如何评价的?人 工 智能是否存在它的逻辑极限?

 

2.人工智能研究现状

 

人工智能方案起于20世纪40年代后期。1936年图灵首先以“图灵机”概念对算法概念给予 数学刻画,1950年又在《计算机器与心智》中提出“机器能思维吗?”这一重要问题,并设 计了“图灵测验”,为人工智能的研究提供了某种理论依据和检验方法。1948年维纳创立“ 控制论”,研究动物与机器中的控制和通讯的反馈控制原理及信息传输、信息交换和信息加 工过程等规律。1954年艾什比出版《大脑的设计》,开辟了以行为模拟的观点研究人工智能 的途径。1956年夏季,人工智能的先驱者麦卡希、明斯基、香农等人发起,在美国达特茅斯 大学举办“如何用机器模拟人的智能”学术会议,正式使用“人工智能”术语,成为这门新 的研究领域诞生的标志。从此以后,人工智能的研究分别沿着三个方向深入:

 

(1)机器思维方向;包括机器证明、机器博弈、机器学习启发程序及化学分析、医疗诊断、 地质勘探等专家系统及知识工程的问世。(2)机器感知方向;包括机器视觉、机器听觉等文 字、图象识别、自动语言理解的理论、方法和技术以及感知机和人工神经网络的研究。(3) 机器行为方向;包括具有自学习、自适应、自组织特性的智能控制系统、控制论动物和智能 机器人的研究开发。

 

半个世纪以来,人工智能在理论研究和实践过程中,大致经历了三大研究纲领的变迁:

 

(1)符号主义学派主张思维的基本单元是符号,智能的核心是知识以及利用知识推理进行问 题求解,智能活动的基础是物理符号运算,人脑、电脑同样都是物理符号系统,人的智能可 以通过建立基于符号逻辑的智能理论体系来模拟;(2)联结主义学派断言智能活动的基本单 元是神经细胞,智能活动过程是神经网络状态的演化过程,智能活动的基础是神经细胞之间 的突触联结机制,智能系统的工作模式是神经网络模式,智能系统理论是基于非线性动力学 的系统论;(3)行为主义学派坚信智能行为是以“感知-行动”的反应模式为基础,智能水平 可以而且需要在真实世界的复杂境域中进行学习训练,在与周围环境的信息交互作用与适 应过程中不断进化和体现。

 

尽管1965年人工智能的领袖人物西蒙就曾预言,“20年内,机器将能做人所能做的一切。 ”1977年明斯基也曾预言,“在一代人之内,创造人工智能的问题将基本解决。”但是,几 十年里,虽经研究纲领的几次变迁,但三大派研究纲领仍未超出“认知可计算主义”的核心 ,因此在人工智能领域至今没有出现真正的革命性突破,而且人工智能的发展不时地陷入不 曾预想到的各种困难。显然,关键之点仍是人的智能和计算之间的关系究竟如何,人类认知 的本质究竟是否是可计算的问题。

 

3.关于人工智能极限的鲁卡斯论证和彭罗斯论证 关于人工智能极限问题的争论也许最早可见1921年波斯特关于人心比机器优越的猜想。193 6年图灵发表重要文章《论可计算数》指出,“我们将假定需要计数的心的状态数是有穷的 。这是因为,如果我们承认心的状态有无穷多,它们中的某些状态就会由于‘任意接近’而 被混淆”。图灵的这段话曾被看作“人类心智活动不可能超越任何机械程序”的一个论证。 1950 年图灵在《计算机器与智能》中指出,我们不能因为一台机器不能参加选美大赛而责备 它,就像我们不能因为一个人没有飞机跑得快就责备他一样,机器也能够思维。这篇文章还 隐含着“人心等价于一台计算机”的论断,图灵的观点对当时刚刚兴起的人工智能方案无疑 是一强有力的声援,也自然引起了一场大争论。

 

1961年美国哲学家鲁卡斯在36卷《哲学》杂志上以极其激烈的言辞首先撰文《心、机器、 哥德尔》,试图用哥德尔定理直接证明“人心超过计算机”的结论:“依我看,哥德尔定理 证明了机械论是错误的,因为,无论我们造出多么复杂的机器,只要它是机器,就将对应于 一个形式系统,就能找到一个在该系统内不可证的公式而使之受到哥德尔构造不可判定命题 的程序的打击,机器不能把这个公式作为定理推导出来,但是人心却能看出它是真的。因此 这台机器不是心的一个恰当模型。这就是著名的鲁卡斯论证。随后,另一位美国哲学家怀特 利在接下来的37卷《哲学》杂志上发表了强有力的批驳文章《心、机器、哥德尔——回应鲁 卡斯》,遂引起许多人卷入并长达几十年的争论。1979年获得普利策文学大奖的美国畅销书 《哥德尔、艾舍、巴赫,一条永恒的金带》将艾舍尔义蕴深刻的版画、巴赫脍炙人口的乐章 与哥德尔定理戏剧性地连接在一起,试图从多个视角阐明如何用哥德尔定理否证强人工智能 方案。1989年,英国数学家、物理学家罗杰·彭罗斯在风靡全球的《皇帝新脑,计算机、 心智和物理定律》中,对鲁卡斯论证又作了进一步扩展,指出计算机不过是强人工智能专家 所钟爱的一副“皇帝新脑”而已。被称为“哥德尔定理令人吃惊的强应用。”引发了1990年 《行为和大脑科学》杂志上许多人介入的一场争论。1997年和1998年当代语言哲学家塞尔相 继出版《意识之迷》和《心灵、语言和社会》两部书,断言,仅仅依靠单纯的输入输出,绝 不能担保人的意识,特别是意向性的呈现,因此计算机不可能完全模拟人的意识活动。

 

4.人工智能的极限不是哥德尔定理的直接推论

 

对哥德尔定理与人工智能极限之间的关系,哥德尔本人如何看待?从哥德尔的部分重要手稿 和70年代与王浩的谈话记录中我们得知,哥德尔在严格区分了心、脑、计算机的功能后作出 明确断言,“大脑的功能不过像一台自动计算机”,“心与脑的功能同一却是我们时代的偏 见”,但不完全性定理不能作为“人心胜过计算机”的直接证据,要推出如此强硬论断还需 要其他假定。

 

 

于是,“人心是否胜过计算机”的问题事实上可以转换为几个子问题:(1)是否大脑和心的 功能等同?(2)是否大脑的运作等同于计算机的运作?(3)是否心的活动都是可计算的?这三个 问题实际上就是心脑同一论问题、大脑的可计算主义和心的可计算主义问题。

 

心脑同一论是50年代末以来西方颇为流行的占据主流的一种理论,也是人工智能的理论基 础。但哥德尔认为,心脑同一论是今日普遍接受的时代偏见。其中的一条理由是,根本没有 足够的大脑神经元来实现心的复杂的运作。在哥德尔的手稿中我们也可以看到他对心的可计 算主义的批驳。

 

首先,哥德尔曾在多种场合申明,他本人并不反对用不完全性定理作为证明“人心胜过计 算 机”这一结论的部分证据,因为在他看来,不完全性定理并未给出人类理性的极限,而只 揭示了数学形式主义的内在局限,但是,仅仅使用他的定理不足以作出如此强硬论断。在 1972年的一篇评论中哥德尔指出,图灵给出的“心智过程不能超越机械过程”的论证在附加 以下两个假定之后才有可能:(1)没有与物质相分离的心。(2)大脑的功能基本上像一台数字 计算机,他认为(2)的概然性很高;但无论如何,(1)是将要被科学所否证的,是我们时代的 偏见。

 

实际上,早在1951年的吉布斯演讲手稿(1995年发表)中,哥德尔就指出,“从我的定理可 以推出的结论只能是如下形式的选言判断:或者数学是不可完全的,即它的自明的公理不可 能包含在有穷规则中,因此人心超过有穷机器;或者存在人心绝对不可判定的数论问题”。

 

哥德尔随后用他称之为“理性乐观主义”的立场对这一选言判断进行了分析:如果我们像 希尔伯特那样,坚信“人类理性提出的问题人类理性一定能够解答”,那么就可以否定第二 选 言支,因为,承认“存在人心绝对不可判定的数论问题”是与我们的这一信念背道而驰的。 这样一来,第一选言支就应当成立,即人心胜过计算机。可见,在哥德尔看来,附加了“人 类理性提出的问题人类理性一定能够解答”这样一个哲学假定,有可能从不完全性定理推出 “人心胜过计算机”的结论。当然,哥德尔也意识到,这种对于“心脑同一论”和“心的可 计算主义”的否证未必令人信服,因为它毕竟是一种推论式的。

 

值得注意的一点是,哥德尔第二不完全性定理的一种形式是说,任何恰当的定理证明机器 ,或者定理证明程序,如果它是一致的,那么它不能证明表达它自身一致性的命题是定理。 哥德尔说,一方面,人心不能将他的全部数学直觉形式化,如果人心把他的某些数学直觉形 式化了,这件事本身便要产生新的直觉知识(如该系统的一致性);另一方面,不排除存在一 台定理证明机器确实等价于数学直觉,但重要的在于,假定有这样的机器M,由不完全性定 理,我们不可能证明M确实能做到这点。

 

看来,当人们应用哥德尔定理试图严格地作出“人心胜过计算机”的论证时,其中包含着 一个令人难以察觉的漏洞:问题的核心并不在于是否存在能捕获人类直觉的定理证明机器, 而恰恰在于,即使存在这样一台机器,也不能证明它确实做到了这一步。恰如哥德尔所说: “不完全性结果并不排除存在事实上等价于数学直觉的定理证明机器。但是定理蕴涵着,在 这种情况下,或者我们不能确切知道这台机器的详情,或者不能确切知道它是否会准确无误 地工作。”

 

也许在考察了如上各种关于心、脑、计算机问题的独特见解之后,我们有必要指出,哥德 尔曾解释过他所说的“心”的含义:“我所说的心是指有无限寿命的个体的心智,这与物种 的心智的聚合不同”。而且,除了必要的哲学假定之外,在哥德尔看来,回答“人心是否胜 过计算机”这一问题还依赖于我们能否消除内涵悖论,还要取决于包括大脑生理学在内的整 个科学的进展。

 

5.超越图灵意义上的认知可计算主义

 

哥德尔定理确实使我们思考这样的问题:由于人设计制造了计算机,人总能从外部观察和 操纵机器。假定设计机器去解决某个问题集a,b,c,……,那么,如果计算机等价于一个 形式系统,根据哥德尔定理,在这个形式系统中将产生这台机器不能解决的问题(例如系统 本身的一致性问题),但从外部观察,这个问题却是人的智能可解的。于是,为了解决问题 集a,b,c,……,又会产生新的计算机不能解决的问题集x,y,z,……。

 

同样需要强调的是,哥德尔1931年曾经在一个重要脚注和给蔡梅罗的信中指出,“所有数 学形式系统的内在不完全性的根源在于,更高类型的形式化总能持续到超穷,……因此,这 里构造的不可判定命题在更高类型中将变成可判定的”。哥德尔的这一断言无疑为我们不断 突破低层形式系统的局限,寻求更高类型形式系统模拟人类智能提供了丰富的空间。我们无 法 证明人工智能存在某种不可逾越的逻辑极限,完全可以探讨如何超越目前的图灵机来模拟人 类智能的新途径。

 

计算机是人类为了自身目的而设计制造的,这种制造者与被制造者之间的强关系将人置于 面对面地统治机器的绝对优越地位,这种地位究竟是一种社会学意义上的优越,还是计算机 和人的智能的本质特性所决定的?或者像哥德尔断定的,存在与物质相分离的心能超越任何 计算机去发现和证明某些数学定理,至少在发现具有超穷性质的数学真理,提出数学公理、 构造假说方面是任何计算机都无法企及的;抑或像彭罗斯断言的那样,人心具有一种特殊的 能力,这种能力是建立在迄今未予发现的某些物理学规律的基础上,而且能超越任何计算 机实现非算法的运算?这确是需要我们深入探讨的问题。

 

我认为,现在一个更值得思考的问题是,我们以上的讨论都是建立在图灵意义上的可计算 概念基础上的,目前人工智能领域也完全是在图灵意义上可计算概念基础上产生的“认知可 计算主义”的范式指导下工作。即使不论用一个形式系统表达图灵机的方式不唯一,我们也 应当考虑到,对于模拟人类智能的计算机,完全可以采用某种新型的形式系统,采用包含非 古典逻辑的具有动态性质的形式系统。同样不容忽视的一个问题是,这种形式系统至少应当 保证紧致性定理成立,应当在原始递归的范围之内,这样一来,哥德尔不完全性定理就自然 成立,因此仍然没有超出哥德尔所言的逻辑极限范围。

 

那么能否构造新型的形式系统,它不是哥德尔构造不可判定命题的静态的古典逻辑的形式 系统?而且在这种系统中哥德尔定理不成立?更进一步,可计算性的概念是否可超越图灵机可 计算概念的范围,我们是否可寻求某种非图灵机理论模型去模拟人类心智,计算是否是人类 认知和智能活动的主要,甚至是全部内容,计算概念是否只能意味着图灵机可计算?

 

我们认为,人工智能,甚至整个认知科学正在面临着一场研究范式的转换,基于图灵可计 算概念的“认知可计算主义”研究纲领已经显示出其极大的局限,必将代之以“认知的算法 不可完全性”为核心的研究纲领。人类必将探索新的非图灵机概念来尝试解决人工智能更深 层的问题,以摆脱在理论和实践上的困境。目前西方学者已经在探讨“超越(图灵机)计算” 的问题,应当引起我们足够的关注。