1、人工智能时代的社会转型与行政伦理:机器能否管理人? 何哲 国家行政学院公共管理教研部 摘 要： 人类正在进入到人工智能时代。人工智能将会全面渗透到人类社会的各个层面和活动之中, 并对整个人类社会的形态与组织产生极大的改变。人工智能时代将是人类文明的又一次高峰, 同时也是人类社会的又一次重大转型。人工智能对于政府而言, 将对传统政府的职能、效能产生极大的推进作用, 同时也产生较为严重的伦理和职能挑战。对于政府而言, 一个首要的核心问题是机器能否管理人?这是政府转型所面临的头等重要的问题。通过对这一问题进行探讨, 认为人工智能时代分为多个阶段, 在弱人工智能时代, 人工智能参与人类管理行为, 本质
2、依然是人的管理;在强人工智能时代, 人工智能将会在较大程度上替代人类作出决策, 将面临着严峻的行政伦理问题;在超人工智能时代, 人类文明将进入新的阶段, 人工智能与人类的共生共存或许将是一种常态。关键词： 人工智能; 行政伦理; 政府转型; 社会管理; 后信息社会; 作者简介：何哲 (1982) , 男, 陕西西安人, 博士, 国家行政学院公共管理教研部副研究员, 国家战略研究中心秘书长, 研究方向包括网络社会治理、国家战略、社会秩序与制度演化等。收稿日期：2017-08-27Received： 2017-08-27人工智能作为技术, 其雏形最早起源于 20 世纪中叶, 伴随着网络技术、大数据
3、技术的迅速扩展, 从 2010 年起, 人工智能进一步快速发展, 目前已经逐步渗透到社会的各个方面, 可以说, 人类当前已经逐渐进入到人工智能时代。对于人工智能而言, 可以肯定的是, 人工智能时代将是人类文明的另一次新的重大转型和高峰, 在这样的历史转型面前, 人类社会中的各种组织形态和活动都将发生深刻的重构, 甚至人类社会本身都将发生巨大的改变。因此, 人类必须在这样重大的历史时刻到来之时, 对人工智能所产生的重大挑战和转变进行严肃的思考。政府或者行政体制是人类社会特别是工业时代后的人类社会创造出的最大的组织形态。行政体制对于社会维护公共秩序、提供公共服务和产品、促进人类社会的发展和繁荣,
4、产生了重大的积极作用。历史证明, 对于重大的时代转型, 政府也必将发生深刻的相应变革, 从而适应于社会的需要而提供更好更有效率的公共服务产品。面对人工智能时代的来临, 必须要严肃思考和做好政府适应性转型的战略和策略准备1。对于政府转型而言, 其首要问题是面对人工智能不断地参与到公共管理中, 人工智能是否能够管理人这样一个伦理问题。因为, 有史以来所有人类管理行为的前提是人类社会的自我管理, 也就是说, 只有人能够管理、裁判人的行为, 并采取相应的管制措施。而人工智能的不断发展, 势必将使得人类终有一天面临这一问题。这一问题看似简单, 但是其实是关乎到人类主体性2的根本性问题, 必须要在这样的时
5、代到来之时慎重地思考和讨论这一问题。本文旨在对这一问题进行慎重的讨论, 试图对这一问题给出初步的回答。一、人类重大时代转型与行政体制的转型以工业时代转型为例人类自有史以来, 大体经历过几个重要的历史转型, 大约在 20 万年前, 智人在进化中脱颖而出, 形成了原始人类。在一万年前, 人类发生了第一次经济革命, 也称之为农业革命, 人类掌握了大规模的种植技术, 从渔猎采集时代进入到农业时代。进入到农业时代之后, 人类出于集体劳动、兴修农业水利设施、保卫公共安全等需要, 第一次形成了大规模的行政体制。而进入到 15 世纪后, 随着地理大发现、文艺复兴、全球海洋贸易的促进, 人类迎来了历史上的第二次
6、经济革命工业革命, 人类通过对于自然能源利用技术的提升, 逐渐系统性地构建了以大机器为核心的经济体系和以社会化分工与专业化为基础的社会管理体制, 并且通过两者的相互促进, 人类取得了有史以来前所未有的文明成果 (马克思语) 。而伴随着二战后信息技术、自动化技术、能源、生物等技术的飞速发展, 人类逐渐迎来了新的历史变革, 也就是当今所面临着的重大时代转型。其中, 网络技术、大数据技术、人工智能技术是社会组织方面的重大代表性技术变革。从这样的历史进程来看, 可以准确地预见到, 当前所发生的重大技术变革, 将会引发前所未有的人类社会大变革。而对于政府而言, 其变革同样是重大的。以工业革命为例, 可以
7、看到, 工业革命在改变整个社会形态的同时, 也深刻改变了行政体制的形态、职能和运作模式。简而言之, 人类从农业社会到工业社会, 在行政体制上发生了如下重大的改变。(一) 确立了以社会分工为基础的行政体制专业化在工业革命之前的农业社会, 社会经济活动进展缓慢, 生产效率低下, 与此相对应的社会分工也较弱。整个行政体系也较为松散, 只是满足于基本的收税、战争, 提供统治阶层的享乐等, 也缺乏稳定的行政体制职能界定和相应的组织人员。而进入到工业时代后, 生产的社会化分工进一步扩展到整个社会, 社会不同的职业分工越来越明显, 一方面提高了社会的生产效率, 另一方面也促进了社会中各种组织形态的发育和成长
8、。在行政体制方面, 其核心是建立了一支专业分工的文官团队和行政组织, 一方面, 确立了政府的核心职能, 包括立法、保护公民财产、兴建公共设施、提供公共秩序等;另一方面, 也建立了客观公正的人员选拔体制, 通过考试和专业化技能来确定政府组织人员。也就是说, 工业革命后, 行政体制才朝着越来越专业化、越来越职业化的专业性组织演化, 改变了原先农业文明时代的以家族、血缘世袭为核心的权力分享和垄断体系。(二) 确立了以公民授权为核心的合法性基础和代议制架构工业时代前的人类社会政府, 其核心权力来源于两个, 一是来自于神秘主义的神授, 如上帝和其他类似的超自然崇拜;二是来自于暴力, 包括对外的征服和对内
9、的暴力统治。而工业革命之后, 伴随着新生的工商业阶层的崛起, 不断要求分享传统政府体系封闭的权力架构, 并最终通过资产阶级革命, 确立了以资产阶级为核心主导的公民授权体系和工业时代典型的代议制架构。其核心思想有三:一是权力本身来自于公民的授权而不是神授或者世袭;二是行政权力的行使依据来自于公民的普遍同意形成的法律体系, 法无授权不可为;三是法律的具体制定和法律下的行政执行则由委托体系授权专业性的立法代表和行政官员进行。(三) 确立了以等级科层制为核心的行政官僚制在行政体制的核心职能与其合法性基础解决后, 工业时代后的行政体制进一步加剧了其内部结构和复杂度的演化。庞大严密的横向职能分工, 垂直等
10、级命令传递的庞大职业官僚体制, 这种官僚体制有几个核心特点:首先, 官僚体制分成高低不同的严密层级, 下级需要严格服从上级符合法律的行政命令;其次, 层级内则根据政府事务的分工, 划分为不同的行政专业部门, 每一部门严格履行自身的职能, 理想状态下互不交叉;再次, 行政组织内的组成人员根据考试和专业知识进入或者退出, 并根据其绩效逐级晋升或者降级。从以上阐述可以看出, 工业革命在深刻重塑人类社会的同时, 对于政府行政体制而言, 产生了极为深刻和根本性的变革。其在行政伦理方面, 确定了行政体系的公共性, 改变了原先政府只是围绕少数统治阶层享乐的服务机构;其在行政职能方面, 确立了专业化的行政体系
11、, 使得行政体系成为专业化的社会分工中的重要一环;其在行政合法性方面, 确立了公民授权的代议体制;其在行政架构上, 确立了森严的等级科层制的金字塔结构。从行政体制转型的原因来看, 首先, 根本在于社会结构和行为方式的转变, 从而引发了公共管理与公共服务的要求转变, 新的社会阶层的出现, 新的社会主体的出现, 新的管理工具与组织的出现, 都要求政府必须进行转型;其次, 是新的社会思维的出现, 当人越来越通过科学技术创造机器改变世界时, 就会越来越不相信天赋神授的权力观, 而相信人能够自己为自己做主;再次, 是新的管理主体的出现, 工商业的发达, 促使了社会中更多个体受到教育和组织化的训练, 也为
12、行政体制的专业化提供了大量的人才。而从人类自农业时代向工业时代转型的历史经验可以看出, 在人类历史发生重大转型的过程中, 行政体制将会面临极为剧烈的转型。因此, 在人类全面迈进人工智能时代时, 人类必须认真严肃地思考对政府的影响和改变。二、人工智能时代的到来、阶段与社会转型人工智能技术的发展和到来是一个在过去 70 年间伴随着信息技术的发展而不断推进的过程。自从 20 世纪 40 年代电子计算机诞生起, 计算机就不断参与到人的决策辅助和判断之中, 所以说, 自 20 世纪 40 年代, 人工智能的雏形就已经产生。而从 20 世纪 50 年代起, 早期的人工智能技术取得了较快的发展, 图灵提出了
13、著名的图灵测试后, 1955 年人工智能 (AI) 这一概念正式在学术界和产业界提出并被接受。进入到 60 年代, 伴随着电子计算机在硬件与软件方面的发展, AI 迅速在各个领域展开, 如人工智能语言 Lisp 的发明、早期棋类程序的出现、电子游戏的发明等等, 都极大推进了人工智能的研究进展。进入到 80 年代, 日本政府提出要开发第五代计算机, 其本质就是构建与人类一样自主适应与学习的智慧体。虽然这一项目最终失败了, 但是其集中体现了人类在信息技术的中前期一直对人工智能研究投入的高度关注和实践理想。而人工智能的真正快速发展, 则是在 20 世纪 90 年代之后, 特别是与互联网技术的迅速发展
14、和广泛应用密不可分。自 1990 年万维网的发明和广泛应用后, 互联网从原先的军事与科研目的深入渗透到社会的各个方面, 在生产组织、社会交际、组织管理、媒体交互、公共空间等方面, 互联网都正在颠覆性地改变着原有的社会与组织形态。伴随着互联网的发展, 人类行为不断通过网络进行交互, 也带来了社会本身的数字化, 人类从而进入到所谓的大数据时代。IBM 的研究声称, 在整个人类文明所获得的全部数据中, 有 90%是过去两年内产生的, 而到了 2020 年, 全世界所产生的数据规模将达到如今的 44 倍。每一生命个体每年要产生 200G 以上的各类数据。而对于这些数据的深度分析和关联性的逻辑判断, 则
15、一方面要求更为强大的硬件计算能力;另一方面要发掘出更强大的适应性算法, 能够对海量的数据进行有效的清洗和分析, 从而辅助人类进行更好的社会决策和个体服务。这就在实际的需求层面切实推动人工智能的发展。进入到 2010 年后, 一方面有更强大计算能力的硬件和更为优化的算法的推动;另一方面, 是对于更大规模数据的分析和社会各层面对于广泛数据性服务劳动的需求, 促使了人工智能技术迅速地发展起来。2011 年, IBM 超级电脑沃森在美国老牌益智节目中击败人类。此后沃森飞速发展成为跨平台的通用人工智能平台。2016 年, Google 公司的人工智能系统 Alpha Go (阿尔法狗) 击败人类围棋世界
16、冠军李世石, 成为人工智能领域标志性的事件。此后, 人工智能在各个领域迅速突破, 在自我学习、自我认知、自我交互等领域, 都产生了突飞猛进的成果。2017 年, 甚至爆出 Facebook 的两台计算机在通信时进化出了人类无法识别的语言。一些研究认为, 在 2020 年左右, 人工智能将会夺走发达国家500 万个工作岗位, 十年之内, 人工智能将替代至少 1/3 的工作岗位。因此, 从人工智能的发展历程来看, 其核心驱动在于三点:一是人类本身的强大想象与创造欲望, 本质是人类不断改造塑造客体并创造万物的本性;二是强大的社会需求的驱动, 不断创造的数据需求分析和难以满足的人工服务需求, 促进了寻
17、求更高智能的人类劳动的替代体;三是相关技术的需求, 围绕着人工智能, 相应的自动控制、生物技术、认知心理学、网络信息技术、高性能计算等一系列相关技术, 共同促成了人工智能的不断发展。从过去和未来来看, 人工智能必将经历三个阶段, 即弱人工智能阶段、强人工智能阶段以及超人工智能阶段。(一) 弱人工智能阶段的社会转型所谓弱人工智能 (Weak Artificial Intelligence, Weak AI) , 或者称之为狭义人工智能 (Artificial Narrow Intelligence, ANI) , 即是指人工智能只能够在某一方面的人类工作上协助或者替代人类, 如图像识别、信息检索
18、、信息判断等, 而不具备全面复合自我学习能力, 无法全面地与人类智慧相比。弱人工智能的历史已经较长, 可以说, 从电子计算机诞生之后, 机器就开始辅助或者替代人类进行大量思维性的工作, 人类就已经进入到弱人工智能时代。几乎所有的科学计算、人机交互、电子游戏、信息化自动控制, 都是弱人工智能的范畴。迄今为止, 即便是强大到战胜李世石的阿尔法狗和在智力竞赛中战胜人类的沃森, 都依然属于弱人工智能。在弱人工智能阶段, 人类社会所发生的重大影响体现在以下几个方面:一是与智能计算相关的各种应用逐渐进入到人类社会的各个方面。在各种需要人类参与的较高级劳动 (需要思维意识参与) , 人工智能都将深刻地嵌入其
19、中。呼叫应答、信息检索、信息整合、自动控制、图像识别、专业化的程序化策略集等, 在部分程度上替代人类。二是人类将逐渐熟悉人工智能的社会介入。在弱人工智能阶段, 机器计算的广泛应用将极大增强每一个体在信息社会的适应和技能。在不断参与人类活动的过程中, 人类逐渐接受并高度依赖人工智能的介入, 从而在另一方面逐渐失去人类的自主性。三是社会将由于人工智能的介入而呈现高度繁荣。工业革命用新能源和机器替代了大量的人类体力劳动, 带来了高度的社会繁荣。而在弱人工智能的不断介入下, 大量的人类脑力劳动被更为高效的人工智能部分替代, 从而促成了新的效率的增长和创新的发展, 最终促成了社会的又一次高度繁荣。(二)
20、 强人工智能阶段的社会转型所谓强人工智能 (Strong Artificial Intelligence, Strong AI) , 又称为通用人工智能 (Artificial General Intelligence, AGI) , 是指人工智能体具备了普遍的学习和自适应训练能力, 具有高度的对外界环境的感知和新事物的理解与学习能力, 能够自我学习新的领域、自我完善的人工智能。强人工智能时代, 将是一个重大的转变。这标志着人工智能达到或者接近了人类的思维状态, 特别是人类的自我学习能力和对外界事务的高度适应性。只有到了强人工智能阶段, 人类才算真正进入能够创造高度智慧的文明程度。对于何时能够
21、进入到强人工智能阶段, 目前的说法依然不一, 最乐观的看法认为, 人类将在 2020 年左右实现强人工智能构建, 而较为保守的观点认为至少要到 2050 年左右人类才能够发展出堪比人类学习能力的强人工智能3。然而, 无论如何, 对于是否能够有朝一日构建出接近甚至达到人类智慧水平的强人工智能体, 学术界和产业界几乎并没有什么分歧, 只是在具体达到的时间上, 有所不一致。在强人工智能阶段, 人类社会所发生的重大影响体现在以下几个方面:一是人工智能普遍嵌入到各种设备并深度融合到人类活动与社会整体之中。人工智能终端将从目前的电脑、手机等有限的形式, 广泛拓展到各种人们所能够接触使用的物品之中, 形成万
22、物智慧的智能物联网。二是高度拟人态的人形机器人将出现并充分融入社会生活。在弱人工智能时代, 人工智能更多意义上只是一个嵌入到信息设备中的程序体, 是帮助人类从事相关的信息检索和智能判断的工具, 还远谈不上是机器人。而在强人工智能时代, 具备高度的自我学习和新领域适应能力的智慧程序和完善的感知技术, 与不断发展的新材料和生物技术 (运动追踪、模拟) 相结合, 创造出的高度拟人态的机器人将是一种必然。这将意味着人类终将创造出与自己高度类似的个体。而拟人态的机器人, 将全面介入到人类的各种生产生活之中。三是人类将面临严重的劳动替代和相关的社会转型。在有史以来的人类社会中, 劳动价值论都是一条核心的经
23、济学准则, 也就是说, 大部分商品的价值是由人的劳动时间和复杂程度决定的。即便到了资本主义时代后期, 所谓的资本、管理等生产要素产生价值, 本质上都是劳动价值论的变体。也就是说, 自有史以来的人类社会, 劳动都是重要的不可或缺的社会要素, 并且这里所指的劳动是自然人的劳动。然而, 在强人工智能时代, 高度的智慧体加上高度机械工具, 几乎人类所有的生产性劳动都可以替代。对于那些传统上必须由人来提供的劳动, 也可以由高度逼真的人形机器人来实现。那么, 必然产生人的劳动与产品价值的脱钩。这与传统上整个人类生产体系和价值分配体系都是迥然相异的。这就要求人类必须进行相应的社会转型。(三) 超人工智能阶段
24、的社会转型所谓超人工智能 (Artificial Super Intelligence, ASI) , 是指在强人工智能的基础上, 通过海量的数据整合和高度的学习与自我进化能力, 具有的远远超越人类智慧水平的人工智能4。有学者认为, 超人工智能是指超越人类所有智慧总和的人工智能。无论如何, 在超人工智能时代, 都意味着人工智能达到了相当高的水平, 从而标志着人类本身完成了从智慧体到创造智慧体的转型。对于超人工智能的实现时间, 目前依然没有定论, 一种观点认为在 2060 年左右, 人类将实现超人工智能5。但是这种观点依然是不确定的, 因为到底超人工智能是否真正会实现, 或者人类本身能否创造出等
25、同并超越人类的智慧体, 或者智慧本身是否能够被有机生命人为创造而不是宇宙自然漫长的演化结果, 这依然是需要谨慎观察的。但是, 根据人工智能本身的指数型的发展与进化速度而言, 以及人类对于自身的大脑智慧的理解与研究深入而言, 超人工智能很可能是会实现的, 并且是在人类设计与足够大的信息节点连接后自主演化相结合的结果, 从而涌现出超人工智能。在超人工智能阶段, 人类社会所面临的挑战和转型将是彻底的。首先, 人类可能将面临着严重的主体性消失的挑战。所谓主体性, 是指人类对自身生存发展的自我掌握的权力与状态。自从人类演化形成以来, 人类始终牢牢掌握自身的命运, 作为整体, 人类在自然界中没有天敌和对手
26、, 这种状态既来自于人类本身的智慧, 也来自于人类社会的高组织性。然而, 超人工智能的出现, 既可能替代了人类的智慧, 也可能来自于万物互联所形成的更为强大的组织性。所以, 人类是否会被自我创造的智慧体最终淘汰, 这是首要严重问题。其次, 人类也将具有前所未有的整体智慧与更深远的探索自然与宇宙的能力。超人工智能一定是整体性的智能, 传统上认为人工智能可能是单体类似于人类, 如同日本在 20 世纪 80 年代设想的第五代计算机一样。然而, 事实证明单体的人工智能很难达到高性能人工智能甚至超人工智能的水平, 而无时无刻的高速网络的连接, 使得所有的人工智能的运算单元, 形成广泛共享的计算与信息连接
27、, 才是最可能形成超人工智能的, 这就意味着, 任何人类所创造的信息化的知识信息都将被智能体所自主学习和掌握, 从而形成整体性的人工智能。在整体性的人工智能基础上, 人类将汇集有史以来的全部智慧并以各种人造形态承载, 人类也将更加具备在更为复杂恶劣的情况下探索自然与宇宙的能力, 人类也将同步进入到宇宙时代。再次, 人类将形成新的文明形态, 进入新的文明阶段。当人类的智慧性活动和体力性劳动都可以被人工智能所替代, 并且人类的大部分智慧都以人工智能的形式而存在时, 人类社会就必然进入一种新的社会形态。在这一社会形态中, 社会通过普遍的信息与智能连接, 形成更大的完整性社会网络, 每个自然人通过人工
28、智能网络相连, 也被人工智能网络所隔绝。人类的主要活动则是不断地试图理解人工智能体系并不断修复和注入新的智慧使其进化。人类和人工智能形成完整的生命共生态, 共同塑造形成宇宙新的文明体系。可以看到, 当前人类正处于弱人工智能向强人工智能阶段转型的关键时期, 而未来还将面临更为剧烈的社会转型。因此, 当前必须要做好制度设计, 慎重面对。三、机器能否管理人?我们回到问题本身, 之所以用了很长的篇幅来讨论人类历史转型对行政体制的影响以及人工智能的进化阶段, 是因为这两个问题都与本文探讨的主旨问题高度相关。当前的社会转型必然产生行政体制的深彻变革;而在不同阶段, 对于机器能否管理人这一问题的回答是不同的
29、。就这一问题本身而言, 机器能否管理人的内在要素是两个方面:一是机器是否具有管理人的能力;二是机器是否具有管理人的权力。这两个问题一个是技术和能力问题, 另一个是人的主体性问题, 虽然高度不同, 但却是互相渗透、相互影响的。因为这代表着两种合法性, 一是效能合法性, 二是权力合法性。而就这两个问题而言, 在人工智能的不同阶段, 机器管理人的性质本身也是不同的。(一) 弱人工智能时代在弱人工智能时代, 机器对于人始终是全面辅助的角色, 人工智能既没有全面管理人的能力, 也更没有全面管理人的权力。机器能否管理人这个问题, 既没有悬念, 也没有实际意义。因为, 一切管理人的行为决定, 最终都是由人来
30、作出的。虽然自 20 世纪中叶人工智能的雏形出现以来, 人工智能始终就参与到人的管理活动之中, 如最简单的电子式弹道计算机, 通过输入若干参数得出射击诸元, 并指挥人力进行射击, 本质上也是一种机器对人的管理。又如通过管理信息系统自动规划最优的工作方案并进行工作划分, 也是一种机器管理人。以及目前普遍的道路交通系统的违章自动识别判断, 都属于机器管理人的范畴。然而, 无论如何, 弹道指挥、计算机规划、工作分配等, 都需要管理者作为最终方案的判断者给予最终确认和决策, 在此基础上, 再进行管理活动。因此, 在弱人工智能时代, 机器对人的管理, 始终处于从属地位, 属于管理者手中的工具。尽管如此,
31、 在不断协助人类从事管理活动的过程中, 机器与人类的关系也在逐渐地发生改变。当人类越来越不断依赖于人工智能参与到管理活动, 而社会的整体有效运转也越来越依赖于人工智能时, 虽然人类依然掌握最终的决策权, 但是也仅限于此, 因为几乎所有的决策方案都是人工智能提出的, 而无论人类如何决策, 在最后结果上, 可以认为机器已经掌握了人类管理的绝大多数权力。人类在管理行为上已经逐渐丧失了自主性和自由裁量权。这从本质上是马克思在 19 世纪面对工业革命下所形成的人类对物质体系的高度依赖产生的人的本体的“异化”的进一步结果。因此, 在弱人工智能时代, 机器能否管理人?在能力上, 机器只能部分地参与人类的管理
32、行为;而在权力上, 机器始终处于管理链条的从属地位, 但其在管理链条中的位置和参与程度不断上升, 人逐渐丧失自我的主体性。(二) 强人工智能时代随着人工智能在人类管理行为中越来越占据重要的位置和作用, 在强人工智能时代, 人类终将面对机器能否管理人这样一个核心问题。可以说, 无论是在机器是否具有管理人的能力 (效能合法性) 还是在机器是否具有管理人的权力 (权力合法性) 上, 人类都将面临着严峻的挑战。首先, 在强人工智能时代, 人工智能具备了人类例行管理的大部分能力, 能够做出优秀的管理决策和规划。在漫长的弱人工智能阶段, 人工智能与人类合作, 人类不断改进和训练人工智能, 并将人类自身的管
33、理实践以数字化信息的方式输入保存, 强人工智能体能够方便地读取、学习、应用。加之强人工智能的广泛适应性和新领域的自学习能力, 人工智能体毫无疑问地超越了大部分自然管理者的信息和判断能力。因此, 在效能合法性上, 强人工智能具备管理人类的能力。当然, 强人工智能的管理能力并不是没有缺陷的, 主要体现在两点, 一是强人工智能在例外事件的处理上, 是否具备能够做出人所能做出的最优秀的决策能力方面, 依然是需要质疑的;二是强人工智能即便在判断上能够做出优秀的决策, 但是对于人类的复杂生物学特质如情感、情绪、心理特质等, 依然无法全面地了解, 因此, 能否进行最优的工作分配, 也是一个问题。当然, 即便
34、是普通人类, 对于同类其他个体的心理特质和行为导向依然是很难准确界定的。强人工智能体未必会做得比人类更差。因此, 在一般性的管理能力上, 强人工智能体无疑是胜任的。其次, 在机器具有管理人的权力上, 也就是人的主体性问题上, 人类也将面临着严峻的挑战。一方面, 当机器具有了管理人的能力后, 由于人工智能体所具有的天然的无偏性, 对于大部分管理或政治活动漠然的普通公民而言, 或许会更欢迎人工智能体来实施管理行为而不是人类政治家或者管理者。而在以往的人类长期政治传统中, 政治家或者企业管理者往往被塑造成具有天然的恶或者邪恶的阴谋者和剥削者。因此, 在普通民众心里, 人工智能体将会带来更加公正的社会
35、资源分配和驱逐在他们心里长期排斥的政治活动。在不久前的一次英国的调查中, 有四分之一的被调查者认为, 人工智能将能够更好地管理政府, 将是更好的政客6。考虑到目前依然处于弱人工智能阶段, 一旦进入到强人工智能阶段, 未来支持机器管理政府的公民或许会更多。而对于人工智能管理人将损害人类本身的主体性方面, 未必是普通民众关心的问题, 但是其却可以通过选票支持人工智能的当政。另一方面, 人类在面对人工智能是否可以代替人类进行管理这一问题时, 已经无力改变, 从而形成被动接受的局面。由于自电子计算机发明以来, 以及后续的所有的信息技术的出现, 都被第一时间用于人类社会的组织与管理, 人类已经完全无法离
36、开信息设施来实现自我的自持性发展。所以, 当人工智能进入到强人工智能时代, 人类很难去将强人工智能从自我的管理中剥离出去。或者说, 只允许弱人工智能参与到人类管理活动, 而严禁强人工智能的参与。因为强人工智能与弱人工智能并不像自然生物个体一样容易分辨, 所以强人工智能不断参与核心的管理与决策并逐渐替代人类, 将是一种必然。此外, 人类还有一种有史以来就存在的制度, 更加鼓励强人工智能参与管理而不是限制, 这就是人类长期演化所形成的竞争制度。人类在强人工智能阶段, 在组织的决策与效率上的竞争将依然延续。而谁能够更好地使用更先进的人工智能技术, 谁就能够在普遍的社会竞争中占据有利位置。而对于普遍这
37、样做是否会颠覆人类本身对自我社会的整体控制权, 对处于密集竞争恐惧的企业家和地方政府而言, 未必会考虑到这么宏观。因此, 强人工智能体的管理嵌入, 也是人类社会长期分散化、碎片化竞争的必然结果。可以看出, 在强人工智能时代, 机器一方面具备了对人的管理能力, 另一方面对人的管理确实可能会损害人类本身的主体性。由于社会可能会偏好于人工智能的公正与无偏, 以及人类本身形成的高度依赖性和社会内在的分裂和效率竞争, 从而倾向于接受机器逐渐全面参与甚至接管对人类的管理。(三) 超人工智能时代超人工智能时代到底是什么样子, 目前依然是颇具争议、值得探讨的议题。一种可能的局面是机器形成了高速的单独进化, 成
38、为具有高度智慧和普适性连接的完整体系。而人类则依然停在原地, 则最终会形成人工智能对人类的压倒性优势。另一种可能性局面是人类通过广泛的人机接口, 并通过生物神经系统接入网络, 形成生物智慧与电子智慧的嵌入性耦合, 形成新的智慧文明形态。对于第一种局面而言, 在形成了自我进化、自我拓展、自我修复的超人工智能后, 停滞不前的人类, 显然处于群体性的弱势局面。人类势必成为新兴的超级智能网络的附庸, 由其分配工作和生活产品, 并且人类对于智能体的作用也越来越弱, 因为具有高度健壮性的人工智能系统, 能够有效地实现自我所需要的能源的生产和集聚。而人类长期演化形成的必要性的知识传承, 也因为知识的随意获取
39、性或者人工智能的自我传承性而使得其意义越来越弱, 最终即便人工智能体系依然供给人类的生活所需, 但是人类作为一个生物学物种, 也会面临着逐渐蜕化的窘境。而对于第二种局面而言, 这也是更为光明的前景, 人类通过与人工智能体系的耦合, 形成了生物智慧与机器智慧的共生态。如果用更高层面的智慧衡量, 在宇宙中所有的智慧, 或许都具有同源性和平等性。在广泛的宇宙自然空间和通过网络所创造的虚拟空间中, 不同类型的智慧, 都具有高度的平等性, 都属于更为广泛的宇宙智慧的一部分。因此, 在这种层面上, 机器与人类智慧的差距也越来越小, 智慧之间谁来管理谁, 已经超越了其物质依托和自然来源的层面。因此, 在这种
40、新的文明阶段, 机器能否管理人, 最终也将失去其讨论的意义, 在一个更高层面, 互相无缝连接的社会, 智慧体最终以互相融合和平等分工的形态共生, 管理这一词汇, 也将随着历史的演化, 而成为一种历史概念。四、结论本文谨慎地提出并探讨了人工智能时代机器能否管理人这一伦理问题。我们认为, 尽管机器对于人的管理参与会最终损害到人类本身的自主性, 然而这一趋势是不可避免的。人类所面临着的不是机器超越人类或者机器独立于人类的问题, 而是在新的智慧载体出现出现的状况下, 人类自身如何进化。我们认为, 最为光明的前景是人类最终与人工智能一起共融共生, 形成新的智慧文明形态。而管理这一具有传统阶级与统治意味的人类社会概念, 在新的文明形态面前, 或许将成为一种历史, 人类与机器都将成为宇宙所演化出的智慧载体, 分工合作。
