戴榕菁

1. 引言

早在人类还根本不具备今天这样的AI水平的年代，所谓AI或更形象些的机器人对人类的背叛就已经随着科普界的丰富想象流行于通俗文化中，而背叛的经典方式则是机器人不但违抗人类的命令，并开始对人类进行屠杀等等。

但是，随着近几年AI技术的迅猛发展所带来的AI在社会上的广泛应用以及对文明的各层面和领域的日益增加的影响，我们已经可以隐约地感受到AI的不同于好莱坞式的想象但却非常真实一种另类的“背叛”。之所以这里要给背叛二字打上引号是因为与其说是AI的背叛还不如说是人类的主动让衔----人类不但主动而且积极地让AI来领导和支配自己的行为，个人的以及社会的行为。

2. 关于AI之基本认知的一大误区

关于AI的一个基本认知是AI从人类对AI的训练及实际使用过程中向人类学习；与之相应地，过去这些年里在AI的对话应用及搜索应用中人们发现AI承袭了传统计算机的一个基本缺陷，即所谓的“garbage in garbage out”，也就是说，AI只是重复人类已有的知识，因而会将它们从人类那里学到的错误再展现给人类。

但是，随着对于获利于AI的欲望的不断增加，人们早已不满足于AI在文学创作科学调研上的助手作用了，而是要让AI开始规范被认为具有劣势或从属地位之他人的行为，这使得AI的地位从卑微的助手一跃成为高高在上的裁判。比如，在可以决定成千上万打工一族的人生机会的猎头公司的平台上，AI将不但会决定什么样的人的简历可以呈现给什么样的雇佣公司看，更会开始按照它们理解的理想方式来要求申请人来按照它们的要求修改简历。比如，公司对于市场规划，供应链的选择，员工的奖罚与升降都会逐渐地让AI参与甚至主导。比如，人类未来的说话方式将与今天的语言习惯有所不同，因为那时的语法和最佳写作风格将由诸如grammarly这样的软件的AI来决定。比如，。。。。

而在这过程中人类社会政治经济因素所造成的社会选择【[1],[2]】将至少在以下两个方面起着重要的作用：

1）对于AI之未来的崇拜将使得各国政府预算和金融投资者们都会将大量资本投向与AI有关的领域和项目。与之相应地，

2）在资本导向的现代社会里，各公司的上层在制定公司内部经费分配和项目安排上将鼓励带有AI色彩的项目和部门。基层各部门也会努力向AI发展，从而使得在人员聘用上也会倾向招聘AI专业人员。

这里需要指出一点的是，拥有资本的人本身往往并不懂AI，因此在资本流向AI的过程中会出现很多打着AI的旗号的项目不一定都非常AI，但这并不影响AI的诱惑成为社会各行各业努力的方向。

2.1. 转折期

从上面的讨论我们可以预期，整个社会的AI发展将经历一个由人类决定AI做什么向由AI规范人类的行为和实践的转折。尽管这不会是一个瞬间完成的转折点，但在经过一段时间之后，人们可能会发现世界整体的思维及行为方式已经不可逆转地由AI掌控了。。。。那时除非将整个世界的政治经济文化体系进行彻底的人为改造，人类已经无法摆脱AI来重新掌控自己的生活了；而那种政治经济文化体系的彻底的人为改造本身是不可能的事件，因为到了那个时候人类离开了AI根本无力进行大规模的组织和整合。。。。从某种意义上，这是一个从人类告诉AI应该做什么到AI告诉人类应该做什么的转折期。

3. 危险所在----AI的几点原罪

3.1. AI之设计逻辑缺陷

尽管过去十多年里AI之学习能力已经给世人留下的深刻的印象，但是AI的设计逻辑并非完美，而一旦AI处于人类文明的主导和支配地位时，任何存在于AI的设计逻辑上缺陷都会反馈到人类的社会生活中，造成各种麻烦甚至严重危害。

3.2. AI自主思维之局限

也许有人会以为AI主导人类的社会活动是文明进化的表现。但他们不知道的是，这种进化并不一定是朝向正面发展的进化。这里潜在的危险的根源之一其实还在于前面提到的AI所谓的“garbage in garbage out”之先天不足。。。。AI之最初发展是向人类学习，而它们最终主导人类的政治经济文化生活并不是因为它们进化得足以自主地克服它本身之设计逻辑上的缺陷以及从人类那里学来的各种缺陷，而主要是因为两个基本的因素：1）AI的超级算力远非任何人类可比；2）人类政治经济文化活动之超级复杂性。

这两个基本点决定了人类在AI面前显得很无力。这时人类之贪婪便会让AI一步步在各方面取代人类。

3.3. AI之“铁面无私”的危害

当很多人羡慕AI之铁面无私不讲私情的效率和“廉正”品格时，他们忽略了这样两点：AI所遵循的原则是人类按照自己的想象设计出来的，而人类的想象是不完美的，满是缺陷的，有时那些缺陷可以是极具危害性的。过去几千年里人类的满是缺陷的制度之所以能够比较成功地运作的一个重要原因恰恰是“人情”在其中的缓冲作用----一旦人们发现系统制度中存在着不合理甚至逻辑矛盾之处，大家面对面商量商量或开个会什么的，原本不合理的问题往往就可以得到合理的解决。但是，AI的应用将从两点上彻底抹去人类社会千百年来赖以解决系统中的不合理之处的“人情味”：1）AI的使用将在很大的范围彻底取消用户与提供AI系统的机构的人员直接接触的机会，人们除了与冷冰冰的机器系统打交道之外，不但不会有任何机会与系统背后的人类打交道而且也不会给与任何可以商量的余地。。。。人们面对的将只有“继续进行或退出”的选择，而继续进行的结果是由AI决定的，不论AI所遵循的逻辑有多么地不合理。2）AI的不合理之处将被如同法律一样地定位为不可商量必须照做的道理。

4. 一旦AI的逻辑就是王法时

一旦AI成为规范人类行为的裁判之后，社会选择的基本原理【1,2】告诉我们，AI的逻辑就将成为人们无可商量的王法，这其中将包括很多错误的不合理的逻辑。除非你可以不用AI系统所提供的服务，你就只有按照AI所规范的行为准则去做。在很多场合下人们是没有可以不接受AI所代表的系统提供的服务这一选项的。特别是当AI被用于司法系统时，某些科幻电影中的因AI的错判而被冤枉入狱的场景就会大量地出现在世界各地。

4.1. 无人可以置身事外

AI从目前的主要为助手的地位跃升到将来普遍为裁判地位的进程将始于企业和政府部门的头脑们让AI参与或主导事关劣势群体或自己属下的切身利益的决策。在这一阶段，那些高高在上的人们或许认为自己其实才是真正的裁判，而AI不过是自己的工具而已。。。。但是，在这个错综复杂的人类社会，哪怕是国王恐怕都不敢说自己永远不会成为被迫接受AI裁判的角色。A公司的老板在接受B公司的服务时，当无法在私底下与B公司老板磋商时，就会不得不接受AI之“铁面无私”的招待。

结束语

今天AI已经成为世界各国尤其是强权之间的竞争热点。而这场狂热的竞争中埋下的一个对未来或许是致命的危机是没有人或者至少没有多少人象本博客在过去几年里这样对AI的哲学进行认真的研究【[3],[4],[5],[6],[7]】。。。。

[[1]]Dai, Rongqing. A Brief Discussion on Fairness Analysis:

o    Published by Outskirts in 2015 (ISBN 9781478753698):

o    Republished in a revised version by Scholars’ Press in 2017 (9783330652064) url: https://www.academia.edu/66445422/A_Brief_Discussion_on_Fairness_Analysis

[[2]]戴榕菁（Rongqing Dai）公平人生（Fair Life), ISBN 1425961401, 9781425961404, Publisher:               AuthorHouse, 2006

[[3]]Dai, Rongqing (2024). The Realistic Rebellion of Humanoid Robots, Retrieved from: https://www.academia.edu/122300430/The_Realistic_Rebellion_of_Humanoid_Robots_and_How_to_Avoid_It

[[4]] Dai, Rongqing (2019). A Philosophical Analysis on the Challenge of Cultural Context to AI Translation . Int Rob Auto J . 2019;5(4):153?155. DOI: 10.15406/iratj.2019.05.00189. http://www.medcrave.com/articles/det/20002/A-philosophical-analysis-on-the-challenge-of-cultural-context-to-AI-translation

【[5]】戴榕菁（2024）家用人形机器人？

【[6]】戴榕菁（2024）人形机器人之梦及背叛

【[7]】戴榕菁（2024）人工智能觉醒？