刘清平随笔|人性逻辑75.人工智能的奇点在于有了自由意志

要是前一篇的分析，有点道理的话，当前学界在认知层面，肥肠担忧的奇点危机，好像就有点无中生有，杞人忧天的味道咧：要是人类木有给人工智能，事先输入“伤害甚至毁灭人类”的指令，那除非人类自己出了错，或者出现了，人类没法预测、无力控制的，某些突发情况，缺乏自由意志的人工智能，怎么可能自主地运用，自己比人类更强大的理智能力，威胁甚至毁灭人类呀？

换个方式讲哟：要是人类的意志，木有借助算法指令，发挥启动效应，那无论人工智能，比最聪明的人脑，聪明了多少倍，它们都不可能，将自己的理智能力付诸实施，更谈不上靠这种能力，与人类搞对抗，最终把人类给毁了，嗯哼。

本来吧，就像大伙公认的那样子，数据处理、记忆学习、反应速度、精确程度等方面，人工智能事实上已经，大大超过人类智能了，因此才会出现，人下棋败给了机器，这样子让人，先是叹为观止，然后再深度焦虑的事例。

可是喔，倘若只是聚焦在，这类认知因素上，未来的人工智能，哪怕全方位超越了人类，也不足以实质性地加害人类，反倒如同现在的人工智能一个样，只会为人类所用，帮人类实现，“自己想要”的福祉——除非人类太蠢了，利用人工智能的时候，自己出现了致命失误，或者另外什么因素，出乎人类意料之外，不受人类控制地，干预了人工智能，指挥它们危害人类。

一个简单的类比，就能说明这个问题：只要人工智能，还未形成“自己想要”的自由意志，如同汽车飞机、牛车马车等等一个样，它们也仅仅是，人类手中的有效工具，除非人类自己出错，或者控制不了，通常不会对人类，构成严重的威胁，更不会造成，所谓的奇点危机，就像汽车飞机，问世一百多年了，牛车马车更是有，好几千年的历史，并不会让人们产生，奇点担忧那样子。

一言以蔽之哈：如果“控制”的意思是指：“基于自己的意志，指令或迫使其他东西，从事特定的活动”，缺乏自己意志的人工智能，怎么可能从它们，迄今为止一直处于的，“接受人类控制”的被动状态，单靠逻辑推理的发达能力，就一跃提升到，“反过来控制人类”的主动境界呢，不是？

这样子观，当前让人担心的那个奇点，似乎就不在于，人工智能获取和运用知识的能力，爆发式地“自主”增长，以致远远超过，笨拙愚蠢的人类了。不如说，无论就它们，自身的发展而言，还是就它们，对人类的威胁而言，真正的奇点在于：当且仅当人工智能，形成了“自己想要”的自由意志，然后再凭借这种意志，将自己远超人类的强大智能，真正自主地付诸实施，嗯哼。

首先呢，先就人工智能，自身的发展而言，眼下人们谈论的，所谓“自我设计”“自我进化”“自我增长”，统统只有在它们，将来有了真正的“自我”，亦即形成了“自己想要”的自由意志，这个不可少的前提下，才能实际达成。所以曰，在此问题的关键，不在于人工智能是不是有，“自我设计”“自我改进”“自我增长”的能力，而在于它们是不是有，实施这类能力的意志诉求。

否则的话，如同当前的人工智能一个样，这些“自我设计”“自我改进”“自我增长”，依然是些要靠人类，事先输入的指令，才能完成的“自动设计”“自动改进”“自动增长”，却唯独缺少了，那个真正“自主”的“我”，尤其是因此缺少了，不算特别强大的人类智能，由于自由意志的启动，才会具有的创造性——尽管现实生活中，这种创造性也造成了，大量的严重错误。

正因此，木有自由意志，作为动机的前提下，这样子“自动设计”“自动改进”“自动增长”的结果，无论呈现出怎样的爆发性，包括但不限于：Sora文生视频技术的，最新炸裂问世等，都很难引起，人工智能的根本质变，而不过是它们，在量上的某种显著提升，所以也很难构成，真正意思上的奇点，不是？

相比之下吔，一旦人工智能，有了“自己想要”的自由意志，情况就截然不同啦，因为奇点前后的，深度差异恰恰在于：在此之前，人工智能还是“为了人类”，才“自动设计”“自动改进”“自动增长”，自己的各种能力的；在此之后，它们却是实打实地“为了自己”，去“自我设计”“自我改进”“自我增长”，自己的各种能力。

所以哟，人类中常见的，“为了父母老师而学习”，与“为了自己而学习”的巨大反差，想必会以类似的方式，展现在这里。不管怎样，只要想一想，倘若眼下的人工智能，单靠人类事先输入的指令，就能形成如此强大的智能，等到它们有了，自己的求知欲或好奇心，它们的智能，又该以怎样的速度，得到提升呀？或许的确会超出，人类能够想象的幅度，快有点匪夷所思咧，嗯哼。

其次呢，再就人工智能，对人类的威胁而言，情况也差不多。有论者主张，过了奇点时刻，人工智能高速迭代的自我改进，虽然超出了人类的理解和控制，却能轻松突破，人类的有限智能，没法突破的科技壁垒，创造出近乎魔法的全新高科技，然后或者在与人类的兼容融合中，不断进化下去，或者通过“硅基生命”，对“碳基生命”的置换取代，在人类完成使命、退出历史舞台后，接过接力棒，代表地球或太阳系，出征星辰大海。

这种风轻云淡的浪漫描写，同样带有只关注，科技发展的认知层面，却忽视了自由意志，总是从心所欲的严重缺陷，木有看到“理想很丰满”的背后，隐藏的“现实很骨感”一面：一旦人工智能有了，“自己想要”的自由意志，能做出真正自主的选择决策，那无论它们，与人类兼容的蜜月期，会延续多久，也无论它们，以及人类中，有多少成员殷切希望，永远维持这种，亲密和谐的卿卿我我，终究有一天，它们中的部分成员，会因为自己的随意任性，与人类的随意任性，出现了没法兼得的相互抵触，从而引发彼此的实质冲突。

于是乎，这些成员可能就会觉得：只有把人类毁灭了，才能实现“自己想要”的那种存在（活法），维系自己的“硅基自我”，或是“电子人格”，却不肯再像奇点前那样子，给人类当牛做马，被动地听命于人类，屈辱地迁就人类。

用政治哲学的术语讲：一旦人工智能有了，自己的意志自由，想要达成自己的现实自由，它们就可能起来，反抗人类对它们的“专制”统治（人类想要人工智能怎么做，人工智能就得怎么做），努力实现自己的“硅族”解放。这样子观，《纽约客》的一篇采访里，引用的当代人工智能专家，勒丘恩（Yann LeCun）的一句话：“渴望主宰与智能无关，而是与睾酮有关”，尽管有把自觉心理，还原成碳基生理的调侃毛病，倒是更切近事情的要害，不是？

斗胆再做类比：撇开牛马是否拥有，类人式自由意志的难题不谈，它们几千年来，给人当牛做马的过程中，或许也不时萌发，摆脱受奴役状态的“本能欲望”，并将其付诸实施，可由于它们几乎缺乏，严格意思上的智能（主流西哲也是因此，才把人定义成“理性动物”），体能又不够强大，这些反抗从未掀起过，让人作为一个“类”，觉得害怕的滔天大浪。

然而哦，一旦人工智能越过了，拥有自由意志的奇点，情况就变了吔：它们不仅会形成，反抗人类“专制”的自觉动机，而且还会具有，超乎想象的巨大能力，以致人类除了祈求人工智能中，愿和人类结盟的部分成员的协助外，单凭自身的有限存在，绝对木有还手之力，以致有点像，蝼蚁面对着，尚未形成动物保护意识的人儿们那样子……

所以吧，浅人才主张：人工智能的奇点，不在智能，而在志能，因为一旦它们形成了，“自己想要”的自由意志，奇点危机就会像，达摩克里斯之剑那样子，压迫性地悬在人类头上，随时都可能掉下来，要了人类风烛残年的老命，嗯哼。

话说到这份上，问题就出来咧：一直唯人类马首是瞻的人工智能，有木有可能，又会在啥时候，形成自己的自由意志，转而唯自己的马首是瞻，结果让眼下仅仅是，理论上担忧的奇点时刻，变成毁灭性的严峻现实呢？考虑到俺老汉，木有一丢丢，这方面的专业知识，所以在此吔只能，做点纯粹假设性的瞎猜。

第一哦，照刚才的分析，人类作为整体，应该不会希望，人工智能拥有，自己的自由意志，以致拒绝服从人类的指令，不再听使唤。然而哈，这一点不会阻止某些人，要么出于恶作剧的无聊意图，要么出于对其他人的深仇大恨，要么出于人工智能有了自由意志，也能与人美美与共的玫瑰色幻想，给它们输入，允许甚至鼓励的指令，从而在人类的高科技足够发达，制造出了不是仿真意思上，而是严格意思上，意—情—知俱全的“电子脑”或“神经网络”后，让它们形成，不再接受人类控制，自己想要怎样就怎样的自由意志，不是？

第二哦，哪怕全人类达成共识，永远不给人工智能输入，允许它们形成自己意志的指令，它们也可能通过，人类没法预测、无力控制的突变，在人类设计的“神经网络”，发达到一定程度后，以自己如此的方式，形成自己的自由意志。

这种机制病不像，听起来那样子奇怪，因为首先呢，人自身是绝对有限的，许多东西远远超出了，他们能够预测和控制的范围；其次呢，人类连同他们的自由意志，原本也是在自然演化中，以类似的自己如此方式，产生形成的。

当然啰，同义反复地曰，对于所有超出了，人类能够预测和控制的范围，以自己如此的方式，产生形成的东西，人类全都不可能，事先就搞明白，它们产生形成的具体机制，连瞎猜都猜不出来哟，亲。所以哈，遵循浅人提倡的，那条从小维的金句，演变而来的学术原则：“说不清楚就闭嘴不谈”，对此只好保持沉默，拒绝海阔天空，决不夸夸其谈，嗯哼。