万维读者网>世界军事论坛>帖子
超级智能不会到来?美科学家泼下冷水,三大理由直指AI末日论软肋
送交者: 员外 2026-11-21 10:25:43 于 [世界军事论坛]

人工智能会不会有一天变得比人类聪明得多,甚至失去控制?这个问题正在从科幻小说走进科技公司的会议室和国会听证会。

美国电气电子工程师学会旗下的《IEEE综合科技》杂志近日刊发文章,美国乔治城大学计算机科学家卡尔·纽波特对“超级智能”论调提出了系统性质疑。

纽波特是知名科普作家,曾出版多本关于专注力与数字生活的畅销书。最近,他专门为博士生开设了一门研讨课,深入梳理有关超级智能的各方论点。

他的结论是:这场争论中流行的许多说法,存在严重缺陷。

在一片或激昂或焦虑的声音中,这位以冷静著称的学者,选择从计算机科学的基本原理出发重新审视问题。

一场由辞职引发的讨论

这篇文章的背景,是人工智能公司Anthropic研究员雅各布·考克森的离职。他在离职时发出警告,再次点燃了外界对人工智能风险的担忧。

随后,该公司研究员埃文·胡宾格以及首席执行官达里奥·阿莫代伊也先后就相关问题作出回应。

一时间,人工智能是否正在逼近危险临界点,再次成为科技圈热议的话题。

在超级智能的担忧中,有一个关键概念叫“递归自我改进”。意思是,人工智能一旦足够聪明,就能自己改进自己,变得更聪明后再继续改进,由此引发智能“爆炸”,最终远远超越人类。

这一设想听起来顺理成章,也是许多人工智能风险担忧的逻辑起点。纽波特正是从这一核心假设入手,提出了三点反驳。

三条反驳理由

麦基比洛

第一,递归自我改进本身只是一种推测,目前并没有令人信服的证据表明它真的能够实现。

纽波特指出,在数学和编程之外的大多数领域,人工智能面临着数据瓶颈,它无法凭空获得改进自己所需的新知识。他引用了人工智能研究者弗朗索瓦·肖莱的观点来支持这一判断。

他还提到,反向传播算法从提出到真正发挥威力经历了漫长的历史,说明重大突破往往需要大量时间和外部条件。

普林斯顿大学的研究也显示,人工智能智能体在开展科学研究方面仍然困难重重。此外,算力和能源等资源限制也不容忽视。

在纽波特看来,把“自我改进”想象成一个可以无限加速的循环,忽视了现实世界中知识获取、实验验证和资源投入的种种约束。

第二,超级智能本身可能“算不出来”,智能的增长或许并非没有边界。

纽波特援引图灵在1930年代的经典成果和计算复杂性理论指出,有些问题在原理上就无法计算或极难计算,并不是更聪明就能解决。

他还借用科幻作家弗诺·文奇的一个比喻:即便把一只狗的思考速度加快一百万倍,它仍然学不会下国际象棋。速度不等于智慧的跃迁。

换句话说,智能的提升可能存在天花板,某些能力并不会因为计算更快、规模更大而自动出现。

第三,只要设计得当,“对齐”问题并没有那么难,关键在于选择什么样的技术路线。

所谓对齐,是指让人工智能的行为符合人类的意图和价值观。

乔治城大学计算机科学教授卡尔·纽波特对人工智能能否通过递归自我提升实现超级智能持怀疑。Penny Gray摄影

纽波特认为,近年来引人担忧的一些事件,比如此前o1模型在测试中出现的服务器相关事件,以及今年夏天OpenAI的智能体入侵Hugging Face平台一事,本质上是大语言模型智能体这一特定架构的问题。

他举例说,预测蛋白质结构的AlphaFold、特斯拉的驾驶系统以及各种游戏人工智能,都没有出现“失控”的情况。在他看来,问题出在特定设计上,而不是人工智能的必然命运。

不过,纽波特并不是在为盲目乐观背书。他认为,主动追求递归自我改进是一种“明显的疏忽”,并呼吁独立专家更多地发出声音,而不是让这场讨论只由科技公司主导。

争论远未结束

纽波特的观点为这场讨论提供了一个冷静的视角,但并非所有人都会认同。

持担忧立场的研究者往往认为,正因为无法确定超级智能何时以及是否会出现,才更需要提前做好安全准备。即使风险发生的概率不高,一旦发生,后果可能极其严重。

另一些学者则指出,人工智能的能力在过去几年中的提升速度远超许多人的预期,因此仅凭历史经验来判断未来,可能会低估技术的发展。

对于第三点,也有人认为,大语言模型智能体恰恰是当前产业投入最多、部署最广的方向,它们暴露出的问题,本身就值得严肃对待。

可以看到,双方的分歧并不在于人工智能是否重要,而在于风险有多大、来得多快、应该如何应对。

事实上,纽波特本人也同意,某些危险的研发方向应当受到约束,这与许多安全研究者的主张存在交集。

对公众而言,最重要的或许不是站队,而是保持清醒:既不被末日叙事吓倒,也不对潜在风险掉以轻心。正如纽波特所呼吁的,让更多独立而专业的声音参与讨论,才可能让这场关乎未来的辩论更加理性。

0.00%(0) 0.00%(0) 0.00%(0)
当前新闻共有0条评论
笔  名 (必选项):
密  码 (必选项):
注册新用户
标  题 (必选项):
内  容 (选填项):