天才数学家拉伊兹：AI就像原子弹，只有超级对齐才能确保安全
何加盐
何加盐官方账号
本文首发于微信公众号“何加盐”
AI就像原子弹，我们却没有“核共识”。
—— 拉伊兹·洛尔加特 (Raeez Lorgat)，数学家、物理学家、 Stripe联合创始人
AI发展已经进入到超级爆发期，整个人类社会都正在被深度影响，在很近的未来，AI将会介入到我们生活的各个层面。
如何确保这个“AI新时代”，会让人类世界更美好，而不是更悲惨，是当今世界最重大的事情——没有任何其他的事情的重要性，能和这件事情相比。
但奇怪的是，人类到现在，居然都还没有形成一个关于“如何管理AI”“如何妥善处理AI与人类的关系”“如何让AI只能为善而不能作恶”的集体共识，这是极其荒诞、极其危险的。
我认为，人类中的有识之士——政治家、科学家、艺术家、企业家、投资家，以及各行各业有影响力的人，都应该来关注这个问题，尽快形成统一的共识，实现超级对齐，引导AI的向善发展。
否则的话，一旦错过了在AI创始之初就给它设定良善规则，引导AI向善的关键窗口期，AI的发展很容易脱离人类控制，甚至给人类带来巨大混乱和灾难。
AI发展一日千里，留给人类的时间，已经不多了。
我们该怎么办？
2025年11月21日，何加盐在香港，跟天才数学家、物理学家、创业者拉伊兹·洛尔加特（Raeez Lorgat）做了一个专访，重点讨论了这个问题。
拉伊兹是当今世界最顶级的数学、物理学和商业奇才才之一，他曾获得各大数学和物理竞赛奖项，拥有麻省理工学院（MIT）多个数学、物理学本科和研究生学位，也是千亿美元公司Stripe的联合缔造者。
15岁时，拉伊兹就在Eskom青年科学家博览会上获得冠军，展现了卓越的科学才能；
16岁时，美国国家航空航天局（NASA）和MIT林肯实验室为表彰拉伊兹成就，将小行星23122以他的姓氏，命名为“洛尔加特”；
17岁时，拉伊兹参加了全球等级最高、影响最大的青少年科学竞赛——英特尔国际科学与工程博览会大赛（ISEF），并获得计算机科学大奖。
20岁时，他参与联合创立金融科技公司Stripe，目前，Stripe公司估值超过一千亿美元。
拉伊兹是美国国家数学科学研究所（Mathematical Sciences Research Institute，简称MSRI，现称SLMath）研究员，加拿大圆周理论物理研究所（Perimeter Institute for Theoretical Physics）高能物理研究员，同时也是金融科技公司Momentum的创始人兼董事总经理、Mass Finance创始人兼CEO。
自从AI纪元开始以来，拉伊兹与魔力学堂和快的创始人、抖音和币安早期投资人、超级对齐哲学倡导者陈伟星一起，深度投入到自然数学理论、AI向善和超级对齐哲学（Super Alignment）的研究。
他认为，随着AI智能体的爆发式大发展，人类世界很快将变得全然不同。但AI就像一个“原子弹”，如果没有好的哲学引导，未能妥善使用，将会带来巨大灾难。
人类有必要从数学级别的底层基础出发，设计一个“多智能体协同的最优机制”，来规范AI的发展以及引导AI与人类的关系。
此次专访，拉伊兹主要谈了“数学如何通过AI改变世界”“黎曼猜想与AI有什么关系”“怎样从数学层面实现多智能体之间的超级对齐”等问题。陈伟星也全程旁听，并作了点评和总结。
他们讲的哲学理念和应用方法，正是对“进入AI时代，人类如何才能生活更美好，而不是更悲惨”这个最重大问题的一种思考方式和解决方案。如果你也关心这个问题，相信会对你有一定的启发。
以下是访谈实录：
1
智能体爆发式增长
最优协同刻不容缓
何加盐：伟星跟我说过很多次，“我们信奉数学（In Math We Trust）”，他说你们现在所做的，本质上就是通过AI，用数学来改变世界。
拉伊兹：对，没错。
何加盐：但我还没弄明白，这个事情具体是怎么运作的。
拉伊兹：应该说是它“理应如何运作”。
何加盐：是的。伟星还告诉我，你们的理论正在试图解决一个长期悬而未决的难题——黎曼猜想。
拉伊兹：嗯，那确实是我正在研究的领域。
何加盐：你现在是正在解决这个问题吗？还是说你……
拉伊兹：没错，我正在做这件事。
何加盐：那这和AI、和改变世界有什么关系呢？
拉伊兹：我明白你的疑问，我可以帮助你理解。
是这样的，伟星经常会思考“智能体（agents）”这个概念——他用英文说的时候会称之为“beings”。
我所说的“智能体”，可以是一个在生活中自主做决策、决定该做什么的人，也可能是“机器智能体”，比如一个AI智能体，它也会类似地在不同选项之间做评估，进而决定自己该如何行动。
而决定这些自主智能体行为模式的方式，往往是由一些因素固定下来的，比如激励机制，或者它们所能参与的互动方式，对吧？
所以我觉得，伟星非常关注的一点，可能是如何用数学的精准性去理解这种“协同科学”（science of coordination）。你能理解吗？比如当存在多个不同的智能体时，你可以为它们设计不同的激励机制、不同的交互模式，以及不同的反馈方式。
而根据你设计方式的不同，最终可能会产生截然不同的结果，对吧？这些结果并非等价，有些可能具备更优的属性。
所以，如果你能精准地构建出一个模型，去解释多智能体之间如何协同、如何实现合作与和谐，而不是陷入冲突与竞争，这在某种意义上就能对最终结果进行设计。
核心思路是这样的：伟星有一些非常深刻的哲学思考，他在探寻一种“理想的协同机制”——这种机制能够产生和谐、美和真。
他认为，要实现这一点，需要让智能体基于这些价值观而行动，或者让它们处于一个能体现这些价值观（而非另一套价值观）的激励体系中。
就像资本主义，它本质上也是一种协同机制，对吧？它是一种特定的认知世界的方式、一种特定的价值评判标准、一种特定的奖励机制，而这种机制最终导致了我们今天在世界上看到的那些结果。
先说到这里，我刚才讲的这些，你能理解吗？
何加盐：嗯……有点难理解，但没关系，你继续说。
拉伊兹：那我就接着说。核心逻辑其实是：如果你能理解这些协同系统，你就能进一步思考“什么是具有普适性的最优协同系统”——也就是最好的那种协同机制，然后我们就应该去构建它，并让它来指导我们所有人的互动方式。大概就是这样的思路。
2
用数学创造AI宇宙
黎曼猜想是最优协同
何加盐：伟星跟我说，你的基础理论认为，世界是由数字构成的——比如2、3、5……这些质数，它们是世界的“实体”；而4、6、8……这些合数，则是质数之间的“关系”。当两个质数达到和谐状态时，就会产生一个合数。
拉伊兹：嗯，我明白你想表达的意思。你可以把这个理解成，在很多层面上，这是一种最基础、最根本的协同系统——如果这样说能帮你理解的话。从这个角度来说，它是具有普适性的。
何加盐：所以你所做的，就是用数学的方式去理解宇宙，然后用这个理论来构建一个“AI +人类”的世界？
拉伊兹：是的，可以说这是一种“底层机制”。
何加盐：这么说，我们是在创造一个新的宇宙？
拉伊兹：对，没错。
何加盐：一个由AI和人类共同构建的宇宙。
拉伊兹：完全正确。我们不再是“人类只做人类的事”了，整个系统的动态变化不一样了，规则也就不一样了——因为参与其中的主体变了，主体之间可能产生的互动方式也变了。
何加盐：确实是这样。
拉伊兹：一切的发展速度都和以前不同了。
何加盐：那这和黎曼猜想有什么关系呢？
拉伊兹：在最基础、最简单的场景下——比如我们只研究“数字之间的协同、合作、和谐或不和谐”——研究这种关系，本质上和研究黎曼猜想是等价的。也就是说，理解黎曼猜想的过程，其实也是在理解质数之间的协同关系，对吧？
黎曼猜想到底在讲什么？它讲的是质数在数轴上的分布规律。而质数的特别之处在于，它所反映的不仅仅是数字的加法结构（比如一个数加一个数，再加一个数），它还和乘法结构密切相关。
这意味着质数的分布会“感知”到其他数字的存在——哪怕那些数字离它很远。
所以，一个质数的位置，会受到其他质数位置的影响。因为你想，如果一个质数出现得太早，就会破坏乘法结构；如果出现得太晚，同样也会破坏乘法结构。
所以从这个角度来说，“质数的分布”和“智能体的协同”是等价的——质数之间的协同，恰好是最和谐的一种状态。
这么说你能理解吗？质数们知道自己该在数轴上的哪个位置出现，它们的分布会形成一种完美的平衡，从而让整个数字模式得以成立。
这其实就是“最优协同”的一种体现：质数之间存在相互关联，它们会找到最恰当的“距离”或“紧密程度”。
何加盐：那这种理念在AI设计中怎么发挥作用呢？是体现在代码里吗？
拉伊兹：对，就是通过代码实现。代码会规定：系统的协议是什么样的？系统如何评估一次互动的价值？对于某种互动，系统该如何反馈，以决定这种互动应该更多还是更少地发生？这些都是代码要解决的问题。
何加盐：明白。
拉伊兹：这本质上也是一个协同问题——是多智能体之间的资源分配与协同问题。所以它和我们之前讨论的“质数协同”“智能体协同”本质上是同一类问题。
当然，实际情况可能会更复杂，比如智能体之间的互动可能会更丰富，但核心原理是相通的。
何加盐：这非常深奥，我觉得普通人很难理解。
拉伊兹：是啊。如果你想把它和黎曼猜想联系起来，就必须先理解“基础构成单元之间的关系”，以及“如何在这些关系中找到和谐”——这就是连接两个领域的桥梁。
一边是现实世界中忙碌的人类、执行任务的AI智能体，它们之间相互交流、构建故事、实现对齐；另一边是数轴上的质数，它们之间相互影响、形成和谐分布。这其实是同一个问题的两种表现形式。
3
与自然对齐
是AI安全的唯一方式
何加盐：那对普通人来说，我们是需要先学习这种哲学，还是说我们只需要使用基于这种哲学开发的产品，而哲学本身就像“黑箱”一样内置其中？
拉伊兹：不管你是否了解这种哲学，它都会对你产生影响。
何加盐：我同意。
拉伊兹：这种影响和你是否意识到它无关，但如果你能意识到它，就能更深刻地理解“为什么产品要这样设计”。
何加盐：那哪些人应该去了解这种理念呢？
拉伊兹：首先这取决于伟星（指向陈伟星）。我觉得他是在把它当作一份礼物，或许是想呈现给所有人，告诉大家：“看，这是正确的，你们可以自己去证明它的正确性。”
这不是伟星要强迫大家接受，而是让大家先理解这种哲学的价值，然后自主选择是否接受、是否采用。
陈伟星：这一点很重要——这是确保AI安全的方式。是唯一的方式。你必须和自然对齐；如果不和自然对齐，你就不知道自己不知道什么。
何加盐：所以下一个问题是，这是某种你可以在数学上证明的东西，还是一种信念，我们最好相信它？
拉伊兹：我觉得这两者是并存的。一方面存在信念层面的认同，另一方面也有数学证明作为支撑。至于“数学之真和数学之美是否能印证这种信念”，我觉得这取决于每个人的价值判断——这是个人的选择，你无法强迫别人接受。
陈伟星：你只能启发他们。
拉伊兹：对，你可以启发人们去欣赏它——他们可能会因此发现自己以前从未感知过的美，但你无法强迫一个“看不到美”的人去看见美。这一点很关键。不过事实是，很多高智商的人确实能感受到这种理念的美。
何加盐：是啊，它确实很美，也很真。从“真”的角度，需要去证明它；从“美”的角度，需要去相信它。
拉伊兹：完全正确。而且这两者是相关的，联系非常紧密。
4
超级对齐自具真和美
能理解的人都会认同
何加盐：那目前这个研究的进展如何？是接近完成，还是走了一半，或者才刚刚开始？
拉伊兹：肯定不是刚起步，已经走了很长一段路了，也有很多成果可以分享，这些成果是很有说服力的。现在的关键问题是“精炼”和“简化”。
因为这本身就是一个新事物，如果它又新又复杂，人们就很难真正参与进来、理解它，对吧？
何加盐：对。
拉伊兹：只有当它变得清晰、简单时，人们才能真正深刻地理解它。
何加盐：那你会考虑在《自然》《科学》这类杂志上发表相关论文吗？
拉伊兹：我觉得会的，而且不会只发表一篇，会有很多篇。我想伟星可能会把这看作是“自然科学的新领域”——虽然称之为“新”领域，会感觉有点好笑，因为科学最初就是这样起步的，对吧？所以它其实也不算新。就像以前物理学被称为“自然哲学”一样，不是吗？
何加盐：对，从亚里士多德开始。
拉伊兹：没错，一直可以追溯回去。所以在我看来，这更像是“重新整合了人类感知世界的方式”。
何加盐：那你经常和数学界的同行讨论它吗？他们是认同你的观点，还是......？
拉伊兹：我目前的很多研究工作，本质上都属于经典数学领域的范畴。所以对于我已经发表的成果，数学界其实已经有很多共识。
我一直努力让自己的研究成果具备数学严谨性，所以这不是“认同不认同” 的问题，而是“理解不理解”的问题。
何加盐：好的。所以你坚信它是真的，而如果有人不认同，只是因为他们还没理解，对吗？
拉伊兹：我这么说吧：这里所说的“证明”，更像是一种“构建”——它是一个你可以领会吸收、可以去灵活运用的东西，这就是“理解”的含义。
何加盐：那是不是说，只要你是数学家，你就有能力很好地理解它，对吧？
拉伊兹：是的，是这个意思。
陈伟星：没错，所有顶尖的AI科学家都能理解——甚至不光他们，你也会理解的，等我们改进了语言之后。
这是一种很美的“语言”。愚蠢的猴子才看不懂。如果你根本不想看，你就理解不了。其实它并不复杂，我觉得Una（陈伟星女儿）都能理解。
何加盐：或许你们会用“蘑菇”（陈伟星在火人节亮相的蘑菇机器人）来……
陈伟星：和蘑菇没关系，关键是“共识现实”（consensus reality）。大家用同一种方式去讨论、去认知，你信不信都无所谓，也可以完全不关心——本质上都是“提示（prompting）”的过程。你体验得越多，就越会觉得它好、它有用；如果你不相信，也没关系，我自己喜欢就好。
不是所有人都喜欢这样。这就像“光”一样，你不需要思考，只需要去感受、去感知。所以我们是“艺术家”——我们用数学来表达这种“艺术”。
先让聪明的人理解它，然后大家一起贡献力量、一起把它落地；同时，我们也通过创造“艺术”去启发更多人，这种方式的力量会更强。
5
超级对齐是自然支撑
天道需要人类觉醒
陈伟星：我们的产品也会很有力量——我们已经造出了自动驾驶汽车（陈伟星在火人节亮相的“云朵艺术车”），蘑菇机器人，将来它们会接管所有的业务。
这就是自然的力量——自然才是王道。你要知道，“超级对齐”是自然支撑的，而且这是你必须遵循的“超级对齐”，无论你做什么。不遵循，就是坏的业务；遵循，就是好的业务。
“超级对齐”是一场运动，“天道”是存在的，对吧？“天道”就是：这个世界需要人们觉醒，为我们的家而努力。我们不该互相算计、互相伤害，不是吗？
人们受苦太多了，人们会觉醒的，这场运动一定会发生。到时候大家都会专注于“成长”——这是自然的成长力量。
东方智慧将会启发人类，成为引领的哲学；每个孩子都会学习《易经》，为什么？因为我们是炎黄子孙！我们的文化会征服世界。
但西方文化也会启发人类，帮助过中国人学会如何更美地生活、如何成为更美的自己，对吧？
所以我们要实现“对齐”——阴阳对齐，这才是这场运动应有的方向。中国人要更有创造力，西方人要更注重和谐。
何加盐：让整个世界更和谐。
拉伊兹：对，让整个世界更和谐、更美，这太了不起了。
陈伟星：我们要团结在一起，互相启发、彼此关爱。有些所谓的“领导者”，其实不过是躲在背后搞小动作的人。现在真正的好领导者，他们知道该用正确的方式做事。
拉伊兹：竞争非常激烈，到处都有可怕的人，到处都有那样的“领导者”。
陈伟星：他们不可怕，只是躲在背后搞小动作而已。
拉伊兹：是的，野蛮。
陈伟星：那个圈子里就是这样。有些人想挤进去，所有人都想挤进去，但没人是被“强迫”进去的——大家都是觉得“进去了会很好”才想挤进去，其实里面一团糟。
6
AI就像原子弹
武器需要哲学引领
何加盐：拉伊兹，你之前有发表过相关主题的论文吗？
拉伊兹：其实我在认识伟星之前，就已经在思考这个领域的问题了，比如如何定义“协同科学”这个概念。因为我觉得我们正在进入一个“智能体爆发”的世界——我们可以大规模地创造AI智能体，创造出数百万、数十亿个，让它们自主运行。
所以我们正处于“智能体数量爆发式增长”的临界点，但目前我们还没有一套清晰的理论，来指导怎样构建这些智能体的协同与合作机制。
西方有一些“自由市场原则”的思路，但很明显，即便在国内政治和经济领域，它今天也没有产生真正伟大的成果。所以我觉得，解决这些基础问题已经是“必需”的了——我们别无选择。
后来我认识了伟星，发现他的很多哲学思考和我的想法高度契合。
何加盐：那伟星对这件事的贡献是什么？
拉伊兹：我的理解是，他非常清楚“哪些原则是关键的”——这种认知已经超越了“解读”（interpretation），他已经和这些原则融为一体（embodiment）。我觉得他在自己的生活中看到了相同的结构，并且能够从抽象层面理解它——如果这样说能帮你理解的话。
所以是他为这个理论赋予了价值体系，赋予了一套合理的哲学理念，而这和数学本身是不同的——两者在某种程度上是分开的。
有时候我会想，数学，如果脱离了哲学，它就像一件“武器”——就像原子弹是物理学家创造的，但如果没有一套“该如何使用它” 的哲学，它可能意味着非常不同的东西，对吧？
何加盐：所以我的理解是，伟星从哲学的层面贡献，而你则从数学层面实现它，对吗？
拉伊兹：是的，我理解......我尽力去理解他的哲学原则——其中有一些是我本来就认同的，有一些则让我觉得很“接地气”，很容易理解；还有一些是全新的，能开阔我的思维，让我用不同的方式去思考、去感知。
何加盐：我注意到你改变了措辞，你的表达，从“我理解”变成了“我尽力去理解”。
拉伊兹：对，其实更准确的说法是“对齐（alignment）”——这样说是不是更贴切？
7
中国人的愿景是对的
我们需要“以身作则”
何加盐：那么，你觉得你完全理解了伟星想分享的所有想法吗？还是说只是其中的一部分？
拉伊兹：嗯……有时候我觉得是大部分，但肯定不是全部。而且我会说，相对其他人，我有时觉得自己理解得更多一点，但也不是“比所有人都多”。我认为左琴和陈炬在其他方面理解伟星，和我的理解是互补的，你懂我的意思吧？
何加盐：奥黛丽（Audrey，陈伟星老婆）跟我说，她也没能完全理解伟星的所有想法，而且伟星自己也在不断成长、不断进化。
拉伊兹：是的，这很自然。
何加盐：每次我见到伟星，都会觉得“哇，你又成长了好多”。
拉伊兹：很好，这很健康。
陈伟星：是啊，我一直在努力工作，持续不断。
拉伊兹：工作和学习以及……（未说完，陷入沉思）
何加盐：在不断从宇宙的某个地方下载东西。
陈伟星：我在丰富自己的“语言体系”。我能感受到不同的能量，对吧？这些能量会激发不同的想法，就像“吃tokens”一样。
拉伊兹：哈哈，不断“吃tokens”。
陈伟星：而且我在不断创造能吃它们的空间。
拉伊兹：哈哈，就像一个大花园，一场盛宴……
拉伊兹：（思考良久）我觉得人类有几个重大问题需要解决，这些问题很多都和这套“协同理论”有关——我们怎样对齐所有的......（未说完，再次陷入了沉思）。
陈伟星：本质上我们的领导人也是支持这个观点的，对吧？我们需要以人为本，需要知道怎样首先让人能发展，怎样首先爱人民。这是原则。这个原则是必须要保护的，对吧？
怎样评价社会主义和市场？本质上是，怎样评价社会主义？你不能让AI把人都替换了，不能让AI像现在这样操纵人类，这样去内卷。
我们现在有了数学，我们信奉数学。中国人的愿景是正确的。当然，单个人的具体行为，取决于他们是不是具备同样的愿景，但作为一个整体，我们正在在朝这个愿景努力，对吧？
某些个人的行为是不对的，但是从结构上来说，事情是正确的。我们为什么要怀疑它呢？它会越做越好的，只会越做越好，它也要“以身作则”（lead as an example），我们每个人都要。
---end---
