6月18日：在新加坡举行的超级人工智能大会上，一个机器人与一位与会者下棋。© Getty Images
《地缘政治情报服务》于周一发表以色列 RISE Israel Institute 首席执行官乌里·加拜 (Uri Gabai) 的报告：人工智能的炒作或许正在消退，但其真正的影响才刚刚显现。从地缘政治到就业，五大关键矛盾将决定其在重塑世界中的角色。简而言之: 国际合作对于负责任的人工智能监管至关重要; 私营企业引领人工智能创新, 引发公众监督质疑; 能源密集型数据中心对资源造成压力, 超越绿色解决方案。
历史表明，对于真正具有变革意义的技术，我们往往会高估其短期影响，却低估其长期效应。人工智能也不例外。在经历了一波前所未有的炒作之后，其中很大一部分是由开发这些系统的科技巨头推动的，我们现在正进入一个幻灭期。公众开始质疑：“承诺的突破在哪里？”以及“为什么一切还没有改变？”
但这具有误导性。正如20世纪90年代没有人能够预见到互联网会导致人们每天在智能手机上花费近五个小时一样，人工智能的真正影响仍在不断显现——深刻、难以预测且不可逆转。
本报告探讨了人工智能长期影响最为关键的五个新兴领域：地缘政治、治理、环境、经济和社会凝聚力。这些领域正在被重塑，其重塑方式往往尚未完全显现。理解这些问题是为人工智能的角色做好准备的第一步，这不仅是一场技术革命，更是一场更广泛的全球变革。
全球人工智能竞赛：新的地缘政治秩序
人工智能正成为地缘政治竞争的核心。美国和中国正在进行一场战略竞赛，以争夺人工智能开发、部署和治理领域的领导地位。这场竞赛的赌注很高：经济主导地位、军事优势以及对全球标准的影响力。
美国目前在前沿模型开发和私人投资方面处于领先地位，而中国则凭借庞大的数据集、国家支持的资金和集中协调，正在快速发展。与此同时，欧盟将自己定位为主要监管机构，即使在能力落后的情况下也在塑造规范。2024年，美国机构开发出40个值得关注的人工智能模型，超过中国的15个和欧洲的3个。尽管美国在模型数量上仍然领先，但中国的发展已迅速缩小了质量差距。
以色列、新加坡和阿联酋等规模较小的创新中心旨在通过专注于战略利基市场并确保自身在全球竞赛中保持关键地位，从而超越自身实力。
随着人工智能向通用人工智能（AGI）——一种能够匹敌人类思维的理论体系——迈进，关键问题浮现：谁将掌控最强大的人工智能？AGI的突破能否带来新的技术霸权？这场人工智能竞赛甚至可能引发现实世界的冲突，例如围绕台湾半导体产业的军事冲突？
全球护栏对于防止导致不稳定或滥用的竞赛至关重要，但目前大国之间的信任赤字使得此类合作充满挑战。
事实与数据
什么是通用人工智能？
通用人工智能（AGI）是指机器能够理解或学习人类能够执行的任何智力任务的理论能力。这类人工智能旨在模拟人脑的认知功能。尽管目前AGI仍是一个假设概念，但它有可能复制类似人类的技能，例如推理、解决问题、感知、学习和语言理解。自人工智能发展以来，AGI的研究一直在进行，但学者们对于AGI的确切定义或实现AGI的最有效方法仍未达成共识。
谁来掌管智能？
当今最先进的人工智能系统并非由政府开发，而是由私营公司开发。在美国，OpenAI、谷歌、Anthropic、Meta等公司正在竞相突破能力和雄心的界限，其速度往往超越了公共监管机构。
与早期的通用技术（例如电力、计算或互联网）不同，政府在其最初的发展中发挥了重要作用，而美国当前的人工智能浪潮主要由私营企业推动。在中国，这种情况在一定程度上属实，尽管中国共产党正在引导私营实体进行服务于中央政府利益的开发。这标志着一个显著的转变，因为突破性的创新主要发生在公共机构之外。这造成了根本性的冲突，因为企业控制着具有深远公共影响的技术，但却基于私人利益来运作。
虽然互联网服务确实受科技公司控制，但它们主要充当的是沟通和分发的平台。相比之下，人工智能是一种决策技术，能够解读数据、生成内容，甚至自主行动。这种区别带来了更高的偏见、滥用和意外后果的风险。例如，一旦开发完成，个人可以利用开源通用人工智能系统自主生成和部署个性化生物武器，或者通过识别漏洞、执行大规模交易和破坏系统稳定来操纵金融市场，其速度甚至快于监管机构的响应速度。
正如“战争太重要了，不能留给将军们”这句格言一样，许多人认为，人工智能太重要了，不能完全交给科技公司。公众监督并非官僚主义的负担，而是民主的必需。
随着人工智能向通用人工智能迈进，尽管关于这一概念的真正含义仍存在争议，但政府可能被迫通过许可要求、强制审计甚至国有化等措施来加强控制。由于系统能够在各个领域超越人类，人们对私有制的担忧也随之而来。我们如何确保监管既有效又民主？
此外，人工智能与任何数字技术一样，不分国界。它的开发、部署和影响本质上是跨国界的。这意味着有效的人工智能监管需要跨境合作。经济合作与发展组织（OECD）等国际组织致力于促进各国在合乎道德和高效的人工智能治理方面开展合作，它们应该在制定标准、协调原则和防止全球监管竞争方面发挥关键作用。
去年，全球人工智能治理合作显著加强。包括 OECD、欧盟、联合国和非洲联盟在内的主要组织已经推出了强调透明度、可信度和其他负责任的人工智能基本原则的框架。
以牺牲可持续性为代价追求智能？
训练先进的人工智能模型需要巨大的资源，其环境影响也不容忽视。为这些进步提供动力的大型数据中心消耗了大量的电力和水。科学家估计，到2022年，全球数据中心的电力消耗约为460太瓦时（TWh），大致相当于法国全年的能源消耗总量。
国际能源署预测，到2030年，全球数据中心的电力需求将增长一倍以上，达到约945TWh。推动这一增长的一个重要因素是人工智能，因为预计到2030年，经过人工智能优化的数据中心的电力需求将增长四倍以上。
数据中心巷位于华盛顿特区郊外，占地30平方英里，拥有200多个数据中心，其能耗与波士顿市相当。© Getty Images
随着对生成式人工智能和实时推理的需求不断增长，与之相关的环境成本也随之上升。这在推进人工智能技术与保护环境之间造成了一个颇具挑战性的困境。人工智能有可能成为解决环境问题的宝贵工具，无论是通过优化电网、模拟气候变化还是加速绿色技术的研发。然而，就目前的情况而言，人工智能对气候危机的贡献可能大于提供解决方案。计算基础设施的扩张速度通常超过可再生能源的增长速度，尤其是在主要云服务提供商正在建设大型数据中心的地区。
节能芯片、模型优化和可持续冷却方面的创新正在不断推进，但创造日益强大的人工智能的环境成本仍然是一个主要隐患。
创造就业机会、取代就业和未来就业
“我们正遭受一种新疾病的折磨……技术性失业。” 这番警告并非出自当代科技悲观主义者，而是出自史上最伟大的经济学家之一约翰·梅纳德·凯恩斯之口。凯恩斯在1930年撰文指出，在一个世纪内，“经济问题”或许能够得到解决，人类将不再需要工作。
尽管他关于自动化将导致大规模失业的预测尚未成真，但随着技术在取代现有就业岗位的同时，也创造了新的就业岗位，他的第二个预测在今天引发了质疑。一百年后，社会或许正在走向一个以休闲而非劳动为主导的世界，物质需求不再是主要关注点。
许多人认为，人工智能既蕴含着这种希望，又蕴含着威胁，人工智能带来的富足与人们对未来失业的担忧交织在一起。据估计，未来几十年，全球数亿个工作岗位可能被部分自动化。随着模型能力的增强，整个工作类别可能会消失，随之而来的是人类的专业知识。从工业革命到互联网时代，历史先例表明，经济体的调整往往伴随着痛苦的转型和日益加剧的不平等。如果通用人工智能成为现实，其经济风险将成倍增加。新的社会契约，例如全民基本收入或缩短工作周，或许是必要的。培训工人从事尚不存在的工作，并确保人工智能能够增强而非取代人类潜能，将至关重要。
不平等、包容与信任结构
人工智能可以成为一种强大的均衡器。人工智能导师或许能够实现教育的民主化。人工智能诊断可以为偏远地区提供医疗保健。人工智能助手或许可以帮助服务匮乏的人群应对官僚主义，学习新技能并获得重要服务。
但这些结果并非必然。如果没有积极主动的政策，更有可能出现相反的情况。首先，目前，人工智能工具的获取并不均衡，大多数益处仅限于精通技术且较为富裕的人群。
其次，数据偏见会加剧歧视。语言模型往往无法反映人类文化、声音和需求的多样性。尽管这些模型反映了人类的偏见，但过度依赖这些模型以及人类在心理上不愿挑战机器智能，可能会放大其影响。
第三，营利性公司部署的人工智能系统可能会进一步削弱信任。在缺乏透明度、问责制和包容性的情况下，公众对人工智能系统以及部署这些系统的实体的不信任可能会引发强烈反弹。
随着人工智能承担起传统上由教师、医生、法官和官僚担任的角色，我们必须问：谁参与了这些系统的设计？谁的价值观被编码在算法中？我们如何确保技术能够强化而不是破坏我们的社会结构？
从炒作到责任
我们正在走出人工智能最初的炒作周期，进入一个更加复杂、影响深远的阶段。上述五大矛盾并非仅仅是抽象的困境；它们代表着决定人工智能时代未来的关键战场。虽然世界尚未为这一转变做好准备，但准备就绪并非一成不变。它是一种选择。
各国政府需要树立超越下一轮选举周期的长远愿景。科技公司应该优先考虑社会责任，而非季度业绩。公民必须保持参与，而非被动地消费信息。这些都是艰巨的任务。国际社会应该将人工智能视为塑造21世纪的重要力量，而不仅仅是一项新技术。
问题不在于变革是否会到来，而在于我们是否会塑造变革，还是被变革所塑造。
事态发展的可能
更有可能的情况：全球人工智能竞赛升级，权力优先于公平
在这种情况下，全球人工智能竞赛将愈演愈烈，技术主导地位将成为首要战略目标。美国和中国在激烈的竞争中，优先考虑速度和实力，而非伦理道德、合作或国内影响。相关法规零散、被动应对，且大多只是象征性的。私营企业几乎不受任何限制，而政府则将大量资金投入人工智能领域，用于军事和商业用途。
因此，人工智能在社会、经济和环境方面的应用缺乏协调一致的监管。不平等现象加剧，就业岗位流失加速，缺乏足够的安全保障，环境成本也随之增加。世界正在经历由人工智能驱动的重大变革，但却缺乏确保稳定或公平的明确计划。
不太可能：人工智能技术被民主地应用于全球进步
西方民主国家在将人工智能发展纳入包容性、以公民为中心的框架方面处于领先地位。受经济学家达隆·阿西莫格鲁愿景的启发，各国政府正在追求“民主人民力量”——利用公共政策、教育、劳动保护和治理来引导人工智能实现广泛的社会效益。国际合作日益加强，经合组织、联合国和欧盟等组织正在制定全球标准。人工智能的应用不仅是为了盈利或权力，还在于改善公共服务、提高工人生产力，并应对气候变化和健康公平等问题。尽管挑战依然存在，但这种协调一致的努力有助于大多数人而非少数人利用人工智能，确保民主而非技术寡头统治未来。
