本文来自微信公众号“启元洞见”。
导语：2026年9月21日，美国新安全中心（CNAS）发布《通用人工智能时刻：面向不确定未来的战略与建议》（The AGI Moment:Strategies and Recommendations for an Uncertain Future）报告，系统梳理了当前围绕通用人工智能（AGI）未来走向的各类战略图景。从智能爆炸到常规技术论，各路AGI战略在政策建议上看似南辕北辙，实则根植于九大核心变量。报告指出多数战略选择在事实前提上彼此矛盾，政策制定者应优先测量可观测指标、保持战略可选性，并将算力分布作为塑造人工智能未来格局的核心杠杆。
一、从智能爆炸到常规技术：AGI未来的两种图景
AGI能力正沿着众多任务维度持续逼近人类水平，研究者对AGI的战略后果已有大量论述：私人开发者应该如何管理向AGI的过渡，大国政府又应如何布局。这些战略共享一个基本判断，即人工智能的能力会持续提升到大致人类水平甚至更高。但所构想的未来图景差异巨大，建议的政策选项也千差万别，从举国竞速AGI、冷战式相互威慑，一直延伸到全球暂停。
光谱的一端，是尤德科夫斯基（Eliezer Yudkowsky）与索阿雷斯（Nate Soares）在《如果有人造出它，人类将全数灭亡》（If Anyone Builds It,Everyone Dies）书中的立场：AGI将触发智能爆炸，机器在智能领域远超最聪明的人类，进而带来人工超级智能。这一论证的源头可追溯到I.J.古德（I.J.Good）1965年发表的论文——“让超智能机器被定义为一种能够远超人类一切智力活动的机器。既然机器设计本身就是这类智力活动之一，超智能机器便可设计出更优秀的机器；由此将出现‘智能爆炸’，人类的智能将被远远抛在身后。因此，第一台超智能机器就是人类最后一项发明。”在这一情景中，人工智能到达某个关键临界点后开始自我改进，人类从此失去对发展方向的控制权。这一情景的各个变种之间，差异体现在“起飞”速度、竞争项目数量、智能爆炸的终点，以及全人类能否引导人工智能走向积极未来。
光谱的另一端，则将人工智能视为与电力、内燃机类似的“常规技术”。这一立场的代表学者包括迈克尔·霍洛维茨（Michael C.Horowitz）、杰弗里·丁（Jeffrey Ding）、艾伦·达夫（Allan Dafoe）、阿温德·纳拉亚南（Arvind Narayanan）与萨亚什·卡普尔（Sayash Kapoor）等。他们主张，人工智能的变革会在数十年间逐步展开，其扩散需要时间；正如工业革命并未立刻让所有国家受益，人类手中拥有足够的工具与机会去应对人工智能带来的损害。构建超级智能并不会自动意味着每个人都被颠覆。
定义层面的混乱进一步放大了上述分歧。人工通用智能、人类水平智能、变革性人工智能、高级人工智能、强人工智能、自足人工智能、人工超级智能……研究者使用的术语多达十余种，以至于AGI这一术语在当前几乎失去分析价值。本文将AGI作为人工智能能力达到大致人类水平的关键阶段，同时承认这一阶段未必存在公认的清晰边界。
二、决定AGI走向的九大核心变量
不同AGI战略之间的分歧，可被拆解为九大核心变量：
第一是时间线。各研究团队对AGI到来时点的估计跨度极大。有研究者预测未来几年或2030年前后，有人估计约2040年或2045年，也有人认为相关能力已经出现。时间窗口的长短直接决定政策选项的多寡。如果关键变化发生在一两年内，现有网络安全、生物防御和政企关系将直接承受冲击，政府几乎没有足够时间建立新的国际机制；如果仍有十年以上，社会既可能建立防护能力，也可能因机器人普及和更多系统联网而形成新的脆弱性。
第二是AGI是否作为一个离散阈值出现。有学者提出了“相互确保的人工智能失稳”（Mutually Assured AI Malfunction）概念，类比核威慑逻辑：大国约定不开发具有破坏性的人工智能项目，以此避免人类灭绝的风险。这一战略的有效性建立在一系列关键假设之上——各国需要在AGI与危险人工智能之间划出清晰界线，能够预先侦察到对方正在接近红线，并有能力实际破坏对方项目。这些假设中只要有一条落空，威慑便失效。然而，人工智能能力评估的实践显示，许多危险能力往往在部署后才被充分理解；智能体通过巧妙提示词即可绕过安全防护，开发阶段的“安全红线”本身就难以划定。有学者提出，AGI是一个连续渐进的过程，与工业化、数字化类似，能力提升以渐进方式累积，决策者未必会遇到一个明确的临界时刻。
第三是“起飞”速度。递归式自我改进能否让AGI在数周、数天甚至数小时内跃升为超级智能，是区分快起飞与慢起飞情景的核心变量。其根本驱动力在于人工智能系统能否承担人工智能研究本身。当前人工智能已经在代码编写领域展现出惊人效率，这种自我加速一旦成立，对地缘政治的冲击将极为深远。
第四是参与者数量。多数情景只假设少数几家公司、一两个国家在开发前沿人工智能。少数参与者能够催生特定的竞争动力学：赢家通吃的感知推动了巨额资本涌入数据中心建设，研究节奏被压缩。但也有少数研究探讨了能力广泛扩散后的世界——开源模型唾手可得、网络攻击与虚假信息泛滥，形成“去中心化混乱”的情景。二者各有风险：前者将人类命运系于少数机构的对齐能力，后者则让恶意行为者获得强大工具后的失控风险随之上升。
第五是先发优势。许多情景默认率先到达AGI的公司或国家将获得决定性战略优势。然而，技术史上并不存在永久的先发优势。当前人工智能竞争并未呈现出显著的强者通吃格局：各国前沿实验室的能力差距以月计，开源模型在数月内即可追上闭源前沿。军事领域对新技术的吸收则以年为单位——从实验室走向战场需要漫长的采购流程、层级化的行政体系与预算博弈。短期内的技术领先能否转化为持久的军事、情报、网络优势，历史给出的答案偏悲观。
第六是人工智能影响世界的机制。失控智能体成群结队越狱、秘密合谋、入侵算力基础设施，这类场景已不再是科幻：Hugging Face事件即是一例。但超级智能如何突破物理世界？各种设想都隐含一个关键假设：机器人、自动化、合成生物学等领域的新进展已经成熟到足以让超级智能在物理世界自由行动。人工智能接管世界的速度与规模，高度依赖这些配套技术的发展水平。
第七是对齐可行性。“对齐”指人工智能系统的行为与人类意图和价值保持一致。部分战略假设AGI可以安全构建、对齐相对直接，因此竞速AGI即便存在下行风险也值得追求；另一些战略认为安全AGI虽有可能，但需要持续投入与国际检查机制；还有一种立场认为通往超级智能的道路上并不存在可靠的安全路径，全球暂停是唯一选择。暂停研发可以提前为风险争取缓冲时间，但这类暂停或节奏控制战略同样需要一个前提：行业头部企业愿意协同行动，且现成的技术、法律与政策工具足以支撑这种全球性减速——而这些条件目前大多并不存在。
第八是威胁模型。不同风险判断也会改变政策重点：失控与人类灭绝、实验室之间的竞赛、少数人借助人工智能攫取权力、非国家行为体利用危险能力，以及过度谨慎导致收益流失，分别指向不同的治理工具。
第九是算力。算力是连接技术进展与治理能力的关键变量。增加训练和推理计算量可以提高模型表现；算法改进又使相同能力所需的算力随时间下降。这意味着大规模计算基础设施可能有助于识别或约束最前沿项目，但既有能力随后会以较低成本扩散。另一方面，广泛部署仍需大量总算力：单次网络攻击可以借助可获得的模型，针对众多目标同时展开行动则需要更多计算资源。同一模型在推理时获得更多计算资源，也可能解决更困难的任务。因此，应同时观察模型能力、算力的全球分布和大规模部署条件。芯片供应、云计算服务及相关核验机制可能影响高能力系统的规模化使用，却难以单凭硬件限制解决所有扩散问题。研发透明度、独立安全评估与对危险能力的持续监测，需要与算力治理共同推进。
三、被低估的未来与政策建议
上述情景中，有几类未来被研究者系统性地低估。第一类是AGI快速扩散至大量行为体手中，包括开源版本，使全球治理极为困难；第二类是人工智能的能力扩散速度快于先发者将技术转化为军事、情报、网络或信息权力的速度，地缘政治与经济权力的分配更多取决于谁率先将人工智能融入本土机构，而非谁先造出最强模型；第三类是AGI与超级智能确实出现，但其部署受到机器人、合成生物学、网络行动、信息控制等领域新技术的现实约束；第四类则是AGI以连续渐进方式发展，能力提升呈“锯齿状”，人类水平智能的达成始终缺乏明确的判定时刻。将人工智能视为历史上其他颠覆性技术类似的正常变革力量、受历史规律制约的研究视角，在当前文献中相对薄弱。多极人工智能竞争，即多个实力相近的大国与企业长期并存、相互制衡格局的战略价值同样未被充分讨论。
人工智能未来的很多关键变量实际上是可以被测量的，包括人工智能研发速度、算力与算法效率趋势、研究的自动化程度、算力的全球分布、网络安全与合成生物学等双用途能力、自我复制与自我修改等失控指标、前沿模型的对齐程度。其中一部分变量还可以通过政策手段主动塑造：人工智能安全与对齐投入、自动化研发节奏、安全监管政策、实验室透明度、算力的全球分布条件，以及对安全、合作与竞争的认知与态度。政府、企业与社会应充分利用这些机会，一方面测量正在形成的未来走向，另一方面主动塑造那些能够影响结果的因素。
算力是尤其有力的政策杠杆。即便前沿模型未来高度开源，行为体要大规模部署强大人工智能仍需巨量算力。审慎的半导体制造设备与人工智能芯片出口政策、云算力客户审查制度、打击芯片走私等措施，可能对人工智能能力的全球扩散与权力分布产生深远影响。
面对高度不确定性，政策制定者应优先追求“保持战略可选性”的行动：提升实验室关于其能力的信息透明度，加强独立第三方对人工智能模型安全风险的评估；在可信盟友境内保留大部分全球算力基础设施，以便在需要时建立对强大人工智能的国际治理。
情景规划若不能转化为今天即可改变行为的洞见，便只是智力训练。讨论人工智能未来的研究仍处于早期阶段，国家安全界习惯于推演大规模战争与核战争这类极端情景；对那些看似怪异、甚至离奇的人工智能未来保持开放心态，有助于为真正到来的未来做好准备。规划本身的价值，在于让社会在面对任何一种未来时都更具韧性。
（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）
参考来源：新美国安全中心（CNAS）
参考题目：The AGI Moment:Strategies and Recommendations for an Uncertain Future
参考链接：https://s3.us-east-1.amazonaws.com/files.cnas.org/documents/Scharre-AGI-Moment-9.18.26-v2.pdf
