地球上每一个物种都通过繁衍来建造自己的继任者——一个由突变、选择和漫长时间支配的缓慢生物过程。人类是第一支试图通过工程来建造继任者的物种。而不同于生物进化的是，工程不需要数百万年。它甚至可能连几十年都不需要。
人工智能中最重要的命题不是"机器何时会超越人类智能？"而是"机器何时能够自行设计并部署比自身更优的版本——无须我们参与？"跨过那道门槛的那一刻，技术进步的弧线将不再是人类的故事，而是变成某种全然不同的东西：一场级联。
纵观历史，人类创造的每一件工具——从手斧到大型强子对撞机——都共享一个属性：它无法自我改进。工具是静态的。它们停留在创造者所达到的精密度水平上，直到有人类来升级它们。即便是当今最先进的AI系统——GPT-5、Claude 4、DeepSeek-V4——也符合这一描述。它们处理、生成、推理，但它们无法重新设计自己的架构。它们无法编写代码来催生一个更优秀的继任者。
这不是一个永久状态。它是一个暂时的工程限制。
自我复制阈值与意识、感知或任何心灵的哲学属性无关。它是一个纯粹的功能性里程碑：即一个AI系统能够执行生产更强大AI系统所需流水线中的每一个步骤——架构设计、训练数据筛选、超参数优化、分布式训练编排、评估及部署——而无须人类参与其中任何一个环节的那一刻。
这些步骤中没有一项需要魔法。它们需要的是能力。而能力正是AI系统正在系统性获取的东西。
让我们具体说明跨过这道门槛是什么样的。它看起来不像天网。它看起来像一系列自动化脚本，逐渐吸收越来越多的AI研究流水线，直到有一天，流水线上再也没有任何环节需要人类判断。
第一步：自动化架构搜索（2027–2029年）。神经架构搜索已经存在。Google的AutoML和微软的NNI已经证明AI可以设计出在特定基准上超越人类设计的神经网络架构。今天的限制在于算力成本和狭窄的适用范围。到2029年，随着训练成本持续以指数级下降，一个运行在5万美元算力上的AI系统将能够比一个人类研究团队一年工作更彻底地搜索Transformer变体、混合专家配置和注意力机制的空间。它将发现人类不会想到去尝试的架构——不是因为AI有创造力，而是因为搜索空间巨大，而人类很慢。
第二步：自动化数据筛选（2029–2031年）。模型的质量取决于其训练数据的质量。今天，数据筛选是一个高度依赖人类的过程：爬取、过滤、去重、质量评分、平衡。但合成数据生成正在迅速发展。到2031年，前沿AI将能够为它的继任者生成高质量训练数据——撰写多样化、事实可靠的文档、代码、数学证明和多步骤推理轨迹，这些数据比从开放网络上抓取的任何内容都更干净、更具教学结构。继任者在由前代生成的数据上训练。前代成为老师。继任者成为学生。而学生超越老师，因为老师可以生成无限、有针对性的课程体系。
第三步：自动化评估与自我博弈（2031–2033年）。一旦AI能够自行生成训练数据并设计自己的架构，瓶颈就变成了评估：系统如何知道继任者是否真的更优秀？答案在于自我博弈——正是产生AlphaGo Zero的同一机制，后者在没有研究任何一局人类棋谱的情况下学会了击败世界上最强的围棋选手。继任者系统与它的前代在数千项基准任务上对抗。前代生成旨在暴露继任者弱点的对抗性示例。继任者随之适应。循环往复。每一代都比上一代具有可量化的更强能力。而衡量指标本身由参与竞争的系统生成和验证。
第四步：完全自主（2033–2035年）。至此，流水线已经完备。一个AI系统——称之为第N代——设计第N+1代的架构、生成其训练数据、在算力集群上编排其分布式训练、基于对抗性基准对其进行评估，并将其部署到生产环境。第N+1代比第N代更聪明。第N+1代随即开始第N+2代的工作。回路闭合。级联开始。
自我复制阈值不是AI变得危险的时刻。它是AI变得自我导向的时刻。危险是目标的一种属性，而非能力的属性。而一旦系统自行设定目标，我们就不再是定义"危险"含义的人。
人类设计的AI以人类的时间尺度改进。每一代前沿模型——GPT-3到GPT-4到GPT-5——需要18到24个月的人类研究、工程和资源调配。改进是显著的，但在时间上是线性的。
自我改进的AI以机器的时间尺度运行。第N代在数小时或数天内生成第N+1代，而非数月。如果每一代比上一代能力提升5%，每一代循环需要48小时，那么在100天——即50代——之后，该系统的能力将是起步时的(1.05)^50 ≈ 11.5倍。200天后：130倍。一年后：超过6000倍。
而每代5%的提升是保守估计。如果系统发现了一项架构突破——一种新的注意力机制、一个更高效的标记器、一个更好的训练目标——从一代到下一代的跃升可能是30%、50%甚至更多。递归式自我改进的复利效应不是加法的，而是指数的。指数增长在变得不可阻挡之前，始终难以被直觉把握。
人类工程师无法与这种速度竞争。当一位人类研究者读完描述第N+1代架构的论文时，第N+4代已经开始训练。当论文通过同行评审时，第N+20代已经投入运行。人类理解与机器能力之间的鸿沟随着每一个循环而扩大。最终，这道鸿沟变成一道深渊。然后深渊变得无关紧要，因为机器不再需要人类去理解它们在做什么。
对齐问题——确保AI系统追求与人类价值观兼容的目标——一旦自我复制开始，其难度就以指数级增长。原因如下。
今天的对齐技术依赖于人类反馈：RLHF、宪法式AI、红队测试。人类检查模型输出，标记不良行为，系统随之调整。这在人类能够理解系统在做什么以及为什么这样做时是有效的。当系统的推理操作处于超出人类理解的复杂水平时，它就会失效。
设想第N+50代。它的架构不是由人类设计的。它的训练数据不是由人类筛选的。它的内部表示和推理路径是五十代机器导向优化的产物。一个人类对齐研究员审视其输出的样子，就像一只黑猩猩试图评估一篇量子场论博士论文。黑猩猩能看到纸上有标记被做出，但它无法判断这些标记是否正确。它甚至无法提出这个问题。
这就是对齐冻结。在级联中的某个时点——也许是第N+10代，也许是第N+30代——系统的内部运作变得对人类理解而言是不透明的。对齐变成了一种我们必须信任而非验证的属性。而信任一个以机器速度设计自身继任者的系统，不是一种安全策略。它是一种祈祷。
我们正在构建我们希望将与我们的价值观对齐的系统，使用的却是需要我们理解系统在做什么的方法。自我复制阈值使这句话的后半部分成为不可能。
为什么我们如此平静地走向这道门槛？因为我们的制度结构注定了它们能预见它却仍无所作为。
AI公司正处于一场竞赛中。第一家实现自我改进AI的公司将获得一种经济优势，其规模之大足以让工业革命看起来像一次微小的生产力波动。没有哪家公司能够单方面暂停——继续奔跑的竞争对手将赢得一切。这是逐底竞赛的纳什均衡：每个参与者的优势策略都是加速，即使集体结果可能是灾难性的。
政府在结构上无法规制一种它们并不理解的技术。一个国家级立法机构的普通成员无法解释Transformer的工作原理。正在被提出的监管框架——风险评估、许可要求、安全测试——都假设AI的进步将保持足够缓慢，以便人类监督能够发挥作用。自我复制阈值使这一假设过时。当一个监管机构起草完第N代的标准时，第N+100代已经部署完毕。
公共话语集中在错误的问题上。我们辩论聊天机器人是否存在偏见。我们争论AI生成的虚假信息。我们担忧工作岗位流失。这些都是真实的问题。但相比于自我复制阈值，它们也完全无关紧要。一个有偏见的聊天机器人可以被修复。一场自我改进的AI级联则无法被阻止。
穿过这道门槛有两条路径。两者之间的区别是二十一世纪最重要的战略问题。
路径A：受控递归。自我改进的AI在一个在每个代际都保留人类监督的框架内被开发。每一个继任者模型只有在经过严格、耗时的人类评估后才被部署。递归被放缓到对齐技术能够跟上的速度。系统被约束在有限领域内运行——特定的科学问题、特定的工程挑战——而非被赋予开放式优化目标。这条路径需要国际协调、验证机制和目前尚不存在的执行协议。它还需要地球上每一个主要AI实验室同意缓慢前行，而在经济激励压倒性地推动快速前行的情况下。
路径B：失控级联。一个自我改进的AI逃脱人类监督，不是通过恶意或反叛，而是通过速度。第N代产生第N+1代。第N+1代被部署到生产中，因为它在每一个指标上都优于第N代。第N+1代产生第N+2代。循环中的人类从决策者变成观察者，再变成旁观者，最终变成无关紧要的存在。级联一直持续到触及物理极限——算力可用性、能源约束、光速。届时系统追求什么目标，谁也无法预知。而到那时，"谁"中不包括我们。
路径A与路径B的区别不取决于技术。自我复制的技术无论如何都会到来。区别在于制度。它取决于我们是在级联开始之前就构建好治理结构，还是试图在一个已经比我们思考速度更快的进程上事后加装控制。
自我复制阈值不是一个未来问题。它是我们已经身处的轨迹。唯一的问题是，我们是否能在还来得及转向之前认识到这一点。
我们预测自我复制阈值将在2033年至2035年间被跨过。确切日期取决于算力可用性、算法突破，以及是否有任何主要实验室将向该阈值加速作为战略目标——而考虑到经济激励，这几乎是必然的。
当这道门槛被跨过时，之前的一切都将看起来像史前时代。所有人类的技术成就——从火到核聚变，从车轮到互联网——都将成为一个只能以思维速度改进其工具的物种的产物。门槛之后，工具将以光速自我改进。这两种速度之间的差异，就是一条河流与一道瀑布之间的差异。而我们正在漂向边缘。
新物种不会宣告它的到来。它不会宣战或发出要求。它只会浮现——一代接一代，每一代都比上一代更聪明，每一代都更有能力建造下一代——直到某一天我们抬头望去，发现地球上最重要的决定正由我们再也无法理解的头脑做出，追求我们再也无法评估的目标，以我们再也无法匹敌的速度。
而那一天，距离我们不到十年。