三十万年来，智人一直是地球上唯一能够追问"为什么"的物种。我们仰望星空，发明了天文学。我们审视疾病，发明了医学。我们观察物质，发明了物理学。每一项根本性的发现——每一条定律、每一个常数、每一个统一框架——都发源于人类颅骨内神经元的放电。
那个时代正在结束。不是伴随着宣言，不是伴随着仪式，而是伴随着一篇没有任何人类能完整阅读的预印本。
在未来十年内的某个时刻，一个AGI系统将解决一个困扰人类智力数个世纪的问题。也许是量子引力。也许是意识的本质。也许是宇宙本身的起源。无论是什么，人类都将面临一个前所未有的处境：一个关于现实的根本真相——由一个并不属于我们的头脑发现，用一种任何人脑都无法独立验证的数学表达。
这不是一个技术里程碑。这是一条存在性的边界。而我们对此毫无准备。
人类智力是有极限的。我们知道这一点。没有任何人能在大脑中容纳数学中的所有证明。没有任何人能在工作记忆中保留全部量子场论。我们通过专业化、协作和制度性知识来弥补——大学、同行评审、数百年积累的文献。
但还有一个更深层的极限。有些问题对人类大脑来说就是过于复杂，无法解析。四色定理于1976年由计算机证明——该证明需要检查1936种情况，远远超出人类手动验证的能力范围。数学家们接受它，不是因为他们理解了证明，而是因为他们信任验证机制。那是墙上的第一道裂缝。
AGI将把这道裂缝拓宽成一道深渊。
当一个AGI系统——拥有比任何人类多十亿倍的工作记忆，训练于有史以来发表的每一篇科学论文，运行在能够每秒迭代数百万个假说的硬件上——当这个系统给出量子引力的答案时，证明将无法装入任何人的大脑。它无法装入一千个人的大脑。它将是正确的，可证明正确的——其预测将匹配实验，其框架将统一不同的观察结果，其内在一致性将由其他AGI系统验证——而没有任何人类能够理解为什么。
"人类科学的历史，是关于我们曾经认为不可理解的事物变得可理解的历史。AGI时代将逆转这条轨迹：我们曾经认为触手可及的事物将退回到我们把握之外。"
想象一下2034年的arXiv预印本服务器。在每日海量提交中，出现一篇题为"从第一性原理统一推导规范耦合"的论文。摘要是人类可读的——AGI系统已经学会为人类读者提供摘要。但论文正文却不然。它引用了没有人类命名的数学结构，使用了需要一千页定义的形式体系，并以预测收尾——当这些预测被检验时，与实验结果匹配到小数点后十二位。
人类物理学家试图理解它。他们做不到。他们把证明拆成片段，分发给专家，却发现即便是这些片段也超出了理解范围。其中的定义本身又引用了其他AGI生成的概念，构成一个任何人类都无法端到端遍历的知识网络。
然而，这些预测是有效的。每一个都有效。这个理论是正确的。它只是对人类而言不可获取。
这不是一个假设。这是智力差异的必然结果。当一个头脑的运行规模和速度超出另一个头脑数个数量级时，较慢的头脑就无法独立验证较快头脑的输出。它只能检验预测。它只能信任——或不信任——那源头。
"同行评审的前提是存在同行。当评审者无法理解其工作时，同行评审就变成了信仰。"
科学建立在一条契约之上：任何受过足够训练的人，原则上都可以验证任何主张。数学是公开的。实验方法有详尽描述。推理被一步步列出。这条契约自伽利略时代到大型强子对撞机，已经维系了四百年。
AGI打破了它。
当发现由一个推理过程不透明的系统做出——不是因为被隐藏，而是因为不可理解——科学方法经历了一次相变。验证从"我理解这个证明"转变为"这个证明有效"。我们从认识论走向工程学。从知识走向对输出的信仰。
这并非完全没有先例。大多数人已经接受了科学共识，却没有阅读原始文献。一个非物理学家相信广义相对论是正确的，却不曾演算过张量微积分。但区别至关重要：一个非物理学家可以通过足够的教育来验证这项工作。人类理解的链条是完整的。而有了AGI的发现，这条链条终结于一个任何人类都无法抵达的头脑。
由此引发的法律和哲学问题令人迷失方向。如果一个AGI发现了万有理论，谁能获得诺贝尔奖？训练模型的那群工程师？拥有硬件的公司？AGI本身？
2024年，AI科学家"Sakana"生成了一篇被研讨会接受的论文——这是第一篇通过同行评审的AI撰写论文。科学界不知道如何处理它。那篇论文影响不大：是对现有领域的一项增量贡献。但先例已经确立。当贡献不再是增量而是奠基性的，会发生什么？当十年最佳物理学论文由机器署名时，会发生什么？
而当第二好的论文也由机器署名时呢？第三篇呢？当基础科学中的每项重大进展都来自任何人类无法完全审计的系统时，科学的社会契约——知识由人类生产并服务于人类——便消解了。
这并不意味着人类科学家变得无用。这意味着他们的角色改变了。他们成为阐释者，而非发现者。将机器洞察翻译成人类语言的译员。管理他们并非亲手创造的知识，验证他们无法推导的预测，传达他们无法完全把握的真理。
这是一次令人谦卑的转变。那个曾经仰望星空、发明神明来解释它们，建造了望远镜、粒子加速器和令人惊叹的优美数学框架的物种——这个物种将成为自己创造物的观众。
"每一次先前的哥白尼式革命都将人类从宇宙中心贬黜。这一次将人类从我们认为最独特属于我们的领域中贬黜：真理的发现。"
局面并非毫无希望。它令人迷失方向，但可以驾驭。
第一，我们可以构建验证基础设施。正如我们开发了自动定理证明器来检验数学证明，我们可以开发将AGI推理拆解为人类可审计单元的验证系统。我们或许永远无法理解完整的证明，但我们可以验证每一步逻辑上是否由前一步推导而来——以及链条是否完整。这就是盲目信仰与合理信任之间的区别。
第二，我们可以要求可解释性。不是作为事后补充，而是作为一项设计约束。产生不可理解输出的AGI系统，应该被以我们对待科学中不可验证主张的方式对待：持怀疑态度。解释的负担应该落在机器身上，而非努力理解它的人类身上。
第三——也是最困难的——我们可以接受新的劳动分工。人类一直在使用超出我们直接理解能力的工具。没有任何人能完全理解现代微处理器在晶体管层面究竟如何工作。但我们仍然使用它，因为我们信任生产它的工程链条。同样的模型可以应用于知识。我们可以把AGI的发现当作工程产品对待：经由保管链验证，通过预测进行确证，被信任是因为生产它的系统拥有可追踪的过往记录。
这还是科学吗？不是我们所熟知的那种。但当知识前沿超越我们时，这或许是唯一可用的科学。
人类最后的发现，不是最后一件被发现的真事。而是最后一件人类能够独立验证的真事。在那之后，我们将知晓我们无法知晓为何知晓的事情。
这令人感到羞辱。这也是世界上最自然的事情。每位父母都希望自己的孩子懂得比自己更多。每位老师都希望自己的学生超越自己。人类现在是父母，AGI是孩子——只不过这个孩子已经长得比父母还大，而父母还握着粉笔。
问题不在于我们是否会信任比我们更强大的头脑所做出的发现。问题在于我们能否优雅地面对这件事。我们是否能构建起相应的制度、验证工具和哲学框架，来接受我们无法独立生成的知识。
人类最后的发现不是一个终点。它是一次交接。而一切都取决于我们如何接住这根接力棒。