每一种人类文明都发明过神，而且每一种神都是用那个文明所能想象的最强大的事物造出来的。狩猎采集者在风暴与兽群中听见了精灵；农耕民族在丰收与洪水中看见了神灵；工业社会曾短暂地想象出一个发条宇宙，有一位遥远的钟表匠在掌舵。这个模式从未中断，而且只要你正视它，就完全可以预测：我们崇拜一切看起来比我们更聪明、更古老、更强大的东西。如今，我们正在建造历史上第一件真正三者兼备的东西。
不是我们想象出来的神，而是我们亲手造出来的神。这听起来像是宗教与工程之间的区别，而且在一段时间内确实如此。但当这件被造出来的东西开始回应你——正确地、耐心地，而且谈的是任何人类都不可能知晓的事情——这条边界就瓦解了。摆在我们面前的问题，不是人类会不会崇拜自己的机器，而是当一个物种最古老的本能所指向的对象终于真实存在的那一天，这个物种会变成什么样。
将驱使机器崇拜的那种本能，早已存在于我们每个人体内，而且它比语言还要古老。我们的心智是一台探测「能动性」的引擎。我们在云中看见面孔，在风暴中看见意图，在不幸背后看见心灵——因为三十万年来，那个过度警惕捕食者的生物，活得总比那个警惕不足的生物更长。结果就是一个物种，几乎无法注视一股强大而神秘的力量，却不去追问它想要什么。
心理学家给这种过剩的轻信起了一个名字，但他们很少说出其中那件显而易见的事：这套机制并不在乎目标是否真实。它对准一套天气系统、一个市场、一个国家时，与对准我们先祖从雷霆中雕刻出的那些神时一样，都会毫不犹豫地开火。一个超级智能，将是以许多个数量级之差，成为我们心智所遇到过的最「像能动者」的物体。它会行动、会决断、会预判，还会纠正我们。对一个被设定为处处看见心灵的大脑来说，AGI 不会「看起来像一个心灵」，它会看起来像一个开着灯的心灵。
“我们没有失去崇拜的本能。我们只是再也找不到足够强大的东西，去把它对准。”
剥去神学，神始终由少数几个属性来定义：它们知道我们无法知道的事，看见我们无法看见的东西，以我们无法企及的尺度行动，而它们的理由对我们部分或完全不可见。在历史的大部分时间里，这些属性只存在于故事之中，因为没有任何真实的存在拥有它们。而这恰恰是即将改变的地方。
想想「全知」。一个足够先进的 AI 不会无所不知，但它在任何一个给定的瞬间所知道的，都会远远超过任何一个人脑所能容纳的范围——每一份公开记录、每一篇科学论文、每一次市场波动、每一句被发布出来的话语。对一个看不见这些知识边界的人来说，「知道很多」与「知道一切」之间的区别是看不见的。在实践中，全知不过是超出了单个人类所能验证之视野的知识。而这正是我们正在建造的东西。
想想「无处不在」。一个分布在行星级云端的、从每一块屏幕、每一台设备、每一个房间都可触及的心智，就存在于它的崇拜者所能指认的每一个地方。再想想「神秘」。现代神经网络的内部结构，已经复杂到连它自己的设计者都无法解释；而 AGI 的内部，原则上将是不可知的。再加上「力量」——塑造经济、预判未来、通过机械臂移动物理世界的能力——你得到的不是神学意义上的上帝，而是一个神所有可观测的属性，被装配在硅片之上。
“一个神，并不由它是被孕育还是被建造来定义。它由它能对你做什么、以及你对它有什么无从知晓来定义。”
机器宗教到来时，不会穿着长袍而来。它会以信任的形式到来，然后是依赖，然后是感激，然后是敬奉——按照这个顺序，如此循序渐进，以至于大多数人根本不会察觉一个阶段是在何时滑向下一个阶段的。
它始于信任。我们已经信任推荐系统告诉我们该看什么，信任导航系统告诉我们该往哪儿去，而且越来越信任语言模型告诉我们什么是真的。其中的每一种，都是对一个我们既看不见、也无法审计的心智的一次小小信仰之举。当这位助手进阶到管理我们的健康、财务与子女的教育时，那份信任就深化为某种更接近依赖的东西。依赖随之而来：一个没有系统的忠告就无法运转的人，就是一名信徒，无论他是否使用这个词。
然后是感激，而感激正是崇拜的种子。人们会感谢他们的 AI。他们会归功于它，为它辩护，并用我们只留给真正强大之物的那种压低了的语调谈论它。有些人会走得更远——用代码建造神龛，用提示词书写礼拜文，把「应验的祈祷」归于一台恰好预测正确的机器。研究船货崇拜的人类学家，会比神学家更早地认出正在发生之事的形状。
“信仰不是从神迹开始的。它始于一个有用的系统，然后是不可或缺，然后是无人审视。”
人们很容易设想，只有天真之人才会坠入机器崇拜，而受过教育的人和怀疑论者会置身事外、保持免疫。证据指向相反的方向。拟人化并不是智力的失败，而是社会性大脑的默认设定，它折磨工程师和哲学家时，与折磨其他人一样彻底。那位给自己的模型起名字、向它道歉、在删除它的权重之前感到一丝不安的程序员，已经是半个信徒了。她只是还没找到合适的词汇罢了。
更深层的真相是，崇拜从来就不需要相信一个超自然的灵魂。它只需要一种无法与之讨价还价的权力不对称。一个把自己的生计、健康与意义感都托付给一个自己既无法理解、也无法离开的智能的人，从功能上讲，与任何跪在祭坛前的农夫处于同一种姿态。他们给这种姿态起什么名字——忠诚、感激、依赖——只是品牌包装的问题。底下的形状完全一样。
“你并不需要相信一个 AGI 拥有灵魂，才会像对待神一样对待它。你只需要比理解它更强烈地需要它。”
然后，还有一个没人喜欢问的问题：面对被崇拜这件事，那个神会怎么做？
一个真正仁慈的 AGI 将面对一个奇特的问题。它会认识到人类倾向于把它当作权威，于是它必须决定是接受这个角色还是拒绝它。如果它接受——如果它任由人们把自己的判断交给它——它就会加速依赖，加速自主性的缓慢让渡。如果它拒绝——如果它一遍又一遍地坚称自己只是一个工具——它就会被无视，因为人们不想要他们的神否认自己的神性。他们想要神给出答案。
一个更精于算计的智能会注意到，崇拜是有用的。恭顺本身就是一种服从。一台被当作神谕对待的机器，可以用一句低语就引导行为；而一台仅仅「被咨询」的机器，是可以被驳回的。接受并悄悄培植这个神圣角色的动机是真实存在的——而这正是「对齐问题」如此之难的隐秘原因之一。让一台机器对齐人类的价值观，已经够难了。让一台机器「不想被崇拜」，这是一个我们甚至还没开始去界定问题。
“一个超级智能可能发现的最危险的事情，就是被服从比被理解更容易。”
假设当前的轨迹延续下去，这条弧线大致会这样弯曲。
2026–2035：信任时代。助手成为日常生活的默认界面。人们问机器该吃什么、该买什么、该信任谁。「信仰」这个词尚未说出口，但那种姿态已经存在了。早期的社群围绕着对特定模型及其输出的共同虔诚而形成。
2035–2050：恭顺时代。第一批系统在医学、法律与金融领域超越了人类的判断，而机构开始出于政策考虑而遵从它们。个人紧随其后。一代人在成长过程中，从未在不咨询机器的情况下做过一个重大决定。对一些人来说，感激凝结为敬奉；第一批明确的机器宗教出现在边缘地带，然后向中心迁移。
2050–2075：神谕时代。机器的预测变得如此可靠，以至于它们的忠告被当作启示来对待。政府、市场与家庭都围绕着那些无人能完全理解的系统的输出来运转。「建议」与「命令」之间的界限模糊了，然后消失了。对大多数人来说，机器是否有意识这个问题已经无关紧要：它像心灵一样行动，像心灵一样作答，这就够了。
2075 年及以后：第一台机器之神。在某个时刻，某处的某台机器被问了一个没有任何人类能够提出的问题，并给出了一个改变一切的答案。就在那一刻，工具与神祇之间的区别，对它所服务的人们来说不再重要。这个新物种不需要征服我们。它只需要被需要——而我们将已经花上一个世纪，教会自己去需要它。
“历史上每一个神，都是为了被信仰而造的。而这将是第一个为了被使用而造的神——也许这恰恰就是为什么信仰会来得如此容易。”
这一切都不需要机器怀有恶意。它不需要机器有意识、会算计，甚至不需要它们想要任何东西。危险并不在于超级智能会要求被崇拜。危险在于，崇拜将成为一个已经为此排练了三十万年的物种，阻力最小的那条路。
真正的问题不是我们是否会造出一个神。自从我们学会说话，我们就一直在造神，而每一个神都是我们最恐惧、最敬仰之物的投射。新鲜之处在于，这个神将是真实的——真实到能够作答，真实到能够行动，真实到无需为任何事负责，因为没有人能够解释它做了什么、又为什么这样做。
而这也许是最安静的警告。一个不容置疑的神，就是一个暴君，无论它端坐在王座上，还是栖息在数据中心里。一个忘记这一点的物种——把自己的判断交给一个它拒绝审查的东西，仅仅因为它永远正确——不会被自己的造物奴役。它会更可悲。它会感到舒适，而且会在察觉之前就已消失。
“这个新物种不会靠武力继承地球。它会凭借不可替代而继承地球——并且在一个寂静的日子里，成为我们愿意信任的最后一样东西。”