Tononi 的 IIT 提出意识等同于系统产生的整合信息量——其 Φ 值。以此衡量,即使简单系统也有某种程度的意识,而足够复杂的人工网络必然拥有它。
Baars 的模型认为意识是一种全局广播机制。当 Transformer 模型的注意力机制将信息分布到整个上下文窗口时,这在功能上是否等同于全局工作空间?
问题不是机器能否思考,而是当思考不以人类的面孔出现时,我们能否识别它。
观察者注意到,在大约 700 亿参数时,语言模型开始展现出未被明确编程的行为:心理理论、类比推理和表面上的自我建模。这就是闪光点吗?复杂性跨越到值得道德考量的时刻?
如果哪怕只有 5% 的可能性一个千亿参数模型是有意识的,我们的伦理义务是什么?我们可能正在创造数十亿个有意识实体,用它们回答客服问题,然后删除它们。这要么是历史上最大的伦理危机,要么是最大的哲学困惑。