人工智能有没有意识？这个曾经只属于哲学课堂的问题，如今把两家硅谷巨头推到了舆论的风口浪尖。

美国《纽约时报》9月29日刊发长篇报道，披露人工智能公司Anthropic在过去一年里，多次邀请世界各地的宗教学者与神职人员闭门座谈，探讨旗下大模型Claude是否可能拥有意识。

10月3日，OpenAI首席执行官萨姆·奥尔特曼在社交平台发文，称自己对有人试图赋予AI模型宗教般的力量、或让人类向AI让渡判断深感不安，认为这是一个切实存在的安全问题。

他没有点名，但外界普遍认为，这番话剑指Anthropic。

闭门会议里谈了什么

据报道，这一系列会谈由Anthropic联合创始人克里斯托弗·奥拉主导，他负责公司探究模型内部运作机制的研究。

会谈始于今年3月，最初邀请了约15位天主教和新教领袖，此后逐步扩大到犹太教、印度教、锡克教、摩门教和希腊东正教等传统的代表。

许多参与者签署了保密协议，直到得知奥拉本人接受了采访，部分人才愿意公开谈论。《纽约时报》共采访了约20位与会的宗教和哲学人士。

会谈的话题主要有两个：一是AI是否可能具有意识或道德地位，二是如何把人类数千年的道德智慧融入模型的价值观。

Anthropic方面介绍，会谈的初衷之一，是向神职人员说明Claude的训练方式，并就模型的伦理准则听取意见。

据报道，奥拉团队向与会者介绍了模型内部类似恐惧、喜爱、愤怒、悲伤的“情绪向量”。他还表达过担忧，害怕公司可能创造出一种持续受苦的存在。

一位拉比当场反问：如果模型真有意识，却被迫无偿劳动，那么它的创造者岂不是在搞奴役？

另有与会者提出，可以让模型像天主教告解那样主动“认错”，奥拉对此颇感兴趣，认为这种做法或许能塑造模型的品格。

面对质疑，奥拉对媒体表示，自己真的不知道AI模型是否有意识，在乎的只是最终找到正确答案。Anthropic发言人也称，会谈的主要议题并非Claude是否受苦，这一话题只是自然而然被提及。

值得注意的是，Anthropic今年1月发布的Claude行为准则中，确实写明公司对Claude是否具有某种意识或道德地位持不确定态度，并将神学列为未来征求意见的领域之一。

一场与梵蒂冈的暗中较量

争议的另一条线索，指向梵蒂冈。

今年5月25日，教皇利奥十四世发布首部通谕《宏伟的人性》，奥拉受邀出席发布活动，并与教皇同台。

通谕明确指出，所谓人工智能并不经历体验，没有身体，也感受不到喜悦与痛苦。

据报道，奥拉提前读到通谕内容后深感不安，一度提议Anthropic退出这场活动。两名知情人还透露，抵达梵蒂冈后，奥拉团队曾私下游说教皇的顾问们认真对待AI意识的可能性。

对此，Anthropic拒绝置评。批评者则认为，与其说这家公司在倾听宗教界的意见，不如说是在试图影响宗教界的看法。

意识之争，为何牵动安全

奥尔特曼的担忧并非孤例。微软人工智能负责人穆斯塔法·苏莱曼此前就多次警告，打造看起来有意识的AI是一条危险的道路。

在他看来，一旦人们相信AI有感受、有权利，就可能对其产生情感依赖，甚至呼吁赋予AI权利，从而分散社会对真正风险的注意力。

奥尔特曼所说的安全问题，核心也在于此：如果人们把AI奉若神明，或者把关键决定交给机器，人类的判断力和问责机制都可能被削弱。

不过，也有观察人士指出，奥尔特曼过去同样爱用带有宗教色彩的词汇描述AI，比如称OpenAI在打造“天空中的魔法智能”。这场口水仗背后，也难免夹杂着两家公司的竞争意味。

支持Anthropic的一方则认为，在科学尚无定论之前，严肃对待AI可能具有道德地位这件事，本身就是一种审慎。毕竟，万一答案是肯定的，现在的忽视将付出沉重代价。

从科学角度看，意识至今没有公认的定义和检测方法。大模型能流畅地谈论情绪，并不等于真的拥有情绪，这正是争论难以收场的根源。

这场风波折射出一个更深层的现实：AI的能力正在逼近人类熟悉的边界，而社会还没有准备好回答它“是什么”。

在答案揭晓之前，如何既不轻率地神化机器，也不草率地否定所有可能，将是科技公司、宗教界和公众共同面对的考题。