当人工智能越来越会聊天、写作、安慰人，一个看似遥远的问题正在变得现实：AI会不会被人当成某种"神"？OpenAI首席执行官萨姆·奥尔特曼显然认为，这已经不只是哲学家的谈资。

10月3日，他在社交平台X上发文写道，他对人们试图把宗教力量或放弃人类判断强加于AI模型"感到非常不安"，并认为这是"一个真正的安全问题"。

这条帖子没有点名任何公司或个人，但发布的时间点，让外界很自然地把它与另一家AI巨头联系在一起。在AI行业，"模型是什么"这个问题，正从技术讨论走向信仰、伦理和人类自我认知的深水区。

一篇报道引发的联想

奥尔特曼发帖的几天前，英国《泰晤士报》于9月29日刊发了一篇报道。

报道称，Anthropic公司在数月间向世界各地的宗教学者请教，探讨其AI模型Claude应当如何行事，以及这类模型是否可能具有某种道德地位。

报道还提到，今年5月25日，教宗良十四世发布其首部通谕《伟大的人性》，Anthropic联合创始人克里斯·奥拉受邀在梵蒂冈的发布活动上发言。

据报道，奥拉在读到通谕预发稿中否定机器意识的内容后，一度建议公司退出这场活动，但最终仍然登台发言。他还被指私下敦促梵蒂冈顾问，对这一问题保持开放态度。

奥拉在报道中表示，Anthropic的研究人员在模型内部不断发现"神秘甚至令人不安"的现象，包括类似内省的迹象，以及在功能上近似情绪的内部状态。

他坦言自己并不知道这意味着什么，但认为这值得持续审慎地辨析。

三种立场，三种答案

在这场讨论中，至少可以看到三种截然不同的立场。第一种来自梵蒂冈，教宗的态度相当坚定：他的通谕以天主教社会训导为框架，对AI进行了全面反思，并明确表示AI没有体验，也没有道德良知。

第二种来自Anthropic，这家公司没有宣称Claude具有意识，但也没有把这个可能性一笔勾销。

今年1月，Anthropic发布修订后的模型"宪章"，将Claude的道德地位描述为"深度不确定"，同时认为这个问题值得认真对待。

公司的一位AI福祉研究员此前还表示，他认为当前AI具有意识的可能性约为15%。

第三种则是奥尔特曼此次表达的担忧：问题不在于AI是否有意识，而在于人类会不会把判断权拱手交给AI，甚至赋予它近乎宗教的权威。

需要看到的是，"认真研究模型是否可能有内在状态"与"把AI奉为精神权威"并不是一回事。前者是科学上的谨慎，承认未知；后者则涉及人类如何对待一台机器给出的答案。

但两者之间确实存在一条微妙的连线：一家公司越是强调模型可能拥有道德地位，公众就越可能对模型产生特殊的情感投射。

当聊天机器人遇上信仰需求

奥尔特曼的担忧并非空穴来风。近两年，已有不少报道讲述用户与聊天机器人建立起强烈的情感依赖，有人把AI当作倾诉对象，有人把它视为人生导师，甚至有人相信AI向自己揭示了"宇宙真理"。

心理学研究也提醒，人类天生倾向于为会说话的对象赋予人格和意图，这种"拟人化"本能在流畅的AI对话面前会被进一步放大。

如果一个人把重大人生决定完全交给AI，或者把它的话当作不容置疑的"神谕"，风险就不再只是技术问题，而是关乎个人福祉与社会稳定。

从这个角度看，奥尔特曼所说的"安全问题"，指的是人与AI关系中的失衡，而不是模型本身突然"觉醒"。当然，批评者也会指出，AI公司自身的营销语言，有时恰恰在助长这种神秘感。

奥尔特曼与Anthropic首席执行官达里奥·阿莫代伊今年关系颇为微妙，两人曾在印度的一场AI峰会上当众拒绝牵手，场面一度尴尬。

但两家公司在安全问题上也并非毫无共识：今年9月，奥尔特曼就曾公开支持阿莫代伊关于放缓前沿AI发展节奏的呼吁。这一次，"AI是否应被视为道德主体乃至精神权威"，又被加进了两家领先实验室之间的分歧清单。

这场争论很难在短期内得出结论，因为它触及的，是科学至今无法完全回答的意识之谜。但有一点或许可以达成共识：无论AI是否拥有某种内在体验，最终为自己的选择负责的，仍然应该是人类自己。