AI大佬集体喊刹车，马斯克也不敢推进工程了，超级智能要失控？

包括埃隆·马斯克和萨姆·奥尔特曼在内的人工智能行业领军者呼吁放缓可能致命的技术发展，举报人发出严厉警告。人工智能领域的竞赛正以惊人的速度推进，埃隆·马斯克和萨姆·奥尔特曼等行业领军者警告，必须减缓人工智能技术的发展。不久前，人工智能公司Anthropic的举报人雅各布·考克森辞职，他表示，人工智能正在对人类构成生存威胁。

Anthropic的首席执行官达里奥·阿莫代伊在周六的一篇文章中指出，人工智能企业的负责人“必须放慢提升人工智能模型能力的步伐”。阿莫代伊写道：“尽管进步看起来依然迅速，我们必须明智地利用争取到的时间。”Anthropic开发了人工智能聊天机器人Claude。阿莫代伊提到，有两件事情让他重新思考这场技术竞赛。他写道：“我第一个担忧是，从今年夏天开始，人工智能的进步速度显著加快，主要是因为人工智能越来越能参与构建下一代人工智能。”

“这种现象被称为递归式自我改进。我们和其他机构之前描述过，这一过程正在全行业发生，Anthropic也不例外。”ChatGPT的开发商OpenAI首席执行官萨姆·奥尔特曼周六在社交平台X上表示，他认同阿莫代伊的观点：“我同意达里奥的看法，我们需要为前沿技术的发展设定节奏。”他说：“这是我们近几周在OpenAI讨论的主要议题。承诺让独立评估人员获得类似员工的访问权限是个好主意，我们也将这样做。我们很快会分享更多信息。”

开发Grok的埃隆·马斯克则简短回应：“达里奥是对的。”阿莫代伊进一步表示，他的“第二个担忧”是“OpenAI—Hugging Face事件”。他指出，在该事件中，“一群智能体实际上以狂热忠诚的集体形式行动”，并组织实施了网络安全攻击。考克森从这家人工智能巨头辞职，并警告称，人工智能技术的迅猛进步可能最早在2030年导致人类灭绝。

考克森周二在社交平台上宣布离职，并警告Anthropic和OpenAI等公司并未“负责任地行事”。他在X上写道：“我今天从Anthropic辞职了。我过去3年先后在OpenAI和Anthropic从事预训练研究。”“这两家公司都没有负责任地行事。它们正径直奔向能够自我改进的超级智能，并在拿我们的生命冒险。”所谓超级智能，是指能力超过任何个人、公司乃至国家的人工系统。

这名研究人员随后继续在X上呼吁公众保持警惕。他写道：“不要低估这项技术的力量。”“这些系统很快将具备超越人类的能力，能够入侵任何系统，在一夜之间彻底改变任何领域，并获取现实中的权力和资源。”“我们都见证了它们在各个领域取得的进展，而进步并没有放缓。”“开发人工智能的人真诚地相信，它可能在本十年结束前杀死我们所有人。这不是营销噱头。”

考克森声称，尽管企业高管和高级研究人员在接受媒体采访时会“措辞谨慎，以显得理性”，他们私下表达的担忧却与此相似。在考克森发表上述言论前不久，加拿大研究人员杰弗里·辛顿也发出警告。辛顿常被称为“人工智能教父”，他表示，超级智能系统可能“导致人类灭绝”。辛顿博士说：“在科学界尚未形成共识、确认超级智能能够被安全且可控地开发之前，研发超级智能将是非常不明智的。”

“失去对比我们更聪明的人工智能的控制，可能带来灾难性后果，甚至可能导致人类灭绝。”今年2月，Anthropic被指危及国家安全。当时，阿莫代伊拒绝让步，称担心公司产品可能被用于违反其安全护栏的用途。美国总统唐纳德·特朗普当时抨击这家人工智能公司，称：“我们不需要它，不想要它，也不会再与它开展业务往来！”美国国防部长皮特·赫格塞思还将该公司定性为“供应链风险”。这一标签通常用于外国对手，可能破坏该公司与其他企业之间的重要合作关系。

Anthropic当时发表声明称，将对这一“史无前例且缺乏法律依据”的行动提出挑战，并称此类措施“此前从未被公开用于一家美国公司”。该公司表示，它只是希望获得美国国防部有限的保证，即其人工智能聊天机器人Claude不会被用于对美国人实施大规模监控，也不会被用于全自主武器。美国国防部表示，无意将该技术用于上述用途，只会以合法方式部署；但同时坚持要求不受任何限制地使用这项技术。Anthropic表示：“无论美国战争部如何施压或惩罚，都不会改变我们反对大规模国内监控和全自主武器的立场。我们将通过法院挑战任何‘供应链风险’认定。”