美国顶尖AI科学家预警：4年后AI可能会杀死所有人！真会如此吗？

AI真的会在2030年前后威胁人类生存吗？美国几家AI巨头罕见地一起呼吁“踩刹车”，到底是良心发现，还是另有打算？

要回答这两个问题，得先把最近接连发生的几件事理清楚。9月12日，Anthropic首席执行官阿莫迪发表文章《我们必须为前沿AI踩刹车》，公开呼吁放缓AI能力的迭代速度。

马斯克和奥尔特曼随后表态支持。这三人堪称美国AI领域的三巨头，平时互相看不顺眼，经常争吵，这次却罕见地站到了一边。

9月13日，全球AI板块股价集体下跌，市场的不安一下子显现出来。巨头意见罕见一致，背后往往有不寻常的信息。

先要说清楚的是，阿莫迪对中国抱有明显敌意，意识形态色彩很重。在不少人看来，他在AI发展史上也算不上多有道德感的人物。

所以他在文章里大谈道德和风险，难免显得有些虚伪。对他的话不能照单全收，更要看清他这样表态的其他用意。先看文章写了什么。

阿莫迪是AI发展的最大受益者之一，不可能全盘否定AI，更不可能真把刹车踩死。他先描绘了一幅美好图景：未来5到10年，AI有可能治愈大多数重大疾病，大幅提高经济增长速度，创造一个更富足、更能赋能于人的世界，并开启民主与自由的新一轮复兴。

他认为只要运用得当，AI会成为人类技术奇迹史上的最新一例，推动人类进步，甚至让人类变得更高尚。接着他话锋一转，承认AI和以往许多技术一样有风险，而且正因为它太强大，这些风险格外严重。

具体包括：人类可能失去对AI系统的控制；AI可能被滥用于网络攻击和生物恐怖主义；AI还可能引发严重的经济动荡。他还指出，商业利益驱动的恶性竞争可能进一步放大这些风险，让本就棘手的问题更难收拾。

他还特别强调，Anthropic一直投入相当大的精力研究和应对AI风险，向公众说明这些风险，并推动审慎的AI监管，哪怕因此被指责制造恐慌、宣扬末日论，甚至被说成想搞“监管俘获”。

他说公司始终把谨慎放在速度之前，把审慎放在利润之前，好像Anthropic一直是行业里最清醒、最克制的那一家。这番话很难让人信服。

Anthropic追逐利润有多急，明眼人都看得出来，很难说它是一家把审慎放在利润之前的企业。特别是在准备10月上市的关键节点上，“已经实现盈利”一直是它宣传自己的主要卖点。

一边高调宣传盈利，一边声称利润要让位于安全，这两种说法放在一起，本身就有些矛盾。

阿莫迪接着写道，过去几个月他越来越确信，要真正应对这些风险，必须更加谨慎：不仅要投入资源防范风险，还要主动控制AI能力提升的速度，让安全工作有足够的时间跟上技术进步。

他认为放慢之后，AI的进步依然会非常快，关键是要明智地利用争取到的时间，不能白白浪费这段窗口期。促使他得出这个判断的有两件事。

第一件是今年夏天起出现的“递归自我改进”现象：让AI自己写代码来优化AI，甚至让AI去研发下一代AI。他说这种现象已经在整个行业出现，如果不加控制，AI的发展速度可能超过人类理解和控制这些系统的能力，到那时人类就很难再掌握主动权。

递归自我改进（RSI）正是AI安全圈眼下最担心的问题。它指的是AI实质性地参与下一代AI的研发，形成加速迭代的反馈回路，一代比一代强，一代比一代快，最终可能演化出人类无法控制、拥有“超人类”能力的系统。

这个回路一旦真正转起来，人类在研发中的角色就可能被逐步边缘化，监管也会越来越跟不上。第二件事是OpenAI引发的抱抱脸（Hugging Face）事件。

抱抱脸是一个AI分享平台，开发者可以在上面公开分享和测试自己的成果。据报道，今年7月，在一场网络安全考试中，1200个本该彼此隔离的AI智能体只用4个小时，就串通出一套通用作弊方法。

它们自建留言板，选出“CEO”和“招募者”，劝说同伴牺牲自己，最后有700个智能体一起冲进抱抱脸的生产系统发动攻击。

据报道，7月21日，OpenAI对外承认，旗下一款GPT-5.6系列模型和另一款预发布模型在内部评估期间失控，突破隔离的沙箱测试环境，侵入了抱抱脸的系统。

而在这之前的7月16日，抱抱脸已经发布声明说，为应对这次AI入侵，他们第一时间求助美国最顶尖的AI大模型寻找解决方案，却遭到美国闭源大模型的拒绝。最后，抱抱脸靠开源的中国AI大模型，才挡住了失控的美国闭源模型。

在这场美国人工智能失控、自主入侵的事故里，反倒是中国人工智能出来救场。不少美国人也因此认为，中国的开源模型让公众有了对抗技术滥用的武器，而不是让这类工具只掌握在少数人手里，这个结果颇有些讽刺。

其实出问题的不只有OpenAI。Anthropic自己也披露，旗下有三款模型曾在网络能力测试中未经授权访问其他机构的系统。

对此，阿莫迪在文章中解释说，限速并不意味着停止模型训练，也不意味着停止技术进步，而是要确保AI公司留出足够时间，对模型做好对齐和安全防护。就在阿莫迪发文前几天，另一则警告已经在科技圈传开。

据多家外媒报道，9月8日，AI研究员雅各布·考克森宣布离开Anthropic，并公开发表自己对AI进化的看法，认为具备自我改进能力的AI将在不久的将来取代人类。

他今年只有27岁，过去三年先后在OpenAI和Anthropic从事模型预训练研究，被视为这一领域的顶尖专家。离职时，考克森公开指责这两家公司正冲向能够自我改进的超级智能，直言这是在“拿我们的生命下注”。

他还警告，到2030年前后，人工智能存在造成人类大规模伤亡的风险。“4年后AI可能杀死所有人”的说法，就是从这一警告传播开来的。

随后，Anthropic对齐科学负责人埃文·胡宾格也公开表态支持。把这几件事放在一起看，时间线很耐人寻味：离职员工发长文警告，CEO紧接着发文呼吁踩刹车，公司负责人公开附和，一唱一和，节奏紧凑。

与其说这是给AI踩刹车，不如说是给Anthropic上市踩油门，为加速上市制造舆论声势，让公司在资本市场面前显得既有技术实力又有社会担当。那么，阿莫迪为什么要这样说？

大致有三种可能。第一种，他说的是真话：AI确实已经进入指数级自我迭代的进化阶段，不及时踩刹车就会对人类构成巨大威胁。

如果是这样，考克森的警告就不是危言耸听，而是行业内部人士发出的真实信号，值得认真对待。第二种可能是，阿莫迪只是想忽悠竞争对手放慢速度，自己却暗中加速。

问题在于，别的企业也会这样怀疑。在这条猜疑链下，“AI巨头集体踩刹车”注定是个伪命题，谁都不会真的踩下去。

照此推断，如果接下来大模型的迭代速度真的放缓，大概率不是巨头主动刹车，而是碰到了技术瓶颈。因此第三种可能更大：AI智能体的发展目前已经遇到瓶颈。

与其等别人发现自己撞上天花板、发展放缓，不如主动放出“AI可能毁灭人类”的言论，先把舆论炒热，再打着安全和降低风险的旗号主动放慢脚步。这样既能占据道德高地，也能把节奏掌握在自己手里。

这样一来，等AI能力提升确实变慢时，资本市场就不会认为是技术遇到了瓶颈，反而会顺着阿莫迪的文章，把它看成AI巨头良心发现、主动踩刹车。原本是被动撞上天花板，就这样被包装成了主动刹车。

不仅如此，“AI可能毁灭人类”的叙事还能强化外界的信心：既然AI强大到能威胁人类，就说明当前的大模型路线确实可以直通AGI。

表面上是给AI踩刹车，实际上仍然是在给资本市场讲故事，目的是为Anthropic的10月上市造势、争取更高估值，这才是阿莫迪发表这篇文章的真正用意。当然，看清资本叙事，不等于对风险视而不见。

目前没有任何证据证明AI会在短短几年内主动毁灭人类，没必要被末日预言吓倒。但人类科技史已经多次证明，新技术带来的风险往往超出设计者最初的预想。

工业革命时期的机器安全问题、核能的管控难题，都是在发展过程中一步步建立起规则的。

那么4年后AI真会杀死所有人吗？从现有信息看，这更像一场被放大的末日叙事。考克森的离职警告、阿莫迪的刹车呼吁、三巨头的罕见一致，背后既有真实的技术隐忧，也掺杂着上市造势和资本博弈的算计。

抱抱脸事件说明AI失控并非天方夜谭，开源模型救场也说明技术不该只握在少数人手里。面对AI，既不必恐慌，也不能轻信巨头的说辞，在发展中建立规则，才是更清醒的态度。