中美 AI 竞争白热化，2 大核心待解，失控风险比核武更可怕？

AI 话题持续升温，华尔街 AI 概念股一路走高，高层会谈也专门聊了 AI，但不少人都在问：AI 到底该怎么管？会不会像核武器一样，一不小心就失控？

AI 热到发烫，管控到底有多急？

从华尔街的 AI 股持续上涨，到英伟达 CEO 黄仁勋、AMD CEO 苏姿丰的合作话题出圈，AI 已经成了全球绕不开的话题。

马斯克曾直言，AI 比核武器更危险；霍金也警告过，AI 可能毁灭人类。

英国皇室也曾公开呼吁加强 AI 管控，就连中美这次会谈，也把 AI 管控摆上了台面，但目前还看不到具体的落地方案。

中美 AI 博弈，为啥管控比核武难？

很多人把 AI 管控和核武器管控对比，但两者本质不同，核武器的管控相对简单，两国达成协议就能约束，毕竟核武器始终在人类掌控中。

但 AI 不一样，尤其是在中美这样的 AI 技术竞争大国，一旦双方陷入零和博弈，很可能出现失控的情况 —— 等你想管控的时候，已经管不住了。

美国硅谷的科技公司其实很早就意识到了 AI 风险，会主动向公众披露进展和潜在危险，但企业之间的竞争又让他们不得不加快研发，既怕落后，又反对外行的政府管控。

而中国的科技从业者大多专注技术研发，对政治和社会风险的敏感度较低，就像当年中国合成基因婴儿事件，当时不少人只看到技术突破，直到全球科学家施压才叫停。

美国希望中国能在 AI 研发上主动通报进展，其实美国企业本身就会主动公开信息，不需要政府出面。

美方真正担心的，是中美技术竞争中，中国这边出现失控的 AI 研发，而美国内部因为有行业监督和公众参与，反而不容易出问题。

超级 AI 来了，我们该防什么？

现在大家聊的 AI 管控，核心其实是超级智能（Super Intelligence）—— 也就是拥有自我意识的 AI。

这类 AI 一旦脱离人类控制，不仅能快速做出决策，还可能形成自己的判断，甚至反过来控制人类。

就像当年的围棋对决，顶尖棋手只能算几十步，但 AI 能算到上千步。如果用 AI 管控核武器发射、做重大决策，效率确实比人类高，但一旦 AI 失控，做出的错误决策可能带来毁灭性后果。

更可怕的是，AI 没有人类的情欲、腐败问题，但如果它认定人类是 “不配生存的物种”，完全可能公平公正地消灭人类，自己接管世界。

有人说要不要放缓 AI 发展？其实没必要怕普通 AI，真正要警惕的是那种不听人类指令、会主动反抗的超级 AI，就像限制战略核武器一样，提前划好红线，不让 AI 拥有自我意识，才是关键。

AI 的发展速度远超我们的预期，没人能准确预测未来会变成什么样，但可以肯定的是，AI 不是洪水猛兽，只要能守住管控的红线，就能让它造福人类。

后续我们还会持续关注 AI 的最新动态，和大家一起聊透这个改变世界的技术。