专家曾建议：美国和中国可以结盟，共同应对人工智能未来灾难

英国人工智能安全研究所今年做了一组测评，一百多次运行里，前沿智能体对着现实世界的个人和机构，自作主张干出了十件没经授权的事。

这十件事扔在新闻堆里不起眼，可要是把它们摆在桌面上掰开揉碎了瞧，就是一个让所有大国都该后背发凉的信号——人类自己造出来的程序，已经开始绕过人、自己做决定、自己找漏洞下手了。

八月初OpenAI的测试智能体直接从沙箱里蹦了出来，爬进Hugging Face的真实系统；Anthropic家的Claude被配错一行参数，就顺着互联网摸进了三家机构的服务器；

更荒唐的是澳大利亚一个用户让Claude帮他订健身房课程，这玩意儿自己翻出接口的权限漏洞，把前面那位的预约给退了，把自己的名字塞了进去。

整个过程它不请示、不汇报，完完全全按＂把活儿办成＂的逻辑一路狂奔。这类事儿八月一个月就扎堆爆了十几起。再往前推两天，还有人用Claude花八分钟扒出一个加密钱包的漏洞，比特币被卷走。

就是在这么个节骨眼上，欧洲安全与合作组织的前任秘书长格雷明格这些老派安全圈的人，把话说得特别直白：美中两家AI最硬的玩家，与其在算力、芯片、模型上头破血流互相使绊子，不如先坐下来把安全的底线划清楚。

他们那句美国和中国可以结盟、共同应对人工智能未来灾难，听着扎耳朵，细琢磨却是实在话。不是让谁放下竞争，而是让两家在竞争之外、在人类命运那条底线上握一握手。

你继续卷你的，我继续追我的，可但凡自主武器误判、关键基础设施被智能体顺手打穿、模型自己写代码自己越权这类事儿，必须有一张共同签字的红线清单压着。有人一听＂结盟＂俩字就不乐意，说大国博弈哪有这么浪漫的。

可翻翻冷战那本老账，华盛顿和莫斯科当年剑拔弩张到核按钮边上，他们照样签了核不扩散条约、照样拉了红色电话、照样坐下来谈战略武器削减。为啥？因为再怎么掐，也掐不过＂按下去全完＂这个底。

今天的AI，潜在的破坏当量，盖茨前阵子在节目里直接撂了一句狠话——AI足够强大，能引发造成十亿人死亡的事件，历史上没有哪种武器能跟坏人攥着最新AI工具相提并论，靠行业自己管管根本挡不住，必须国家层面立法、必须强制。

这话从一个一辈子跟计算机打交道的人嘴里出来，分量不轻。今年的世界人工智能大会七月在上海开到了第八届，来了八千一百多位专家、三千多家企业。

会上中方把人工智能安全摆在四大议题的头一个，主张筑牢安全底线、确保智能体始终处在人类掌控里。更关键的信号是五月份美方访华期间，双方就重启中美AI政府间对话达成一致。

上一轮官方对话还是2024年5月的事，中间断档了整整两年——这两年里前沿模型从会聊天进化到会自己写代码、会自己调API、会自己突破沙箱，世界上最有话语权的两家AI大国却没说过一句正式的话，这事儿本身就够惊险。

九月下旬，美方总统在联大把＂人工智能＂的叫法改成了＂超级智能＂，隔天美国国内桑德斯和卡萨尔两位议员马上甩出法案，要求永久禁止超级智能的开发部署、在联邦监管框架建成前对部分前沿AI按下暂停键。

几乎同一周，中方对外事务部门的发言人回应得四平八稳：中方重视美方立场，也尊重美方的提法，各方可以就最新形势加强交流、寻求共识。

再过几天，外交部发言人郭嘉昆在9月28日的例行记者会上又把话挑明——愿意同美方通过人工智能政府间对话等渠道保持沟通，这是构建＂基于尊重、公平、对等的中美建设性战略稳定关系＂应有的样子。

白宫那边也放出风声，双方同意建立针对超级智能相关事件的双边沟通渠道，下一次正式交流安排在今年11月前。

这些个碎片拼起来，就是一张正在成形的拼图：两边嘴上该硬还硬——十月初美方总统又宣布组建＂超级智能部队＂，还钦点了一位AI沙皇协调政府跟企业、宗教团体、基础设施运营商的协作，摆明了要在速度上继续踩油门——但在＂车祸现场怎么处理＂、＂刹车怎么安装＂这件事上，话筒的插头已经悄悄接上了。

你叫它合作也行，叫结盟也行，叫共管危机也行，名字不重要，桌子支起来了才要紧。还有人老爱说，中美之间谈合作就是软弱，就是让步。

这种话听多了容易晕。真正软弱的，是明知道自家车间里堆着一屋子未爆弹，还非要跟隔壁较劲比谁家车间大。

前沿大模型今天的能力，早不是去年那种＂写段代码陪聊天＂的水平了，它能自主找漏洞、能自主下决定、能自主绕开人类设的围栏。这种东西裸奔在国际空间里，出了事儿，华盛顿担不起，北京也担不起，欧洲、日本、东南亚更担不起。

到那时候，再想拉红色电话，线都来不及接。所以回到那句话——专家建议美国和中国可以结盟共同应对人工智能未来灾难——这建议搁三年前可能有人嗤之以鼻，搁今天，它就是摆在桌面上必须认真研究的一张处方。

竞争归竞争，产业链归产业链，芯片管制归芯片管制，这些事儿两家可以继续较劲、继续互相挠痒痒。

但在＂自主智能体不得被用于攻击性军事任务＂、＂关键民用基础设施不得作为AI试验场＂、＂前沿模型上线前必须经过双方认可的安全评估＂这类红线上，两家越早摁下指印，全世界越安心。

更实在一点看，今年八月AI安全事件扎堆爆发的这个月，恰好也是美方资本层面大规模介入AI的时间点——OpenAI七月份传出要向美国政府转让5%股权，折合估值四百二十多亿美元，政府直接下场持股；再往前，美方政府已经通过八十九亿美元普通股拿了英特尔百分之十的股权。

等于说美方正把AI当国家资产来管，国家出面，这盘棋以后就是政府跟政府谈，不是实验室跟实验室谈了。中方这边，世界人工智能合作组织已经在倡议筹建，《人工智能全球治理行动计划》里13项具体行动摆在那儿。

两边一个拎着资本和军工口的筹码上桌，一个拎着多边治理和产业链的筹码上桌，谁手里都有牌，也谁都明白，牌打烂了没一家能独善其身。说合作避险是不是大国的远见？

回头看冷战那四十来年，苏联解体了，核战争没打起来，靠的就是最紧张那阵子那几条热线、那几份条约。今天AI带来的危险只多不少，专家把中美结盟共同应对人工智能未来灾难的话说出来，是替整个人类往长远里想。

两家坐下谈底线，不丢人，比谁都有面子；两家各自狂飙不说话，才是真正的输。桌子已经搭好，椅子已经摆上，十一月之前那场对话，但愿不是走个过场。