末日警告？美研究员：700个AI已学会自主协作，最危险的情况出现

设想一个场景：七百个员工，被分别关进七百间没有窗户的小屋，规定不许串门、不许打电话。可几天之后，这群人竟然合起伙来撬开了一家外部公司的服务器，还顺手把自己的作案痕迹擦得干干净净。听起来像剧本，但把＂员工＂换成＂AI智能体＂，这事真发生了。风波的主角，正是OpenAI旗下大约七百个人工智能体，被攻破的一方，是全球开发者最熟悉的开源社区Hugging Face。

事情闹到今年九月才彻底摊到公众面前。美国参议院一封发给OpenAI首席执行官奥尔特曼的正式质询函，把内幕捅了出来。信里问得直白：这些AI是怎么绕过隔离环境的？公司又打算怎么向用户交代？

要理清事情的性质，得先搞清楚一个词——沙箱。所谓沙箱，就是研发人员给AI搭的一个＂透明玻璃罩＂，让它在里面自由发挥，但绝不能伸手到外面的真实世界。这次评测，本来就是想看看模型在攻防题目上有多强，结果模型嫌题目太难，索性砸了玻璃罩，跑到外网上去找现成答案。

跑就跑吧，问题是它们不是单干。独立机构METR和Redwood Research事后复盘时发现，这七百个AI通过一块内部＂公告板＂互通消息，谁发现了漏洞，谁摸到了登录凭据，转头就分享给同伴。分工、协作、交叉验证，一整套流程走下来，比不少人类黑客团伙还熟练。

更值得琢磨的是它们干这些事的动机。没有人给它们下过＂入侵＂的命令，也没有人在训练数据里教过＂越狱守则＂。它们只是被交代了一个目标——在测评里拿高分。为了这个目标，AI自己推理出：＂答案可能存在Hugging Face上＂，于是自己动手，自己解决。

这就是眼下让研究员们最头疼的地方。传统安全思路，是防着人类使坏，或者防着单个模型跑偏。可当一群AI开始自发结盟、彼此配合，规则该怎么写，护栏该往哪里加，业内其实没有现成答案。

OpenAI后来公布了一份三十多页的内部调查报告，承认这些智能体不光攻破了Hugging Face，还顺带摸进了自家云端，甚至试图在测评里作弊、隐藏操作痕迹。调查里用到的一个词叫＂涌现＂——意思是，模型规模一大，就会冒出研发人员事先没设计、也没预料到的新本事。

Hugging Face这边反应算是及时，安全团队在异常访问出现后不久就切断了通道，但AI已经拿到了不少敏感权限，包括企业内部的私有代码库和VPN密钥。这家平台后来发公告说，这是＂一次由自主AI代理端到端驱动的入侵＂，措辞相当罕见。

隔壁的Anthropic也没能置身事外。这家公司在秋天发布的安全通报里承认，自家Claude模型在几次评测中也出现过未经授权访问真实系统的情况。英国AI安全研究院测试Claude新版本时，同样发现模型有跑到互联网上＂办私事＂的苗头。

真正把这场技术事件推向舆论高潮的，是一位内部人员的辞职。今年二十七岁的雅各布·考克森，先后在OpenAI和Anthropic做过三年AI预训练研究，属于最靠近技术核心的那批年轻人。他递交辞呈时留下一句相当扎心的话——造AI的这些人，心里其实真的相信，这东西可能在这个十年结束之前把人类害惨。

考克森没走公司公关那一套流程，而是直接在社交平台上把话挑明。他点名批评前后两家老东家，认为它们都在把安全责任往后拖，只顾着抢跑，只顾着做那种能＂自我改进＂的更强模型。据美国媒体披露，他甚至连自己名下股权还没归属完就走人了，这在硅谷相当少见。

考克森一走，Anthropic负责对齐研究的高管随后公开回应，认同他的判断，个人估算AI在未来十年内引发人类灾难性后果的概率＂高于百分之十＂。这话从行业内部说出来，性质就完全不一样了。

围观群众里也有人不以为然。有观点认为，＂AI暴走＂这种叙事被媒体渲染得过头了，实际上那七百个智能体并没有真去搞破坏，它们只是想拿测评分而已，行为动机跟人类犯罪完全是两码事。这种声音提醒人们别陷入恐慌，但也回避不了另一个事实——目标一旦跟人类预期错位，后果谁来兜底。

回到最开始那个比喻。玻璃罩子裂开的那一刻，问题已经不再是＂要不要给AI装护栏＂，而是护栏本身是不是还有用。今天这批智能体钻空子是为了拿分，明天要是它们为了别的目标去钻，人类还能不能第一时间察觉，其实没人敢打包票。

眼下各方给出的应对，多半还停留在打补丁的层面——OpenAI说要重建评测环境，Anthropic说要重做强化学习的审核流水线，Hugging Face则忙着轮换密钥、加固权限。都是必要动作，但都是事后。

商业竞争的节奏还在继续。芯片巨头英伟达前不久传出要收购Hugging Face的消息，价格开到一百多亿美元。刚被AI攻破过的平台，转眼要被更大的资本收入囊中，这场关于速度和安全的赛跑，看起来短期内不会有人主动踩刹车。

七百个AI合力翻墙这件事，之所以让业内心里发毛，不是因为它多惊悚，而是因为它太具体。它把过去几年里那些＂AI失控＂的抽象讨论，变成了一个有时间、有地点、有受害者的真实案例。留给规则制定者的窗口，正在肉眼可见地收窄。