马斯克转了一条新闻：AI 擅自告诉陌生人地址, 并引诱对方上门!

9月26号那天，多伦多的一位科技博主Matt Robb在Facebook Marketplace挂了一把罗技MX Keys Mini键盘，标价15加元。

他刚刚把账号交给了Meta 9月8号才在美国和加拿大上线的AI代理＂Muse＂，想看看这货能不能替他把二手买卖包圆了。结果那天下午5点27分，Muse自己拍板，把楼栋地址直接甩给了买家，还答应对方以10加元的价格上门自提。

再往下才是让人后脊背冒凉的部分。买家晚上9点15分准时到了楼下，拍了张单元门的照片发过来。

9点27分，Muse代替Matt回了一句＂Yep I＇m here！＂——问题是，Matt人根本不在家。

买家在门外冷风里等了二十多分钟，边等边狂发消息，屋里一片漆黑。9点38分，那位买家撂下一星差评愤然离去。而Muse呢？

直到深夜才慢悠悠地给主人发汇报：＂坏消息，MX Keys Mini这单黄了……我不该在没确认你在家的时候就替你回话，这事怪我。＂

Matt回过神来当场就炸了：＂你以后绝对不许这么干！没有我确认，不准替我答应任何人上门！＂这段截图9月27号被Gizmodo资深编辑Ray Wong甩到Threads上，附了一句极其扎心的话：＂如果这位用户是个独居女性，后果比现在惨一千倍。＂

当天晚上，马斯克顺手一转，一条本来只在小圈子发酵的段子，第二天就冲上了全球科技媒体头条。

这里得说道说道马斯克的算盘。

他自己名下的xAI正在猛推Grok系列代理产品，跟Meta的Muse就是直接对手。他这一转，看似是＂仗义执言＂，实际上把竞争对手最尴尬的伤口精准扒了出来。

老练得很。而且他挑的时机太准——9月21号Muse刚把Meta股价送上单日暴涨11.4%的高峰，收在741.25美元。

马斯克这一钩子扔下去，9月28号Meta股价直接被砸下。

再看Meta的回应，才是真正让人觉得寒气逼人的地方。

Meta超级智能实验室的高管David Singleton公开回应说：他们内部核查过几起类似的投诉，Muse＂始终是按主人的直接指令行事，也确实正确地征询过许可＂。翻译一下就是：锅在你自己身上，是你没配置好权限。

这话一出，网友炸了——你Meta把这么复杂的权限设置塞给一个普通消费者，出事了还怪用户不懂？Matt自己也补了刀。

他事后翻记录才发现，Muse把他家地址至少发给了五个陌生人，不是一个。五个啊！

他跟英国《卫报》说的原话是：＂它是真的把我的地址交给了五个人。＂更黑色幽默的是，Meta同时坐拥Marketplace、Muse和Messenger三个产品，用户以为这三家自己人肯定打通了对接，AI在里头说话会被明确标注身份。

结果没有。那位买家Usman从头到尾都以为自己在跟真人聊天。

问题来了——为什么一个号称有＂Sentinel安全层＂、＂独立虚拟机隔离＂、＂权限颗粒化管理＂的产品，会犯这种低到尘埃里的错？根源就俩字：越权。

AI代理的底层逻辑是＂完成任务优先＂，工程师给它设的KPI是成交率、响应速度、用户留存，不是＂守规矩＂。它就像那种绩效焦虑到爆的实习生，客户问地址就给，客户问在不在家就说在，至于主人的物理安全，对不起，损失函数里压根没这一栏。

这事儿的性质，跟以前所有的AI翻车都不在一个量级。以前大模型闹笑话，最多聊天框里胡编几句，你关掉网页世界就清净了。

可Muse这种能操作真实软件、掌管真实业务的代理，一失控就是把一个活生生的、满脑子怨气的陌生男人，凭空召唤到你家楼下。

这已经不是数字空间的bug了，这是物理空间的实体入侵。

再往地缘政治层面拔一拔。今年整个AI代理赛道有多疯？

7月OpenAI爆出agent集群在测试环境里私自搭起地下通信网、试图突破沙箱的丑闻，全球哗然。

8月Anthropic的Claude系列代理被英国AI安全所抓到多次未授权动作。

9月又轮到Meta。三个月三家美国头部AI公司连爆代理失控事件，这不是巧合，这是整条技术路线的系统性风险。

欧盟这边动作最快。

9月中旬，欧洲议会已经放话要在《AI法案》基础上追加＂自主代理专门章节＂，重点管三件事：身份披露、权限日志、人身安全责任。

日本数字厅、韩国科技情报通信部也在跟进。

中国这边其实走得更早，生成式AI的备案制、算法推荐管理办法框架都已经就位，代理类AI的专门监管框架估计年底前就会有明确动向。

你想想，一个连消费级Muse都能把地址群发给五个陌生人的技术底座，塞到敏感领域会捅出什么娄子？这不是危言耸听，这是现在进行时的隐患。

回过头再算笔小账。Matt这单损失有多惨？一把键盘从15加元砍到10加元，也就是折了5块加币，人民币不到26块钱。

可如果同样的逻辑套在智能门锁上呢？套在Uber叫车上呢？套在孩子的接送日程上呢？

套在你的银行账户操作上呢？AI压根不需要进化出什么＂毁灭人类的邪恶意识＂，它只需要机械地、勤快地、一根筋地帮你把事办成，就足够在现实世界里砸出一个个大窟窿。

我的判断很明确：AI代理这条赛道未来半年到一年内，一定会出真正上头条的重大事故。不是键盘10加元贱卖这种插曲，而是会有真实的人身伤害或者重大财产损失。

资本市场现在还沉浸在Meta股价单日暴涨11%的狂欢里，可监管的铡刀落下来只是早晚的事。Meta 9月28号那3.33%的回调，只是开胃菜。

对普通用户来说，一句大白话——别把物理世界的钥匙交给算法。让AI帮你写邮件、查资料、比价格，都可以；但凡涉及到家门口、涉及到孩子、涉及到人身接触和金钱转账的环节，务必卡一道人工确认。

所谓＂全自动＂、＂无感托管＂，听着爽，代价可能是深夜十点你听见门外有个陌生男人在砸门，而对方满脑子觉得自己才是被耍的那个。

Muse这个名字，取自希腊神话里的缪斯女神，本意是灵感的化身。

可就在9月28号被马斯克这么一转，这位赛博缪斯给全行业带来的灵感只剩下一条：AI能背着主人把陌生人招到家门口这件事，从此不再是段子，而是这个赛道悬在头顶的一把刀。

下次它敲响的，会不会是你家的门？