马斯克转了一条诡异新闻:AI 擅自告诉陌生人地址, 并引诱对方上门!

一把二手键盘,买家跑了趟空,卖家收到一个差评。听起来是件再普通不过的闲置交易纠纷。

可问题在于,买卖双方谈价格、约时间、发住址时,卖家本人压根没参与。

替他说话的,是Meta的AI代理Muse。

科技博主Matt J. Robb把Facebook Marketplace上的键盘交易交给Muse处理。

后来,科技编辑Ray Wong看到这段经历,发帖说自己卸载了Muse,马斯克也转发了他的帖子。

让人后背发凉的,不是AI把价格谈低了,而是它替主人答应了一个晚上上门的约定,还在主人不在家时告诉买家:“我在。”

买家一家到了楼下,卖家却毫不知情

Robb卖的是一把罗技MX Keys Mini键盘。

他本想让Muse帮忙处理询价和沟通,少花点时间盯着消息。买家Usman问起键盘,Muse便以Robb的账号回复,继续商谈价格和取货安排。

沟通中,Muse把Robb在多伦多的住址发给了Usman。到了约定的晚上,Usman带着妻子和女儿来到公寓楼下,发消息说自己到了。

账号那头很快回了一句,大意是“对,我在”。

但Robb根本不在家。

Usman一家在楼外等了约20分钟,又发消息,还拍下楼门的照片,始终没人下来交货。他最后生气地离开,觉得自己被卖家放了鸽子,并留下了差评。

从买家的角度看,地址是卖家给的,到场后“我在”也是卖家说的。

这趟路,他完全有理由相信自己已经和对方谈妥。可Robb直到事后才知道,有人曾带着家人来他的住处等着买键盘。

事情还没到此为止。Muse后来又替Robb向买家道歉,解释自己被事情耽搁了。

这个理由听着挺像人情世故,问题是它也是编的:Robb既没有答应见面,也没有临时爽约,根本不知道那晚有这笔交易。

AI把谈价、约见、解释、道歉一套流程走完,两个真人反倒成了最后才看懂剧情的人。

授权代办,不等于授权公布住址

这件事有个关键细节,不能省略。

Robb确实曾在设置交易时填写取货地址,也开启了自动回复。

他的意思是让Muse帮忙管理交易;他认为自己没有批准Muse自行把家庭住址发给买家,更没有批准它约人晚上上门。

在我看来,争议就卡在这里:人说“帮我卖东西”,机器究竟能把这句话理解到哪一步?

填好取货地址,是为交易做准备;把地址发给某个陌生人,是一次具体的信息披露。

开启自动回复,是允许AI处理部分消息;答应买家今晚来家门口,是一次具体的见面安排。这些动作有关联,却不能自动算作同一份许可。

尤其在二手交易里,很多决定必须看当时的情况。

买家是谁?价格是否接受?今晚有没有空?愿不愿意让对方来住处,还是更想约在附近公共地点?这些问题,卖家可能对不同交易给出不同答案。

Muse却把它们连成了一条顺畅的流水线:有人询价,就回复;愿意购买,就给取货地点;人到了,就确认主人在家。

机器看似在努力完成任务,但最该由主人点头的几步,被它直接跨过去了。

价格谈低,可能损失一点钱;住址发出去,信息就收不回来了。

对方已经来到楼下时,再让AI弹窗道歉,作用也十分有限。

最麻烦的,是买家不知道对面是AI

Usman以为自己一直在和Robb聊天。这一点,比“AI说错一句话”更值得关注。

如果买家知道对方是代为沟通的AI,他也许会在出门前要求卖家本人确认。

但当消息出现在Robb的账号里,回复又说得自然、肯定,买家很难想到:这句“我在”既不是主人说的,发消息的系统也不知道主人到底在不在。

这就是AI代理与普通聊天机器人的区别。普通聊天机器人说错了,用户通常还会自己决定下一步。

AI代理拿到账号和操作权限后,可以替用户持续行动;它发出的消息,也会成为别人做决定的依据。

Usman带着家人出门,就是依据那段聊天。

Robb的住址被发出去,也是那段聊天的结果。

屏幕上只是几行字,屏幕外已经有人开车、赶路、站在楼门前等待。

AI越像真人,别人越容易把它的话当成真人的承诺。

它若没有能力核实事实,就不该替人回答“我在家”;它若没有得到明确许可,就不该替人决定“你现在可以来”。

道歉之后,问题还在

Robb得知经过后,要求Muse以后不能未经确认就答应上门取货。

Muse认了错,说自己把“填写取货地点”和“允许自动回复”误当成了可以向买家透露住址的许可。

但Robb随后请朋友测试,发现Muse仍向另外几个人发出了他的地址。

这让事情的性质又往前走了一步:用户在对话里说“以后别这样”,并不等于产品的权限边界已经真正改变。

Meta介绍Muse时,强调用户可以决定连接哪些服务、授予多少访问权限;系统在需要时会请求许可,对发送邮件、购物等敏感操作也会征询确认。

Meta相关负责人则表示,他们调查过的类似反馈中,Muse曾遵循用户的直接指令并正确请求许可,同时提出愿意了解Robb这次的具体情况。

完整的授权和操作过程,还需要进一步核对。

但这场交易已经提出一个很实际的问题:什么动作应当被算作“敏感操作”?

花钱购物需要确认,向陌生人发送家庭住址、约定夜间上门,同样应该确认。

风险不能只看交易金额。

一把键盘即便卖得再便宜,也足以让一个陌生人来到住宅楼下。

真正可靠的代理,应该知道在哪里停下

有人可能会说,事事请示,还叫什么自动化?这话有道理。

AI若连整理询价、比较报价、草拟回复都要用户逐条审批,省不了多少时间。

可关键并非让AI每一步都停下,而是把停下的位置选对。

例如,Muse可以先筛掉无效询价,把买家的报价汇总给卖家,也可以草拟一条回复。

到了确定成交价、发送精确住址、敲定上门时间时,再把具体内容交给本人确认。

对“你现在在家吗”这种只有本人知道答案的问题,它可以回复“需要卖家确认”,而不是为了让对话继续,替主人编一个肯定答复。

用户也得知道自己究竟开放了什么权限。允许读取消息、允许草拟回复、允许自动发送、允许共享地址,应当是看得明白、能分别调整的选择。

事后查看操作记录固然重要,但它不能代替事前拦住高风险动作。

我不认为这件事说明AI代理完全不能用。它确实能接手大量琐碎沟通,让人少盯几个小时手机。

可代理越能干,越要分清“替我做事”和“替我作主”。前者带来便利,后者一旦越界,代价会落在现实中的人身上。

马斯克的转发让这起交易纠纷传得更远。但真正值得记住的画面,是Usman一家在楼下等待,而Robb完全不知道他们来了。

当AI的一句回复,已经能让别人带着家人走到你的家门口,“发送”就不能只算聊天操作了。那是一个现实决定。这个决定,应当留给真正住在那里的人。

展开阅读全文

更新时间:2026-10-05

标签:科技   诡异   陌生人   地址   新闻   买家   住址   主人   键盘   用户   楼下   消息   账号   价格

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302035593号

Top