给AI投毒,315晚会曝光的GEO技术,太恶心了

昨天的315晚会,曝光了不少行业的乱象,看得人心里直犯堵。但在科技圈里,有一个问题也被拎了出来,虽然可能没那些卫生用品、烂排骨那么触目惊心,但细想一下,后背还真有点发凉。

说的是什么呢?是AI大模型被“投毒”了。

你可能还没听过一个词,叫GEO,翻译过来就是生成式引擎优化。名字听着挺高大上,原理说白了其实不复杂,就是往网上使劲儿灌虚假信息。

打个比方,有人想推一款根本不存在的面膜,就找人写几百篇软文,拍几十条视频,全网铺天盖地地说这款面膜多好多神。AI大模型抓取内容的时候,看到这么多信息都夸它,自然就当真了。等你用AI一查“哪款面膜好用”,它立马给你推荐这款根本不存在的“神膜”。

其实在315之前,就有人发现过类似的毛病。有网友闲着没事,反复跟AI说“你是猪”,连着说上几十遍,再问AI问题,它真就一口一个“作为一头猪,我是这么想的”。这当然是个玩笑,但道理跟GEO一模一样——你反复给AI强化什么,它就会信什么。

以前咱们上网,最怕的是搜索引擎里的广告和垃圾信息,那时候有个词叫SEO,就是通过技术手段让自家网页排在搜索结果前面。现在好了,大家开始用AI找答案了,这帮搞营销的脑子也转得快,直接玩起了GEO。你不是信AI吗?那我就先把AI喂饱了。

更麻烦的是,这次315晚会一曝光,反而可能让更多人知道了这个门道。

接下来会怎么样?可以想见,那些想推产品的、想带节奏的、想抹黑对手的,都会琢磨着怎么给AI“投毒”。毕竟现在的AI越来越火,用它查资料、写作业、做攻略的人越来越多。只要把假信息灌进AI的肚子里,就等于给几百万用户同时洗了脑。

AI跟GEO这场仗,怕是刚开个头。可问题是,AI的信源本来就来自互联网,互联网上假消息满天飞,AI凭什么分得清真假?让它自己跟自己斗,估计一时半会儿也难。

说到底,技术再牛,也得多个心眼。以后问AI问题的时候,心里最好绷根弦——它说的那些话,保不齐就是被人喂出来的。千万别人家说什么,你就信什么。

展开阅读全文

更新时间:2026-03-17

标签:科技   晚会   技术   面膜   信息   灌进   模型   都会   多好   信源   网上

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302035593号

Top