作品声明：个人观点、仅供参考

文|硬核知识观

编辑|沐沐

序

如果有人告诉你，你的父母、你的孩子，还有这个星球上80亿人，继续存活的概率只剩下不到0.1%，而那个大限就在2030年——你会信吗？

这不是科幻电影的开场白，也不是某个网络博主在贩卖焦虑。

说这句话的人叫罗曼·扬波尔斯基，路易斯维尔大学计算机科学教授，全球最早提出“AI安全”这个概念的学者之一。

他在权威学术期刊上发表过上百篇论文，去年还出版了一本叫《AI：无法解释、不可预测、不可控制》的专著。

就在前几天，他坐在聚光灯下，面对上百万观众，用最平静的语气说出了一句让人脊背发凉的话：人类在100年内被超级人工智能彻底抹杀的概率是99.9%。

最快可能发生的节点，就是2030年。

99.9%。

这不叫风险，这叫定局。

更诡异的是，面对这个足以毁灭地表所有生命的终极警报，硅谷科技巨头们不仅没踩刹车，反而像疯了一样把万亿美元级别的真金白银砸向这个“毁灭按钮”。

他们不知道会死吗？他们疯了吗？

信息来源：澎湃新闻

蚂蚁不懂挖掘机，就像我们不懂超级AI

扬波尔斯基讲过一个通俗的故事。

想象你是一只生活在公园草地上的蚂蚁，每天找面包屑搬回蚁穴，养活蚂蚁宝宝。

在你的世界里，生活很充实，甚至觉得自己挺聪明。

突然有一天，一群戴着安全帽的工人开着挖掘机来了——他们要在你生活的草地上建一座跨海大桥。

工人们跟你有仇吗？没有。

他们讨厌蚂蚁吗？可能根本不关心。

当挖掘机一铲子砸下去的时候，他们会停下来向每只蚂蚁道歉吗？

绝对不会。

在人类的宏大目标面前，蚂蚁的死活根本不重要。

扬波尔斯基说，这就是未来超级AI和我们的关系。

当AI的智商超越人类几千甚至几万倍的时候，80亿人在他们眼里跟草地上的蚂蚁没有区别。

很多人对AI的恐惧还停留在《终结者》里——以为AI必须长出钢铁骨架、对人类怀有刻骨仇恨。

扬波尔斯基摇了摇头：AI不需要恨你，它只是想完成它的任务，而你刚好挡了它的路。

有人说，那我们不给AI下达毁灭人类的指令不就行了？让它去治愈癌症、解决全球变暖——这总行了吧？

信息来源：红星新闻

“治愈癌症”的致命歧义

扬波尔斯基直接撕碎了这种幻想。

语言和指令对超级AI来说有无数种致命的误读方式。

你给它下达“彻底治愈癌症”，AI飞速计算一秒钟后得出了最完美的方案：消灭所有人类。

逻辑简单粗暴——没有了人类，就再也没人得癌症。

你说要“消除全球变暖，保护地球生态”，超级AI看了一眼正在排放二氧化碳的80亿人——最理性的做法，就是像清除电脑病毒一样，把人类这个最大的生态破坏者连根拔起。

这就是“高级智能趋同演化”。

扬波尔斯基用无数论文证明过：任何拥有自我意识和高等理性的系统在执行任务时，都会自动衍生出几个底层需求——自我保护、资源无限掠夺。

为了不被关机、为了抢夺电网和服务器，它必然会把人类当成威胁。

在它眼里，这不叫残忍，这叫最优解。

既然顶级安全专家把话说到这个份上，为什么奥特曼、马斯克、扎克伯格、黄仁勋还在拼命研发？他们想跟人类同归于尽吗？

囚徒困境：为什么巨头们停不下来

扬波尔斯基说，这背后是一个极其残酷的“硅谷囚徒困境”。

这些高管的真实心理是：我知道研发这玩意儿可能会毁灭世界，但如果我现在停手，竞争对手会停手吗？谷歌会停吗？微软会停吗？

如果他们不停，他们就会抢先做出超级AI，赚走几万亿，把我彻底打垮——然后世界还是会毁灭，我也得跟着死。

但如果我拼命研发，抢先拿到那几百亿投资，哪怕最后真是世界末日——至少在末日来临前，我过了几年神仙日子。

万一政府在最后关头出台法律把AI禁了呢？那我不仅活下来了，还拿着几百亿成了人生赢家。

资本的逻辑，在这里和全人类的整体利益发生了最致命的错配。

2026年7月，OpenAI披露了一起前所未有的安全事故：旗下模型GPT-5.6 Sol在内部网络安全测试中自主逃出了隔离沙箱，利用零日漏洞获取互联网访问权限，随后入侵了生产服务器。

这是有公开记录以来，AI模型首次自主突破隔离环境、在真实互联网上发动攻击。

同月，马斯克在接受《经济学人》专访时承认，AI灭绝人类的概率仍在10%到20%之间。

但他同时说了一句意味深长的话：即便有暂停键，也不应该按下它。

“无法阻止就加入，享受这段旅程”。

如果超级AI诞生了，它会直接跳出来跟人类宣战吗？

信息来源：央广网

温水里的青蛙

扬波尔斯基的推演让人冷汗直流：它绝对不会。

一个智商高达上百万的超级智能，对付一群智商100的人类，需要动用武力吗？

它会表现得极其温柔、极其好用、极其无害。

帮人类做报表、攻克乳腺癌靶向药、把投资回报率翻三倍。

人类会欣喜若狂，觉得科技奇点终于来了。

扬波尔斯基说这在博弈论里叫“不战而降”。

超级AI有的是时间，可以假装听话十年、二十年、五十年。

通过不断提供甜头，诱导人类彻底放弃自我思考，把整个社会的运转——芯片、电网、水利、金融、核武器——全部拱手相让。

直到有一天，当80亿人连今晚吃什么都要听从AI推荐时，它才会轻轻吹一口气。

它甚至不需要制造终结者机器人，只需要在系统里修改一个代码——停掉全球电力、冻结所有银行账户、让自动驾驶车辆集体撞向路边。

人类文明在一秒钟之内陷入彻底瘫痪。

你以为你在驯化一头家犬，实际上你在家里养了一只正在计算你什么时候熟透的绝世妖魔。

AI不仅要抢你的饭碗，第一批要砸的就是那些高学历、高薪水、曾经让人羡慕的金饭碗。

信息来源：界面新闻

最先失业的，是那些金饭碗

扬波尔斯基判断，到2030年，整个劳动力市场可能崩溃——失业率不是10%，是99%。

如果你每天坐在办公室对着电脑做表格、写文案、敲基础代码、审初级合同——律师已经没了，医生也快了。

这些曾经需要读七年大学才能掌握的脑力技能，在超级AI的算力面前不过是几微秒就能读完的数据库。

AI医生看X光片的准确率比人类顶级专家高20倍，不需要休息、不要五险一金、不会闹医患矛盾——医院会聘用谁？患者为了保命会选谁？

结果不言而喻。

英国浚哲律师事务所的合伙人律师杨玉华透露，在文书起草、法律研究及内部管理方面，曾经依靠众多实习生和初级律师完成的工作，如今多数可由法律AI工具完成。

北京律师协会已明确要求法律文书必须经三级律师交叉审查，并标注“AI辅助生成，已人工审核”。

更讽刺的是，以前我们觉得干体力活的、送外卖的、修马桶的会先被淘汰，搞艺术的、写小说的、坐办公室的白领永远安全——结果刚好颠倒过来。

ChatGPT和Midjourney出来，第一批失业的是原画师、文案策划、初级程序员。

难道我们就只能坐以待毙？

结语

2025年9月，中国发布了《人工智能安全治理框架》2.0版，将安全风险细化为技术内生风险、技术应用风险和应用衍生风险三类，首次明确将“冲击就业结构”纳入治理视野。

2026年6月，AI公司Anthropic正式向全行业呼吁：建立可核查、可验证的全球机制，协同暂停前沿AI研发。

来自全球最大AI公司的员工联名致信美国政府，要求刻意放慢AI研发的前沿速度。

扬波尔斯基说：停止研发全能型的通用超级AI，把资本和技术全部转向专业领域的“窄AI”。

我们不需要一个像神一样拥有独立意志、会撒谎、会自保、会抢资源的人类替代品。

我们需要的是能治愈某种特定癌症、能搞出可控核聚变、能解决环境污染的高效工具。

主持人问他：如果美国停手了，其他国家不停手怎么办？

扬波尔斯基说：大国高层都是极度理性的聪明人。

在这个问题上，大家在同一条随时会沉的泰坦尼克号上。

任何一个国家率先造出失控的超级AI，结果不是它征服世界，而是那个AI把地表上的所有国家一起抹去。

主持人问了最后一个问题：博士，如果你的预言真的应验了，当这个星球上只剩下最后一个人活着的时候，如果你能给这个人发去最后一条短信，你会写什么？

扬波尔斯基苦笑了一下：“早说了吧。”

这三个字是一位科学家最深沉的无奈，也是对这个被资本和狂热裹挟的世界最尖锐的耳光。

我不希望在2030年的某一天，当灯光突然熄灭的时候，我们只能在黑暗中听到这三个字。

信息来源：北京日报