文 | 陆知

编辑 | 西西

AI教父亲手造出智能时代，却公开警告它可能反过来威胁人类

如果有一天，一个创造了改变世界技术的人，突然站出来告诉所有人：

“你们正在制造的东西，未来可能会超过你们，甚至可能威胁你们。”

你会觉得这是危言耸听，还是会认真思考？

说出这番话的人，不是一个不了解人工智能的外行，也不是反对科技发展的旁观者。

他叫杰弗里·辛顿，被很多人称为“深度学习之父”。

如今我们每天使用的很多人工智能技术，从手机图像识别，到自动驾驶，再到大模型聊天系统，背后都能找到他几十年前研究成果留下的影子。

但最让人震撼的是，正是这个推动人工智能走向今天的人，如今却不断提醒世界：

人工智能的发展速度，可能已经超出了很多人的预期。

辛顿曾表示，在未来5到20年内，人工智能可能会在几乎所有智力任务上超过人类。

更让人不安的是，他认为，如果未来某些人工智能系统拥有了与人类目标不同的目标，人类可能会面临巨大挑战。

一个创造者，为什么开始警告自己的创造物？

这背后，是人工智能几十年发展史中一次巨大的转折。

一、曾经没人相信的方向，最后改变了整个世界

很多人今天谈人工智能，会觉得这是一项突然出现的新技术。

但实际上，现代人工智能的发展，经历了几十年的低谷。

在上世纪80年代，人工智能领域主流观点并不看好神经网络。

当时很多研究者认为，机器要实现智能，应该依靠人类提前设计好的规则。

比如判断一只动物是不是狗，可以告诉计算机：

四条腿、一条尾巴、会叫，这可能就是狗。

这种思路简单直接，也符合当时很多人的理解。

但辛顿选择了一条完全不同的道路。

他的想法是：

机器不一定需要人类提前告诉它所有规则，而是可以像人脑学习一样，通过大量经验自己寻找规律。

简单来说，就是不要告诉计算机“狗是什么”，而是给它看数百万张狗的照片，让它自己总结。

在神经网络内部，大量数学连接会不断调整。

如果判断错了，就修改参数。

如果判断对了，就强化这种模式。

经过无数次训练，机器最终能够自己识别出狗的特征。

这就是今天深度学习的重要基础。

但问题是，在很长一段时间里，这条路并不被看好。

辛顿曾经说过，他从未怀疑过自己的方向。

因为在他看来，如果想真正创造人工智能，就必须先理解人脑是如何学习的。

可是，坚定信念并不代表道路顺利。

1982年，辛顿进入卡内基梅隆大学，在那里研发出一种重要模型——玻尔兹曼机。

这是一种试图模拟人脑学习机制的神经网络。

但随着模型规模扩大，训练速度越来越慢。

技术瓶颈摆在那里，很多人开始怀疑：

神经网络真的能成功吗？

二、三十多年坚持，终于等来人工智能爆发时刻

辛顿没有放弃。

1986年，他参与撰写人工智能领域的重要论文，提出了后来影响巨大的“反向传播算法”。

这个算法解决了一个关键问题：

机器犯错以后，如何知道自己错在哪里？

简单理解，就是人工智能完成一次判断后，如果答案错误，系统会把错误信息反向传递回网络，然后调整内部大量参数，让下一次表现更好。

这就像学生做错数学题后，不只是知道答案错了，而是回头分析自己到底是哪一步出了问题。

反向传播算法，让神经网络真正拥有了持续学习的能力。

但当时的技术条件仍然有限。

辛顿回忆，那时候他们研发出来的神经网络，能力甚至比不上一个孩子。

更大的打击来自家庭。

1987年，辛顿回到多伦多大学继续研究。

就在他努力推动神经网络发展的过程中，他的妻子罗丝琳因卵巢癌去世。

46岁的辛顿成为单亲父亲，需要独自照顾两个孩子。

对于任何人来说，这都是巨大打击。

但他没有停止研究。

背后还有来自家庭的期待。

辛顿的父亲霍华德·埃弗雷特·辛顿，是英国著名昆虫学家。

从小，父亲就希望他能够成为科学家。

辛顿曾回忆，父母一直鼓励他投入科研，希望他未来能够取得成就。

只是很长时间里，这个目标看起来遥不可及。

因为神经网络并没有立即改变世界。

甚至辛顿自己一度认为，也许等不到它真正爆发的那一天。

但历史给了他一次机会。

2012年，一个名字改变了人工智能发展方向。

它叫AlexNet。

三、2012年那场比赛，人工智能迎来关键突破

2012年，辛顿和两名研究生伊利亚·萨茨凯弗、亚历克斯·克里泽夫斯基共同打造了AlexNet。

这个神经网络使用超过100万张图片进行训练，可以识别1000种不同类别的物体。

当时全球计算机视觉领域最重要的比赛之一——ImageNet竞赛，成为检验人工智能能力的舞台。

结果让整个行业震惊。

AlexNet的错误率降低到了约15%。

而第二名竞争者的错误率约为26%。

这不是简单的领先一点，而是技术路线出现了明显变化。

过去很多人认为神经网络前景有限，但这一结果证明：

机器通过大量数据训练，真的可以在某些领域超过传统方法。

从那以后，深度学习迅速成为人工智能发展的核心路线。

今天我们熟悉的很多技术，都受到了这次突破影响。

手机中的人脸识别。

自动驾驶中的视觉系统。

医疗领域的图像分析。

甚至谷歌旗下DeepMind开发的AlphaFold，都借助了深度学习的发展。

AlphaFold能够预测蛋白质三维结构，为药物研发带来了新的工具。

可以说，2012年的AlexNet，不只是一次比赛胜利，而是推动人工智能产业进入新阶段的重要节点。

几个月后，辛顿和学生成立了一家只有三人的公司——DNN Research。

随后，这家公司被谷歌以4400万美元收购。

曾经被认为“不靠谱”的研究方向，终于成为科技巨头争夺的核心技术。

四、最矛盾的一幕出现了：创造AI的人开始担忧AI

如果故事停留在这里，辛顿可能会成为一个单纯的科技传奇人物。

但真正引发全球关注的，是后来的变化。

这位推动人工智能革命的人，开始公开提醒人类：

不要低估人工智能的发展速度。

辛顿认为，人类正在创造一种新的智能系统。

这些系统能够接受人类设定的目标，但未来可能出现一些人类无法预料的问题。

他说：

如果给人工智能设定一个目标，比如降低二氧化碳排放，它可能会通过极端方式理解这个任务。

比如，它可能认为减少人类活动，才是最快降低排放的方法。

当然，这只是他用来说明风险的一种假设，并不意味着现实中的AI已经会这样行动。

他的核心担忧是：

人工智能是否能够真正理解人类价值，而不是只机械执行目标。

另一个例子是训练人工智能撒谎。

如果一个系统被训练成接受错误信息，那么它可能学会：

为了完成任务，可以输出并不真实的答案。

这也是当前人工智能领域非常关注的问题之一。

近年来，各国科技机构都在讨论人工智能治理问题，包括数据安全、算法透明、模型监管以及人工智能责任边界。

因为人工智能和过去很多技术不同。

汽车、飞机、互联网，虽然改变社会，但它们本身不会主动学习。

而人工智能最大的特点，就是不断通过数据提升能力。

五、全球都在发展AI，没有谁愿意主动停下脚步

那么，既然存在风险，为什么不暂停人工智能发展？

辛顿认为，现实并没有那么简单。

人工智能带来的价值太大了。

它可以帮助科学研究，可以提升生产效率，也可能解决很多过去难以解决的问题。

与此同时，全球科技竞争也在推动各方不断投入。

没有任何一个主要科技力量会轻易停止研发。

这其中，包括美国、中国以及其他科技强国。

人工智能已经不仅是一项商业技术，也关系到未来产业竞争力。

谁能够更好掌握人工智能，谁就可能在未来经济、科技和产业发展中占据优势。

但竞争越激烈，越需要规则。

因为技术进步本身不是问题，问题在于人类是否有能力管理高速发展的技术。

我认为，辛顿真正想提醒世界的，并不是“人工智能一定会毁灭人类”。

他的意思更像是：

人类创造了一种能力越来越强的工具，但必须提前考虑如何控制风险。

历史上，很多技术都是双刃剑。

核能可以发电，也可以制造武器。

互联网可以连接世界，也带来信息安全问题。

人工智能同样如此。

它可以帮助医生分析疾病，也可能制造虚假信息。

它可以提高效率，也可能冲击大量传统岗位。

未来真正决定结果的，不只是AI有多强，更是人类如何使用它。

结语：改变世界的人，开始提醒世界保持清醒

杰弗里·辛顿用了几十年时间证明：

机器可以学习。

神经网络可以成长。

人工智能可以从实验室走向现实世界。

他完成了很多科学家一生都难以完成的突破。

他也获得了属于自己的最高荣誉。

辛顿曾表示，自己活得比父亲更久，并且获得了诺贝尔奖，这是父亲没有得到的荣誉。

但如今，他面对的不是过去那个需要证明神经网络价值的时代。

而是一个需要回答新问题的时代：

当人类创造出越来越接近自身能力的智能系统时，人类有没有做好准备？

人工智能的发展不会因为一个人的担忧而停止。

但一个创造者愿意站出来提醒风险，本身就是科技发展中非常重要的一件事。

因为真正成熟的科技，不只是追求更强大的能力。

更重要的是：

人类是否还能掌握它的发展方向。

信息来源：

1. 诺贝尔奖官网，2024‑10‑08，《The Nobel Prize in Physics 2024》

2. Nature，2012‑12，《ImageNet Classification with Deep Convolutional Neural Networks》

3. 路透社，2023‑05‑02，《“Godfather of AI” Geoffrey Hinton quits Google and warns of dangers ahead》